- 檢驗檢測機構試驗數據處理方法
- 滕葳 李倩 柳琪
- 807字
- 2020-04-10 17:03:12
第二節 運算法則
在處理數據時,常遇到一些準確度不同的數據。這類數據必須按照一定的法則進行運算,既可節省計算時間,又可避免過繁的計算引入錯誤,使結果能真正符合實際測試的準確度。常用的運算法則如下。
一、加法與減法的運算
只有同一物理量才能進行加減運算,而且在運算之前還必須化為同樣的單位。幾個數相加減時,所得和或差的有效數字決定于絕對誤差最大的值,即最后結果的有效數字自左起不超過參加計算數值中第一個出現的可疑數字。如在小數的加減計算中,結果所保留的小數點后的位數與各數值中小數點后位數最少者相同。
在實際計算時,保留的位數常比各數值中小數點后位數最少者多留一位小數,而計算結果則按上述規則處理。
例1-17 508.4-438.68+13.046-6.0548=508.4-438.68+13.05-6.05=76.7
最后計算結果只能與絕對誤差最大者(508.4的絕對誤差為0.1,最大),即小數點后位數最少者相同,所以得76.7。
例1-18 12.3+2.345+0.1234=12.3+2.34+0.12=14.8
二、乘法與除法的運算
幾個數值相乘除時,所得積或商的有效數字位數決定于相對誤差最大的數值,即要與各數值中有效數字位數最少者相同。在實際計算時,可先將各數值修約至比有效數字位數最少者多保留一位,然后再將計算結果按上述規則處理。
例1-19 0.0676×70.19×6.50236=0.0676×70.19×6.502=30.9
最后的計算結果所保留的位數按上述原則處理。三個數值的相對誤差RE分別為:
所以0.0676的相對誤差最大,有效數字的位數應決定于0.0676的有效位數,即三位有效位數。另外0.0676為三位有效位數,也是三個數值中有效位數最少者。因此,最后計算結果只能為三位有效位數。
例1-20 1.1×2.233×0.3344=1.1×2.23×0.334=0.82
三、乘方、開方以及對數、反對數的運算
(1)乘方和開方的運算:數字進行乘方或開方時,原數字有幾位有效位數,計算結果就應保留幾位有效位數。
例1-21 6.542=42.8
(2)對數與反對數的運算:在數字的對數計算中,所取對數的小數點后的位數(不包括首數)應與真數的有效數字位數相同。
例1-22 求為7.98×10-2mol/L的溶液的pH值。
上例中真數是7.98,為三位有效位數,對數1.098的小數點后也應是三位。
例1-23 求pH值為3.20的溶液的。
上例中對數3.20的小數后有兩位,所以真數也應取兩位有效位數。