- 水質(zhì)分析技術(shù)(第2版)
- 王有志主編
- 2390字
- 2020-09-15 09:06:47
1.6 數(shù)據(jù)處理
1.6.1 有效數(shù)字
1.6.1.1 有效數(shù)字的意義
有效數(shù)字用于表示測量結(jié)果,指測量中實(shí)際能測得的數(shù)字,即表示數(shù)字的有效意義。有效數(shù)字與通常數(shù)學(xué)上的數(shù)值在概念上是不同的。由有效數(shù)字構(gòu)成的數(shù)值(如測定值),其位數(shù)反映了計(jì)量器具或儀器的精密度和準(zhǔn)確度。例如,34.5、34.50和34.500在數(shù)學(xué)上都視為同一數(shù)值,如用于表示測定值,則其所反映的測量結(jié)果的準(zhǔn)確程度是不同的。一個(gè)由有效數(shù)字構(gòu)成的數(shù)值,其倒數(shù)第二位上的數(shù)字應(yīng)該是可靠的,或?yàn)榇_定的,只有末位數(shù)字是可疑的或?yàn)椴淮_定的。因此,有效數(shù)字是由全部確定數(shù)字和一位不確定數(shù)字構(gòu)成的,是指在分析和測量中所能得到的有實(shí)際意義的數(shù)字。
測量結(jié)果的記錄、運(yùn)算和報(bào)告,必須使用有效數(shù)字。對(duì)有效數(shù)字的位數(shù)不能任意增刪。
由有效數(shù)字構(gòu)成的測定值必然是近似值。因此,測定值的運(yùn)算應(yīng)按照近似計(jì)算規(guī)則進(jìn)行。
數(shù)字“0”,當(dāng)它用于指示小數(shù)點(diǎn)的位置,而與測量的準(zhǔn)確程度無關(guān),不是有效數(shù)字;當(dāng)它用于與測量準(zhǔn)確度有關(guān)的數(shù)值大小時(shí),即為有效數(shù)字。這與“0”在數(shù)值中的位置有關(guān)。
①第一個(gè)非零數(shù)字前的“0”不是有效數(shù)字,例如:
0.0398 三位有效數(shù)字
0.008 一位有效數(shù)字
②非零數(shù)字中的“0”是有效數(shù)字,例如:
3.0098 五位有效數(shù)字
5301 四位有效數(shù)字
③小數(shù)中最后一個(gè)非零數(shù)字后的“0”是有效數(shù)字,例如:
3.9800 五位有效數(shù)字
0.390% 三位有效數(shù)字
④以“0”結(jié)尾的整數(shù),有效數(shù)字的位數(shù)難以判斷,例如:39800可能是三位、四位甚至五位有效數(shù)字。在此情況下,應(yīng)根據(jù)測定值的準(zhǔn)確程度改寫為指數(shù)形式,例如:
3.98×104 三位有效數(shù)字
3.9800×104 五位有效數(shù)字
1.6.1.2 測量數(shù)據(jù)的有效數(shù)字記數(shù)規(guī)則
(1)記錄測量數(shù)據(jù)時(shí),只保留一位可疑數(shù)字。
一個(gè)分析結(jié)果有效數(shù)字的位數(shù),主要取決于原始數(shù)據(jù)的正確記錄和數(shù)值的正確計(jì)算。在記錄測量值時(shí),要同時(shí)考慮到計(jì)量器具的精密度和準(zhǔn)確度,以及測量儀器本身的誤差。
當(dāng)用檢定合格的計(jì)量器具稱量物質(zhì)或量取溶液時(shí),有效數(shù)字可以記錄到其最小分度值,最多保留一位不確定數(shù)字。以實(shí)驗(yàn)室最常用的計(jì)量器具為例:
①最小分度值為0.1mg的分析天平稱量物質(zhì)時(shí),有效數(shù)字可以記錄到小數(shù)點(diǎn)第四位。如1.3485g,此時(shí)有效數(shù)字為5位;稱取0.8642g,有效數(shù)字則為4位。
②用玻璃量器量取溶液體積的有效數(shù)字位數(shù)是根據(jù)量器的容量允許差和讀數(shù)誤差來確定的。如單位線A級(jí)50mL容量瓶,準(zhǔn)確容積為50.00mL;單位線A級(jí)10mL移液管,準(zhǔn)確容積為10.00mL,有效數(shù)字均為4位;用有分度標(biāo)記的移液管或滴定管量取溶液時(shí),讀數(shù)的有效位數(shù)可達(dá)其最小分度后一位,保留一位不確定數(shù)字。
③分光光度計(jì)最小分度值為0.005,因此吸光度一般可記到小數(shù)點(diǎn)后第三位,有效數(shù)字位數(shù)最多只有三位。
④帶有計(jì)算機(jī)處理系統(tǒng)的分析儀器,往往根據(jù)計(jì)算機(jī)自身的設(shè)定,打印或顯示結(jié)果,可以有很多位數(shù),但這并不增加儀器的精度和可讀的有效位數(shù)。
⑤在一系列操作中,使用多種計(jì)量儀器時(shí),有效數(shù)字以最少的一種計(jì)量儀器的位數(shù)表示。
(2)測量結(jié)果的有效數(shù)字所能達(dá)到的位數(shù)不能超過方法檢出限的有效數(shù)字所能達(dá)到的位數(shù)。例如,一個(gè)方法的最低檢出濃度為0.02mg/L,則分析結(jié)果報(bào)出0.088mg/L就不合理,應(yīng)報(bào)0.09mg/L。
(3)在數(shù)值計(jì)算中,當(dāng)有效數(shù)字位數(shù)確定之后,其余數(shù)字應(yīng)按修約規(guī)則一律舍去。
(4)在數(shù)值計(jì)算中,某些倍數(shù)、分?jǐn)?shù)不連續(xù)物理量的數(shù)目,以及不經(jīng)測量而完全根據(jù)理論計(jì)算或定義得到的數(shù)值,其有效數(shù)字的位數(shù)可視為無限。這類數(shù)值在計(jì)算中需要幾位就可以寫幾位。
(5)表示精密度通常只取一位有效數(shù)字。測定次數(shù)很多時(shí),方可取兩位有效數(shù)字,且最多只取兩位。
1.6.2 有效數(shù)字修約及計(jì)算規(guī)則
1.6.2.1 有效數(shù)字的修約
測量值的有效數(shù)字位數(shù)確定后,應(yīng)將它們后面多余的舍去,舍去多余數(shù)字的過程稱為數(shù)字修約。各種分析、計(jì)算的數(shù)值需修約時(shí),應(yīng)按《數(shù)值修約規(guī)則》(GB 8170—2008)進(jìn)行數(shù)值修約。
(1)確定修約位數(shù)的表達(dá)方式
①指定數(shù)位
a.指定修約間隔為10-n(n為正整數(shù)),或指明數(shù)值修約到n位小數(shù)。
b.指定修約間隔為1,或指明數(shù)值修約到個(gè)數(shù)位。
c.指定修約間隔為10n,或指明數(shù)值修約到10n數(shù)位(n為正整數(shù)),或指明將數(shù)值修約到“十”“百”“千”……數(shù)位。
②指定將數(shù)值修約成n位有效位數(shù)。
(2)取舍規(guī)則 各種測量、計(jì)算數(shù)據(jù)需要修約時(shí),應(yīng)按照“四舍六入五考慮,五后非零則進(jìn)一,五后皆零視奇偶,五前為偶應(yīng)舍去,五前為奇則進(jìn)一”的原則取舍,即:
①擬舍棄數(shù)字的最左一位數(shù)字小于5時(shí),則舍去,即保留的各位數(shù)字不變。
例如,如將12.1498修約到一位小數(shù),得12.1,修約成兩位有效數(shù)字,得12。
②擬舍棄數(shù)字的最左一位數(shù)字大于5或雖等于5,而后并非全部為0的數(shù)字時(shí),則進(jìn)1,即保留的末尾數(shù)字加1。
例如,將1268修約到百位,得13×102。將10.502修約到個(gè)位,得11。
③擬舍棄數(shù)字的最左一位數(shù)字為5,而右面無數(shù)字或皆為零時(shí),若保留的末位數(shù)為奇數(shù),則進(jìn)1,為偶數(shù)則舍去。
例如,1.050和0.350的修約間隔為0.1(或10-1),則其修約值分別為1.0和0.4。
如2500和3500的修約間隔指定為1000(或103),其修約值分別為2×103和4×103。
又如將0.0325修約成兩位有效數(shù)字,得0.032,將32500修約成兩位有效數(shù)字,得32×103。
1.6.2.2 有效數(shù)字的計(jì)算規(guī)則
在加減法的計(jì)算中,幾個(gè)數(shù)相加或相減,最后結(jié)果的有效數(shù)字位數(shù)自左起不超過參加計(jì)算的有效數(shù)字中第一個(gè)出現(xiàn)的可疑數(shù)字。如在小數(shù)的加減計(jì)算中,結(jié)果所保留的小數(shù)點(diǎn)后的位數(shù)與各數(shù)中小數(shù)點(diǎn)后位數(shù)最少者相同。在實(shí)際運(yùn)算中,保留的位數(shù)比各數(shù)值中小數(shù)點(diǎn)后位數(shù)最少者多留一位小數(shù),而計(jì)算結(jié)果則按數(shù)值修約規(guī)則處理。例如:
最后計(jì)算結(jié)果只保留一位小數(shù),得76.7。
幾個(gè)數(shù)相乘或相除時(shí),最后結(jié)果的有效數(shù)字位數(shù)要與參加計(jì)算的各數(shù)值中有效數(shù)字位數(shù)最少者相同。在實(shí)際運(yùn)算過程中,先將各數(shù)值修約至比有效數(shù)字位數(shù)最少者多保留一位有效數(shù)字,再將計(jì)算結(jié)果按數(shù)值修約規(guī)則處理。例如:
最后的計(jì)算結(jié)果用三位有效數(shù)字表示為30.9。
在當(dāng)前普遍使用計(jì)算器的情況下,為減少計(jì)算誤差,可在運(yùn)算過程中適當(dāng)保留較多的數(shù)字,對(duì)中間結(jié)果不作修約,只將結(jié)果修約到所需位數(shù)。
- 電氣控制與PLC應(yīng)用(第3版)
- 食品營養(yǎng)與配餐(第二版)
- 職場英語會(huì)話
- 藥品消費(fèi)心理學(xué)
- 智能建筑照明技術(shù)
- 直播策劃與運(yùn)營從入門到精通
- 汽車底盤系統(tǒng)與故障診斷技術(shù)
- 城市軌道交通客運(yùn)服務(wù)手語
- 織物印花與打版
- 機(jī)械設(shè)計(jì)基礎(chǔ)課程設(shè)計(jì)
- 實(shí)用商務(wù)禮儀(第2版)
- 食品標(biāo)準(zhǔn)與法規(guī)
- 網(wǎng)頁設(shè)計(jì)與制作教程:Web前端開發(fā)(第7版)
- 電子線路CAD設(shè)計(jì)
- 新編應(yīng)用文寫作