官术网_书友最值得收藏!

1.6 數(shù)據(jù)處理

1.6.1 有效數(shù)字

1.6.1.1 有效數(shù)字的意義

有效數(shù)字用于表示測量結(jié)果,指測量中實(shí)際能測得的數(shù)字,即表示數(shù)字的有效意義。有效數(shù)字與通常數(shù)學(xué)上的數(shù)值在概念上是不同的。由有效數(shù)字構(gòu)成的數(shù)值(如測定值),其位數(shù)反映了計(jì)量器具或儀器的精密度和準(zhǔn)確度。例如,34.5、34.50和34.500在數(shù)學(xué)上都視為同一數(shù)值,如用于表示測定值,則其所反映的測量結(jié)果的準(zhǔn)確程度是不同的。一個(gè)由有效數(shù)字構(gòu)成的數(shù)值,其倒數(shù)第二位上的數(shù)字應(yīng)該是可靠的,或?yàn)榇_定的,只有末位數(shù)字是可疑的或?yàn)椴淮_定的。因此,有效數(shù)字是由全部確定數(shù)字和一位不確定數(shù)字構(gòu)成的,是指在分析和測量中所能得到的有實(shí)際意義的數(shù)字。

測量結(jié)果的記錄、運(yùn)算和報(bào)告,必須使用有效數(shù)字。對(duì)有效數(shù)字的位數(shù)不能任意增刪。

由有效數(shù)字構(gòu)成的測定值必然是近似值。因此,測定值的運(yùn)算應(yīng)按照近似計(jì)算規(guī)則進(jìn)行。

數(shù)字“0”,當(dāng)它用于指示小數(shù)點(diǎn)的位置,而與測量的準(zhǔn)確程度無關(guān),不是有效數(shù)字;當(dāng)它用于與測量準(zhǔn)確度有關(guān)的數(shù)值大小時(shí),即為有效數(shù)字。這與“0”在數(shù)值中的位置有關(guān)。

①第一個(gè)非零數(shù)字前的“0”不是有效數(shù)字,例如:

0.0398    三位有效數(shù)字

0.008        一位有效數(shù)字

②非零數(shù)字中的“0”是有效數(shù)字,例如:

3.0098      五位有效數(shù)字

5301        四位有效數(shù)字

③小數(shù)中最后一個(gè)非零數(shù)字后的“0”是有效數(shù)字,例如:

3.9800      五位有效數(shù)字

0.390%      三位有效數(shù)字

④以“0”結(jié)尾的整數(shù),有效數(shù)字的位數(shù)難以判斷,例如:39800可能是三位、四位甚至五位有效數(shù)字。在此情況下,應(yīng)根據(jù)測定值的準(zhǔn)確程度改寫為指數(shù)形式,例如:

3.98×104        三位有效數(shù)字

3.9800×104        五位有效數(shù)字

1.6.1.2 測量數(shù)據(jù)的有效數(shù)字記數(shù)規(guī)則

(1)記錄測量數(shù)據(jù)時(shí),只保留一位可疑數(shù)字。

一個(gè)分析結(jié)果有效數(shù)字的位數(shù),主要取決于原始數(shù)據(jù)的正確記錄和數(shù)值的正確計(jì)算。在記錄測量值時(shí),要同時(shí)考慮到計(jì)量器具的精密度和準(zhǔn)確度,以及測量儀器本身的誤差。

當(dāng)用檢定合格的計(jì)量器具稱量物質(zhì)或量取溶液時(shí),有效數(shù)字可以記錄到其最小分度值,最多保留一位不確定數(shù)字。以實(shí)驗(yàn)室最常用的計(jì)量器具為例:

①最小分度值為0.1mg的分析天平稱量物質(zhì)時(shí),有效數(shù)字可以記錄到小數(shù)點(diǎn)第四位。如1.3485g,此時(shí)有效數(shù)字為5位;稱取0.8642g,有效數(shù)字則為4位。

②用玻璃量器量取溶液體積的有效數(shù)字位數(shù)是根據(jù)量器的容量允許差和讀數(shù)誤差來確定的。如單位線A級(jí)50mL容量瓶,準(zhǔn)確容積為50.00mL;單位線A級(jí)10mL移液管,準(zhǔn)確容積為10.00mL,有效數(shù)字均為4位;用有分度標(biāo)記的移液管或滴定管量取溶液時(shí),讀數(shù)的有效位數(shù)可達(dá)其最小分度后一位,保留一位不確定數(shù)字。

③分光光度計(jì)最小分度值為0.005,因此吸光度一般可記到小數(shù)點(diǎn)后第三位,有效數(shù)字位數(shù)最多只有三位。

④帶有計(jì)算機(jī)處理系統(tǒng)的分析儀器,往往根據(jù)計(jì)算機(jī)自身的設(shè)定,打印或顯示結(jié)果,可以有很多位數(shù),但這并不增加儀器的精度和可讀的有效位數(shù)。

⑤在一系列操作中,使用多種計(jì)量儀器時(shí),有效數(shù)字以最少的一種計(jì)量儀器的位數(shù)表示。

(2)測量結(jié)果的有效數(shù)字所能達(dá)到的位數(shù)不能超過方法檢出限的有效數(shù)字所能達(dá)到的位數(shù)。例如,一個(gè)方法的最低檢出濃度為0.02mg/L,則分析結(jié)果報(bào)出0.088mg/L就不合理,應(yīng)報(bào)0.09mg/L。

(3)在數(shù)值計(jì)算中,當(dāng)有效數(shù)字位數(shù)確定之后,其余數(shù)字應(yīng)按修約規(guī)則一律舍去。

(4)在數(shù)值計(jì)算中,某些倍數(shù)、分?jǐn)?shù)不連續(xù)物理量的數(shù)目,以及不經(jīng)測量而完全根據(jù)理論計(jì)算或定義得到的數(shù)值,其有效數(shù)字的位數(shù)可視為無限。這類數(shù)值在計(jì)算中需要幾位就可以寫幾位。

(5)表示精密度通常只取一位有效數(shù)字。測定次數(shù)很多時(shí),方可取兩位有效數(shù)字,且最多只取兩位。

1.6.2 有效數(shù)字修約及計(jì)算規(guī)則

1.6.2.1 有效數(shù)字的修約

測量值的有效數(shù)字位數(shù)確定后,應(yīng)將它們后面多余的舍去,舍去多余數(shù)字的過程稱為數(shù)字修約。各種分析、計(jì)算的數(shù)值需修約時(shí),應(yīng)按《數(shù)值修約規(guī)則》(GB 8170—2008)進(jìn)行數(shù)值修約。

(1)確定修約位數(shù)的表達(dá)方式

①指定數(shù)位

a.指定修約間隔為10-nn為正整數(shù)),或指明數(shù)值修約到n位小數(shù)。

b.指定修約間隔為1,或指明數(shù)值修約到個(gè)數(shù)位。

c.指定修約間隔為10n,或指明數(shù)值修約到10n數(shù)位(n為正整數(shù)),或指明將數(shù)值修約到“十”“百”“千”……數(shù)位。

②指定將數(shù)值修約成n位有效位數(shù)。

(2)取舍規(guī)則 各種測量、計(jì)算數(shù)據(jù)需要修約時(shí),應(yīng)按照“四舍六入五考慮,五后非零則進(jìn)一,五后皆零視奇偶,五前為偶應(yīng)舍去,五前為奇則進(jìn)一”的原則取舍,即:

①擬舍棄數(shù)字的最左一位數(shù)字小于5時(shí),則舍去,即保留的各位數(shù)字不變。

例如,如將12.1498修約到一位小數(shù),得12.1,修約成兩位有效數(shù)字,得12。

②擬舍棄數(shù)字的最左一位數(shù)字大于5或雖等于5,而后并非全部為0的數(shù)字時(shí),則進(jìn)1,即保留的末尾數(shù)字加1。

例如,將1268修約到百位,得13×102。將10.502修約到個(gè)位,得11。

③擬舍棄數(shù)字的最左一位數(shù)字為5,而右面無數(shù)字或皆為零時(shí),若保留的末位數(shù)為奇數(shù),則進(jìn)1,為偶數(shù)則舍去。

例如,1.050和0.350的修約間隔為0.1(或10-1),則其修約值分別為1.0和0.4。

如2500和3500的修約間隔指定為1000(或103),其修約值分別為2×103和4×103

又如將0.0325修約成兩位有效數(shù)字,得0.032,將32500修約成兩位有效數(shù)字,得32×103

1.6.2.2 有效數(shù)字的計(jì)算規(guī)則

在加減法的計(jì)算中,幾個(gè)數(shù)相加或相減,最后結(jié)果的有效數(shù)字位數(shù)自左起不超過參加計(jì)算的有效數(shù)字中第一個(gè)出現(xiàn)的可疑數(shù)字。如在小數(shù)的加減計(jì)算中,結(jié)果所保留的小數(shù)點(diǎn)后的位數(shù)與各數(shù)中小數(shù)點(diǎn)后位數(shù)最少者相同。在實(shí)際運(yùn)算中,保留的位數(shù)比各數(shù)值中小數(shù)點(diǎn)后位數(shù)最少者多留一位小數(shù),而計(jì)算結(jié)果則按數(shù)值修約規(guī)則處理。例如:

最后計(jì)算結(jié)果只保留一位小數(shù),得76.7。

幾個(gè)數(shù)相乘或相除時(shí),最后結(jié)果的有效數(shù)字位數(shù)要與參加計(jì)算的各數(shù)值中有效數(shù)字位數(shù)最少者相同。在實(shí)際運(yùn)算過程中,先將各數(shù)值修約至比有效數(shù)字位數(shù)最少者多保留一位有效數(shù)字,再將計(jì)算結(jié)果按數(shù)值修約規(guī)則處理。例如:

最后的計(jì)算結(jié)果用三位有效數(shù)字表示為30.9。

在當(dāng)前普遍使用計(jì)算器的情況下,為減少計(jì)算誤差,可在運(yùn)算過程中適當(dāng)保留較多的數(shù)字,對(duì)中間結(jié)果不作修約,只將結(jié)果修約到所需位數(shù)。

主站蜘蛛池模板: 松阳县| 买车| 襄城县| 萍乡市| 土默特右旗| 湖口县| 黑龙江省| 和静县| 焦作市| 兴和县| 西吉县| 舟山市| 雅安市| 皋兰县| 沭阳县| 三原县| 左权县| 乐平市| 泰顺县| 陆川县| 延长县| 陇南市| 阿拉善右旗| 平远县| 开平市| 南岸区| 陆川县| 宝丰县| 太仓市| 衡水市| 延寿县| 琼中| 苗栗县| 西宁市| 南宫市| 行唐县| 三台县| 屏南县| 盖州市| 垫江县| 永安市|