官术网_书友最值得收藏!

第一節(jié) 檢測數(shù)據(jù)有效位數(shù)的合理性

數(shù)據(jù)的準(zhǔn)確性一般也包括合理性的內(nèi)容,但準(zhǔn)確的數(shù)據(jù)不一定全合理,準(zhǔn)確性是對(duì)誤差而言,合理性是對(duì)符合實(shí)際要求和規(guī)定而言。

數(shù)據(jù)的合理性包括兩方面的內(nèi)容:一是數(shù)據(jù)有效位數(shù)的取舍要符合數(shù)字修約標(biāo)準(zhǔn)GB/T 8170的有關(guān)規(guī)定,運(yùn)算過程要符合有效位數(shù)運(yùn)算規(guī)則,正確取位;二是檢測過程所得數(shù)據(jù)的有效位數(shù),一定要與試驗(yàn)的儀器、定量玻璃器具的精度(或量具的精度)所能達(dá)到的有效位數(shù)一致,而且測出的數(shù)據(jù)能夠滿足實(shí)際需要。

一、有效數(shù)字

0,1,2,3,4,5,6,7,8,9,這10個(gè)數(shù)碼稱為數(shù)字。

有效數(shù)字就是指在測量中所能得到的有實(shí)際意義的數(shù)字。即是指在一個(gè)近似數(shù)中,除最后一位是不確定的外,其他各位都是確定的。有效數(shù)字用于表示連續(xù)物理量的測定結(jié)果,指測量中實(shí)際能得到的數(shù)字,即表示數(shù)字的有效意義。有效數(shù)字一般是表示檢測儀器所能測量到的數(shù)字。它不僅表明了數(shù)量的大小,也反映了檢測方法和檢測儀器的準(zhǔn)確程度。在檢驗(yàn)檢測過程中,通過直接測量獲得的檢測數(shù)據(jù),需要記錄其測量值;而通過間接測定獲得的檢測數(shù)據(jù),需要對(duì)有關(guān)測量值進(jìn)行計(jì)算,最后得到檢驗(yàn)檢測結(jié)果。對(duì)于檢驗(yàn)檢測過程中獲得的數(shù)據(jù),檢測人員會(huì)遇到要用幾位數(shù)字來表示這些測量值或檢測結(jié)果的問題。對(duì)于檢驗(yàn)檢測數(shù)據(jù)記錄的有效位數(shù),必須依據(jù)標(biāo)準(zhǔn)的檢驗(yàn)檢測方法的規(guī)定,對(duì)使用的計(jì)量器具和檢測儀器設(shè)備能夠提供的有效位數(shù)等信息予以確定。

在記錄數(shù)據(jù)和計(jì)算結(jié)果時(shí),所保留的有效數(shù)字中,只有最后一位是可疑的數(shù)字。如50mL滴定管的最小刻度是0.1mL,滴定后的體積,A可能讀23.43mL,B可能讀23.44mL,C可能讀23.42mL。這四位數(shù)字中,前三位(有刻度)是準(zhǔn)確的,第四位(沒有刻度)是不準(zhǔn)確的,所以第四位稱為可疑數(shù)字。但它又不是主觀臆造的,所以記錄時(shí)應(yīng)保留。在測量準(zhǔn)確度的范圍內(nèi),有效數(shù)字的位數(shù)越多,測量也越準(zhǔn)確,但超過測量準(zhǔn)確度的范圍,再多的位數(shù)也是毫無意義的。

有效數(shù)字位數(shù)與量的使用單位無關(guān)。如稱得某物的質(zhì)量是12g,兩位有效數(shù)字。若以毫克(mg)為單位時(shí),應(yīng)記為1.2×104mg,而不應(yīng)記為12000mg。若以千克(kg)為單位,可記為0.012kg或1.2×10-2kg。

二、有效位數(shù)與修約間隔

1.有效位數(shù)

有效位數(shù)即是指幾位有效數(shù)字。

對(duì)沒有小數(shù)位且以若干零結(jié)尾的數(shù)值,從非零數(shù)字最左一位向右數(shù)得到的位數(shù)減去無效零(即僅為定位用的零)的個(gè)數(shù);對(duì)其他十進(jìn)位數(shù),從非零數(shù)字最左一位向右數(shù)而得到的位數(shù),就是有效位數(shù)。

例1-1 35000若有兩個(gè)無效零,非零數(shù)字最左一位“3”向右數(shù)共5位數(shù)減去2個(gè)無效零數(shù)得3,則為三位有效位數(shù),應(yīng)寫為350×102;若有三個(gè)無效零,則為兩位有效位數(shù),應(yīng)寫為35×103。注意有效位數(shù)應(yīng)在10n之前全部寫出。

例1-2 32,0.32,0.032,0.0032都為十進(jìn)位數(shù),非零數(shù)字最左一位“3”向右數(shù)都是兩位數(shù),則它們均為兩位有效位數(shù)。0.0320從非零數(shù)字最左一位向右數(shù)是3位數(shù),所以它為三位有效位數(shù)。

例1-3 13.580為十進(jìn)位數(shù),從最左非零數(shù)字“1”向右數(shù)為5位數(shù),所以它是五位有效位數(shù)。同樣13.5800為六位有效位數(shù)。

有效位數(shù)也可以這樣來理解:如果數(shù)據(jù)極限誤差大于某一位的半個(gè)單位,該位就是有效數(shù)字的末位,且該位到其左邊的非零數(shù)字一共有n位,n就是該數(shù)據(jù)的有效數(shù)字的位數(shù)。

例1-4 某數(shù)據(jù)極限誤差為0.005。數(shù)據(jù)0.234的末位數(shù)應(yīng)是3,其有效數(shù)字位數(shù)(或有效位數(shù))為2位。

例1-5 某數(shù)據(jù)極限誤差為0.5,數(shù)據(jù)8700.33的末位數(shù)應(yīng)是0,其有效數(shù)字位數(shù)(或有效位數(shù))為4位。

2.“0”的不同位置,對(duì)有效數(shù)字位數(shù)的影響

(1) “0”在數(shù)字前,僅起定位作用,而它本身不是有效數(shù)字。如0.0382前面兩個(gè)“0”,均不是有效數(shù)字。因?yàn)檫@些“0”只與所取的單位有關(guān),而與測量的精確度無關(guān)。若將單位縮小100倍,則變?yōu)?.82,有效位數(shù)只有三位,前邊的“0”就沒有了。類似123,12.3,0.123,0.0123,0.00123等數(shù)的有效位數(shù)都是三位。

(2) “0”在數(shù)字后面(帶有小數(shù)位的),則為有效數(shù)字。如:0.1000中前邊一個(gè)“0”不是有效數(shù)字, “1”后邊三個(gè)“0”均為有效數(shù)字,故0.1000為四位有效位數(shù);0.0040為兩位有效位數(shù)。

(3)數(shù)字中間的“0”為有效數(shù)字。如1.0008為五位有效位數(shù)。

(4)以“0”結(jié)尾的正整數(shù),有效位數(shù)不確定。如3600這樣的數(shù)字,有效位數(shù)不好定,可能是兩位、三位甚至四位有效位數(shù),應(yīng)根據(jù)實(shí)際情況確定有效數(shù)字位數(shù),寫成3.6×103為兩位有效位數(shù);寫成3.60×103為三位有效位數(shù);寫成3.600×103為四位有效位數(shù)。因?yàn)楹艽蠡蚝苄〉臄?shù)字用“0”表示位數(shù)不方便,最好用10的乘方表示。即有效數(shù)字全部寫出,后面用10的乘方表示。有效數(shù)字用小數(shù)表示,習(xí)慣上在小數(shù)點(diǎn)前留一位整數(shù),如0.00005300,可寫為5.300×10-5,表示四位有效位數(shù)。如15600表示為1.56×104,即三位有效位數(shù),若表示為1.560×104,即表示為四位有效位數(shù)。因此應(yīng)采用科學(xué)的記數(shù)法,避免用無效零。

根據(jù)上面的規(guī)則,我們可以判斷下面各數(shù)有效數(shù)字的位數(shù):

3.修約間隔

修約間隔系確定修約保留位數(shù)的一種方式。修約間隔的數(shù)值一經(jīng)確定,修約值應(yīng)為數(shù)值的整數(shù)倍。即擬將數(shù)據(jù)保留到那一位數(shù)。

例如,指定修約間隔為0.1,修約值應(yīng)在0.1的整數(shù)倍中選取,相當(dāng)于將數(shù)值修約到一位小數(shù)。又如指定修約間隔為100,修約值即應(yīng)在100的整數(shù)倍中選取,相當(dāng)于將數(shù)值修約到百數(shù)位。還有兩種修約間隔,在日常檢驗(yàn)中應(yīng)用較少,但有時(shí)也會(huì)遇到,即0.5單位修約和0.2單位修約。

0.5單位修約(半個(gè)單位修約)指修約間隔為指定數(shù)位的0.5單位,即修約到數(shù)位的0.5單位。

例如,將60.28修約到個(gè)數(shù)位的0.5單位,得60.5。又如煤炭檢驗(yàn)中的自由膨脹序數(shù)的測定的單位為0.5,對(duì)不足0.5的結(jié)果,小數(shù)點(diǎn)后的數(shù)字以“2舍3入”的辦法(即2舍為0,3入為5)修約到0.5報(bào)出。

0.2單位修約指修約間隔為指定數(shù)位的0.2單位,即修約到指定數(shù)位的0.2單位。

例如,將832修約到“百”數(shù)位的0.2單位,得840。

4.修約位數(shù)的表達(dá)方式

(1)指定數(shù)位 指定修約間隔為10-nn為正整數(shù),下同)或指明將數(shù)值修約到n位小數(shù)。

指定修約間隔為1,或指明將數(shù)值修約到個(gè)數(shù)位。

指定修約間隔為10n,或指明將數(shù)值修約到10n數(shù)位,或指明將數(shù)值修約到“十”“百”“千”等數(shù)位。

(2)指定數(shù)值修約成n位有效位數(shù) 修約間隔這一概念,是從法國標(biāo)準(zhǔn)NF×02-052-1979《數(shù)字修約規(guī)則》中借鑒來的,標(biāo)準(zhǔn)采用的最基本的修約間隔是10n,考慮到與指定修約數(shù)位正好相等,而以前我國標(biāo)準(zhǔn)中的提法都是指定修約數(shù)位,而且現(xiàn)在仍然普遍采用。為使標(biāo)準(zhǔn)具有連續(xù)性,因此在GB/T 8170《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》中既給出了修約間隔,又給出了與之等價(jià)的確定修約到某數(shù)位的提法,兩者通用,互不矛盾。

三、修約規(guī)則

1.數(shù)值修約進(jìn)舍規(guī)則

(1)擬舍棄數(shù)字的最左一位數(shù)字小于5時(shí),則舍去,即保留的各位數(shù)字不變。例如:

將13.2476修約到一位小數(shù),得13.2;

將13.2476修約成兩位有效位數(shù),得13。

(2)擬舍棄數(shù)字的最左一位數(shù)字大于等于5,而且其后跟有并非全部為“0”的數(shù)字時(shí)則進(jìn)一,即保留的末位數(shù)字加1。例如:

將1167修約到“百”數(shù)位,得12×102(特定時(shí)可寫為1200);

將1167修約成三位有效位數(shù),得117×10(特定時(shí)可寫為1170);

將10.502修約到個(gè)數(shù)位,得11。

(3)擬舍棄數(shù)字的最左一位數(shù)字為5,而其右面無數(shù)字或皆為0時(shí),若所保留的末位數(shù)字為奇數(shù)(1,3,5,7,9)則進(jìn)一,為偶數(shù)(2,4,6,8,0)則舍棄。

例1-6 修約間隔為0.1(或10-1)。

例1-7 修約間隔為1000(或103)。

例1-8 將下列數(shù)字修約成兩位有效位數(shù)。

(4)負(fù)數(shù)修約時(shí),先將它的絕對(duì)值按上述三條規(guī)定進(jìn)行修約,然后在修約值前加上負(fù)號(hào)。

例1-9 將下列數(shù)字修約至十?dāng)?shù)位。

例1-10 將下列數(shù)字修約成兩位有效位數(shù)。

(5)0.5單位修約:先將擬修約數(shù)值乘以2,按指定數(shù)位依進(jìn)舍規(guī)則修約,所得數(shù)值再除以2。

例1-11 將下列數(shù)字修約到個(gè)數(shù)位的0.5單位(或修約間隔為0.5)。見表1-1。

表1-1 0.5單位修約

(6)0.2單位修約:先將擬修約數(shù)值乘以5,按指定數(shù)位依進(jìn)舍規(guī)則修約,所得數(shù)值再除以5。

例1-12 將下列數(shù)字修約到百數(shù)位的0.2單位(或修約間隔為20)。見表1-2。

表1-2 0.2單位修約

以上的數(shù)值修約(除去后兩條外)規(guī)則,稱為“四舍六入五單雙”的原則。這種方法可以用五句話簡單來概括:四舍六入五單雙,五后非零則進(jìn)一,五后皆零視奇偶,五前為偶應(yīng)舍去,五前為奇則進(jìn)一。

2.數(shù)值修約時(shí)應(yīng)注意的事項(xiàng)

實(shí)行數(shù)值修約,應(yīng)在明確修約間隔(確定修約的位數(shù))后一次完成,而不能連續(xù)修約,否則會(huì)導(dǎo)致不正確的結(jié)果。但實(shí)際工作中常有這種情況,有的部門先將原始數(shù)據(jù)按修約要求多一位或幾位報(bào)出,而后另一部門按此報(bào)出值再按規(guī)定位數(shù)修約和判定,這樣就有連續(xù)修約的錯(cuò)誤。國家標(biāo)準(zhǔn)《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》(GB/T 8170)對(duì)此做了以下具體規(guī)定:

(1)擬修約數(shù)字應(yīng)在明確修約位數(shù)后一次修約獲得結(jié)果,而不得多次按進(jìn)舍規(guī)則連續(xù)修約。

例1-13 修約15.4546,修約間隔為1。

正確的做法:15.4546→15;

不正確的做法:15.4546→15.455→15.46→15.5→16。

例1-14 1.23456,修約到兩位小數(shù)。

應(yīng)當(dāng)一步到位→1.23;

不正確的修約:1.23456→1.2346→1.235→1.24。

計(jì)算機(jī)是二進(jìn)制式四舍五入,所以應(yīng)多取一位。

(2)在實(shí)際工作中,有時(shí)測試與計(jì)算部門先將獲得的數(shù)值按指定的修約位數(shù)多一位或幾位報(bào)出,而后由其他部門判定。為避免產(chǎn)生連續(xù)修約的錯(cuò)誤,應(yīng)按下列步驟進(jìn)行。

①報(bào)出數(shù)值最右的非零數(shù)字為5時(shí),應(yīng)在數(shù)字后面加“ (+)”或“ (-)”,或不加符號(hào),以分別表明已進(jìn)行過舍進(jìn)或未舍未進(jìn)。

例1-15 15.50(+)表示實(shí)際值大于15.50,經(jīng)修約舍棄成為15.50;15.50(-)表示實(shí)際值小于15.50,經(jīng)修約進(jìn)一成為15.50。

②如果判定報(bào)出值需要進(jìn)行修約,當(dāng)擬舍棄數(shù)字的最左一位數(shù)字為5而后面無數(shù)字或皆為零時(shí),數(shù)值后面有(+)號(hào)者進(jìn)一,數(shù)值后面有(-)號(hào)者舍去,其他仍按進(jìn)舍規(guī)則處理。

例1-16 將下列數(shù)字修約到個(gè)數(shù)位后進(jìn)行判定(報(bào)出值多留一位到一位小數(shù))。見表1-3。

表1-3 數(shù)字修約到個(gè)數(shù)位后的判定

3.修約規(guī)則的理論依據(jù)

GB/T 8170《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》中的“四舍六入五單雙”修約規(guī)則充分地采用了國外先進(jìn)標(biāo)準(zhǔn)的內(nèi)容。這也是我國改革開放與國際接軌的需要。但重要的還是它的科學(xué)性。因?yàn)橛谩八纳嵛迦搿狈▽?duì)數(shù)字進(jìn)行修約,經(jīng)統(tǒng)計(jì),從很多修約后的數(shù)值中得到的均值偏大,而用現(xiàn)在的修約規(guī)則,進(jìn)舍的狀況具有平衡性,進(jìn)舍誤差也具有平衡性,若干數(shù)值經(jīng)這樣修約后,修約值之和變大的可能性與變小的可能性是相當(dāng)?shù)摹?/p>

現(xiàn)以“擬舍棄數(shù)字的最左一位數(shù)字”為例說明:擬舍棄的數(shù)字0,1,2,3,4,5,6,7,8,9這10個(gè)數(shù)字在現(xiàn)實(shí)中出現(xiàn)的概率是相同的,都是10%。若采用“四舍五入”法,這10個(gè)數(shù)字中,0修約后的數(shù)值量不變(既不增大,也不變小);1,2,3,4,這4個(gè)數(shù)字在修約后值減小;5,6,7,8,9這5個(gè)數(shù)字在修約后值增大。這樣在這10個(gè)擬舍棄的數(shù)字中修約后1個(gè)值不變,4個(gè)值減小,5個(gè)值增大。也就是說,對(duì)于總體數(shù)據(jù)而言,經(jīng)“四舍五入”法修約后,有10%的數(shù)值不增不減,有40%的數(shù)值減小,有50%的數(shù)值增大。所以總誤差不為零,從總體的數(shù)據(jù)來看,進(jìn)大于舍,所以修約后的值偏大。特別是對(duì)于大量數(shù)據(jù)統(tǒng)計(jì)工作而言,總體數(shù)值增大。

若采用“四舍六入五單雙”法,在這10個(gè)擬修約的數(shù)字中,其中是0的數(shù),修約后值不變;擬修約數(shù)字為1,2,3,4這4個(gè)數(shù)字時(shí)舍去;擬修約數(shù)字為6,7,8,9這4個(gè)數(shù)字時(shí)進(jìn)位;而在舍棄數(shù)字的最右一位是5的情況下,所保留的末位數(shù)字為奇數(shù)1,3,5,7,9這5個(gè)時(shí)進(jìn)位,所保留的末位數(shù)字為偶數(shù)0,2,4,6,8這5個(gè)時(shí)舍去。這樣經(jīng)“四舍六入五單雙”法修約后,有10%的數(shù)值不增不減,有45%的數(shù)值減小,有45%的數(shù)值增大,所以總誤差為零。這就是修約為什么要采用“四舍六入五單雙”法的統(tǒng)計(jì)理論依據(jù)。

還可以從舍入的具體誤差來解釋,即在對(duì)數(shù)字修約時(shí),會(huì)帶來舍入誤差。設(shè)某一數(shù)值要保留n位有效位數(shù),由第n+1位引入的誤差如表1-4所示。

表1-4 n+1位引入的誤差

而舍入誤差是人為引入的誤差,人們希望越小越好,最好是零。在過去采用“四舍五入”法修約時(shí),假定要保留n位有效位數(shù),當(dāng)?shù)?span id="bqjvo8a" class="italic">n+1位是5以外的其他數(shù)字時(shí),其舍入誤差在極多次修改時(shí)相互抵消,但在第n+1位是5時(shí),卻無法抵消。因此存在一正的誤差,使總體數(shù)值增大。而“四舍六入五單雙”法規(guī)定;當(dāng)?shù)?span id="caqexuy" class="italic">n位上的數(shù)是偶數(shù)時(shí),第n+1位上的5舍去,此時(shí)舍入誤差為-5;當(dāng)?shù)?span id="hq7imjg" class="italic">n位為奇數(shù)時(shí),第n+1位上的5進(jìn)入,此時(shí)的舍入誤差為+5,由于第n位上偶、奇數(shù)出現(xiàn)的概率各為50%,其相應(yīng)的舍入誤差-5和+5的概率也各為50%,在極多次修約中相互抵消,使舍入誤差趨近于零。因此,采用“四舍六入五單雙”法比“四舍五入”法更為科學(xué)合理。

主站蜘蛛池模板: 逊克县| 永寿县| 嘉荫县| 黑龙江省| 枣庄市| 广饶县| 广德县| 齐齐哈尔市| 稻城县| 邯郸县| 汶川县| 德州市| 山东省| 离岛区| 开平市| 曲周县| 龙里县| 宁阳县| 托里县| 桃江县| 临西县| 自贡市| 登封市| 府谷县| 舞钢市| 岳池县| 宁武县| 修武县| 瓮安县| 定兴县| 保康县| 纳雍县| 宜兴市| 新疆| 右玉县| 信阳市| 林州市| 池州市| 方城县| 安义县| 合肥市|