- 檢驗檢測機構(gòu)試驗數(shù)據(jù)處理方法
- 滕葳 李倩 柳琪
- 4894字
- 2020-04-10 17:03:12
第一節(jié) 檢測數(shù)據(jù)有效位數(shù)的合理性
數(shù)據(jù)的準(zhǔn)確性一般也包括合理性的內(nèi)容,但準(zhǔn)確的數(shù)據(jù)不一定全合理,準(zhǔn)確性是對誤差而言,合理性是對符合實際要求和規(guī)定而言。
數(shù)據(jù)的合理性包括兩方面的內(nèi)容:一是數(shù)據(jù)有效位數(shù)的取舍要符合數(shù)字修約標(biāo)準(zhǔn)GB/T 8170的有關(guān)規(guī)定,運算過程要符合有效位數(shù)運算規(guī)則,正確取位;二是檢測過程所得數(shù)據(jù)的有效位數(shù),一定要與試驗的儀器、定量玻璃器具的精度(或量具的精度)所能達到的有效位數(shù)一致,而且測出的數(shù)據(jù)能夠滿足實際需要。
一、有效數(shù)字
0,1,2,3,4,5,6,7,8,9,這10個數(shù)碼稱為數(shù)字。
有效數(shù)字就是指在測量中所能得到的有實際意義的數(shù)字。即是指在一個近似數(shù)中,除最后一位是不確定的外,其他各位都是確定的。有效數(shù)字用于表示連續(xù)物理量的測定結(jié)果,指測量中實際能得到的數(shù)字,即表示數(shù)字的有效意義。有效數(shù)字一般是表示檢測儀器所能測量到的數(shù)字。它不僅表明了數(shù)量的大小,也反映了檢測方法和檢測儀器的準(zhǔn)確程度。在檢驗檢測過程中,通過直接測量獲得的檢測數(shù)據(jù),需要記錄其測量值;而通過間接測定獲得的檢測數(shù)據(jù),需要對有關(guān)測量值進行計算,最后得到檢驗檢測結(jié)果。對于檢驗檢測過程中獲得的數(shù)據(jù),檢測人員會遇到要用幾位數(shù)字來表示這些測量值或檢測結(jié)果的問題。對于檢驗檢測數(shù)據(jù)記錄的有效位數(shù),必須依據(jù)標(biāo)準(zhǔn)的檢驗檢測方法的規(guī)定,對使用的計量器具和檢測儀器設(shè)備能夠提供的有效位數(shù)等信息予以確定。
在記錄數(shù)據(jù)和計算結(jié)果時,所保留的有效數(shù)字中,只有最后一位是可疑的數(shù)字。如50mL滴定管的最小刻度是0.1mL,滴定后的體積,A可能讀23.43mL,B可能讀23.44mL,C可能讀23.42mL。這四位數(shù)字中,前三位(有刻度)是準(zhǔn)確的,第四位(沒有刻度)是不準(zhǔn)確的,所以第四位稱為可疑數(shù)字。但它又不是主觀臆造的,所以記錄時應(yīng)保留。在測量準(zhǔn)確度的范圍內(nèi),有效數(shù)字的位數(shù)越多,測量也越準(zhǔn)確,但超過測量準(zhǔn)確度的范圍,再多的位數(shù)也是毫無意義的。
有效數(shù)字位數(shù)與量的使用單位無關(guān)。如稱得某物的質(zhì)量是12g,兩位有效數(shù)字。若以毫克(mg)為單位時,應(yīng)記為1.2×104mg,而不應(yīng)記為12000mg。若以千克(kg)為單位,可記為0.012kg或1.2×10-2kg。
二、有效位數(shù)與修約間隔
1.有效位數(shù)
有效位數(shù)即是指幾位有效數(shù)字。
對沒有小數(shù)位且以若干零結(jié)尾的數(shù)值,從非零數(shù)字最左一位向右數(shù)得到的位數(shù)減去無效零(即僅為定位用的零)的個數(shù);對其他十進位數(shù),從非零數(shù)字最左一位向右數(shù)而得到的位數(shù),就是有效位數(shù)。
例1-1 35000若有兩個無效零,非零數(shù)字最左一位“3”向右數(shù)共5位數(shù)減去2個無效零數(shù)得3,則為三位有效位數(shù),應(yīng)寫為350×102;若有三個無效零,則為兩位有效位數(shù),應(yīng)寫為35×103。注意有效位數(shù)應(yīng)在10n之前全部寫出。
例1-2 32,0.32,0.032,0.0032都為十進位數(shù),非零數(shù)字最左一位“3”向右數(shù)都是兩位數(shù),則它們均為兩位有效位數(shù)。0.0320從非零數(shù)字最左一位向右數(shù)是3位數(shù),所以它為三位有效位數(shù)。
例1-3 13.580為十進位數(shù),從最左非零數(shù)字“1”向右數(shù)為5位數(shù),所以它是五位有效位數(shù)。同樣13.5800為六位有效位數(shù)。
有效位數(shù)也可以這樣來理解:如果數(shù)據(jù)極限誤差大于某一位的半個單位,該位就是有效數(shù)字的末位,且該位到其左邊的非零數(shù)字一共有n位,n就是該數(shù)據(jù)的有效數(shù)字的位數(shù)。
例1-4 某數(shù)據(jù)極限誤差為0.005。數(shù)據(jù)0.234的末位數(shù)應(yīng)是3,其有效數(shù)字位數(shù)(或有效位數(shù))為2位。
例1-5 某數(shù)據(jù)極限誤差為0.5,數(shù)據(jù)8700.33的末位數(shù)應(yīng)是0,其有效數(shù)字位數(shù)(或有效位數(shù))為4位。
2.“0”的不同位置,對有效數(shù)字位數(shù)的影響
(1) “0”在數(shù)字前,僅起定位作用,而它本身不是有效數(shù)字。如0.0382前面兩個“0”,均不是有效數(shù)字。因為這些“0”只與所取的單位有關(guān),而與測量的精確度無關(guān)。若將單位縮小100倍,則變?yōu)?.82,有效位數(shù)只有三位,前邊的“0”就沒有了。類似123,12.3,0.123,0.0123,0.00123等數(shù)的有效位數(shù)都是三位。
(2) “0”在數(shù)字后面(帶有小數(shù)位的),則為有效數(shù)字。如:0.1000中前邊一個“0”不是有效數(shù)字, “1”后邊三個“0”均為有效數(shù)字,故0.1000為四位有效位數(shù);0.0040為兩位有效位數(shù)。
(3)數(shù)字中間的“0”為有效數(shù)字。如1.0008為五位有效位數(shù)。
(4)以“0”結(jié)尾的正整數(shù),有效位數(shù)不確定。如3600這樣的數(shù)字,有效位數(shù)不好定,可能是兩位、三位甚至四位有效位數(shù),應(yīng)根據(jù)實際情況確定有效數(shù)字位數(shù),寫成3.6×103為兩位有效位數(shù);寫成3.60×103為三位有效位數(shù);寫成3.600×103為四位有效位數(shù)。因為很大或很小的數(shù)字用“0”表示位數(shù)不方便,最好用10的乘方表示。即有效數(shù)字全部寫出,后面用10的乘方表示。有效數(shù)字用小數(shù)表示,習(xí)慣上在小數(shù)點前留一位整數(shù),如0.00005300,可寫為5.300×10-5,表示四位有效位數(shù)。如15600表示為1.56×104,即三位有效位數(shù),若表示為1.560×104,即表示為四位有效位數(shù)。因此應(yīng)采用科學(xué)的記數(shù)法,避免用無效零。
根據(jù)上面的規(guī)則,我們可以判斷下面各數(shù)有效數(shù)字的位數(shù):
3.修約間隔
修約間隔系確定修約保留位數(shù)的一種方式。修約間隔的數(shù)值一經(jīng)確定,修約值應(yīng)為數(shù)值的整數(shù)倍。即擬將數(shù)據(jù)保留到那一位數(shù)。
例如,指定修約間隔為0.1,修約值應(yīng)在0.1的整數(shù)倍中選取,相當(dāng)于將數(shù)值修約到一位小數(shù)。又如指定修約間隔為100,修約值即應(yīng)在100的整數(shù)倍中選取,相當(dāng)于將數(shù)值修約到百數(shù)位。還有兩種修約間隔,在日常檢驗中應(yīng)用較少,但有時也會遇到,即0.5單位修約和0.2單位修約。
0.5單位修約(半個單位修約)指修約間隔為指定數(shù)位的0.5單位,即修約到數(shù)位的0.5單位。
例如,將60.28修約到個數(shù)位的0.5單位,得60.5。又如煤炭檢驗中的自由膨脹序數(shù)的測定的單位為0.5,對不足0.5的結(jié)果,小數(shù)點后的數(shù)字以“2舍3入”的辦法(即2舍為0,3入為5)修約到0.5報出。
0.2單位修約指修約間隔為指定數(shù)位的0.2單位,即修約到指定數(shù)位的0.2單位。
例如,將832修約到“百”數(shù)位的0.2單位,得840。
4.修約位數(shù)的表達方式
(1)指定數(shù)位 指定修約間隔為10-n(n為正整數(shù),下同)或指明將數(shù)值修約到n位小數(shù)。
指定修約間隔為1,或指明將數(shù)值修約到個數(shù)位。
指定修約間隔為10n,或指明將數(shù)值修約到10n數(shù)位,或指明將數(shù)值修約到“十”“百”“千”等數(shù)位。
(2)指定數(shù)值修約成n位有效位數(shù) 修約間隔這一概念,是從法國標(biāo)準(zhǔn)NF×02-052-1979《數(shù)字修約規(guī)則》中借鑒來的,標(biāo)準(zhǔn)采用的最基本的修約間隔是10n,考慮到與指定修約數(shù)位正好相等,而以前我國標(biāo)準(zhǔn)中的提法都是指定修約數(shù)位,而且現(xiàn)在仍然普遍采用。為使標(biāo)準(zhǔn)具有連續(xù)性,因此在GB/T 8170《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》中既給出了修約間隔,又給出了與之等價的確定修約到某數(shù)位的提法,兩者通用,互不矛盾。
三、修約規(guī)則
1.數(shù)值修約進舍規(guī)則
(1)擬舍棄數(shù)字的最左一位數(shù)字小于5時,則舍去,即保留的各位數(shù)字不變。例如:
將13.2476修約到一位小數(shù),得13.2;
將13.2476修約成兩位有效位數(shù),得13。
(2)擬舍棄數(shù)字的最左一位數(shù)字大于等于5,而且其后跟有并非全部為“0”的數(shù)字時則進一,即保留的末位數(shù)字加1。例如:
將1167修約到“百”數(shù)位,得12×102(特定時可寫為1200);
將1167修約成三位有效位數(shù),得117×10(特定時可寫為1170);
將10.502修約到個數(shù)位,得11。
(3)擬舍棄數(shù)字的最左一位數(shù)字為5,而其右面無數(shù)字或皆為0時,若所保留的末位數(shù)字為奇數(shù)(1,3,5,7,9)則進一,為偶數(shù)(2,4,6,8,0)則舍棄。
例1-6 修約間隔為0.1(或10-1)。
例1-7 修約間隔為1000(或103)。
例1-8 將下列數(shù)字修約成兩位有效位數(shù)。
(4)負(fù)數(shù)修約時,先將它的絕對值按上述三條規(guī)定進行修約,然后在修約值前加上負(fù)號。
例1-9 將下列數(shù)字修約至十?dāng)?shù)位。
例1-10 將下列數(shù)字修約成兩位有效位數(shù)。
(5)0.5單位修約:先將擬修約數(shù)值乘以2,按指定數(shù)位依進舍規(guī)則修約,所得數(shù)值再除以2。
例1-11 將下列數(shù)字修約到個數(shù)位的0.5單位(或修約間隔為0.5)。見表1-1。
表1-1 0.5單位修約

(6)0.2單位修約:先將擬修約數(shù)值乘以5,按指定數(shù)位依進舍規(guī)則修約,所得數(shù)值再除以5。
例1-12 將下列數(shù)字修約到百數(shù)位的0.2單位(或修約間隔為20)。見表1-2。
表1-2 0.2單位修約

以上的數(shù)值修約(除去后兩條外)規(guī)則,稱為“四舍六入五單雙”的原則。這種方法可以用五句話簡單來概括:四舍六入五單雙,五后非零則進一,五后皆零視奇偶,五前為偶應(yīng)舍去,五前為奇則進一。
2.數(shù)值修約時應(yīng)注意的事項
實行數(shù)值修約,應(yīng)在明確修約間隔(確定修約的位數(shù))后一次完成,而不能連續(xù)修約,否則會導(dǎo)致不正確的結(jié)果。但實際工作中常有這種情況,有的部門先將原始數(shù)據(jù)按修約要求多一位或幾位報出,而后另一部門按此報出值再按規(guī)定位數(shù)修約和判定,這樣就有連續(xù)修約的錯誤。國家標(biāo)準(zhǔn)《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》(GB/T 8170)對此做了以下具體規(guī)定:
(1)擬修約數(shù)字應(yīng)在明確修約位數(shù)后一次修約獲得結(jié)果,而不得多次按進舍規(guī)則連續(xù)修約。
例1-13 修約15.4546,修約間隔為1。
正確的做法:15.4546→15;
不正確的做法:15.4546→15.455→15.46→15.5→16。
例1-14 1.23456,修約到兩位小數(shù)。
應(yīng)當(dāng)一步到位→1.23;
不正確的修約:1.23456→1.2346→1.235→1.24。
計算機是二進制式四舍五入,所以應(yīng)多取一位。
(2)在實際工作中,有時測試與計算部門先將獲得的數(shù)值按指定的修約位數(shù)多一位或幾位報出,而后由其他部門判定。為避免產(chǎn)生連續(xù)修約的錯誤,應(yīng)按下列步驟進行。
①報出數(shù)值最右的非零數(shù)字為5時,應(yīng)在數(shù)字后面加“ (+)”或“ (-)”,或不加符號,以分別表明已進行過舍進或未舍未進。
例1-15 15.50(+)表示實際值大于15.50,經(jīng)修約舍棄成為15.50;15.50(-)表示實際值小于15.50,經(jīng)修約進一成為15.50。
②如果判定報出值需要進行修約,當(dāng)擬舍棄數(shù)字的最左一位數(shù)字為5而后面無數(shù)字或皆為零時,數(shù)值后面有(+)號者進一,數(shù)值后面有(-)號者舍去,其他仍按進舍規(guī)則處理。
例1-16 將下列數(shù)字修約到個數(shù)位后進行判定(報出值多留一位到一位小數(shù))。見表1-3。
表1-3 數(shù)字修約到個數(shù)位后的判定

3.修約規(guī)則的理論依據(jù)
GB/T 8170《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》中的“四舍六入五單雙”修約規(guī)則充分地采用了國外先進標(biāo)準(zhǔn)的內(nèi)容。這也是我國改革開放與國際接軌的需要。但重要的還是它的科學(xué)性。因為用“四舍五入”法對數(shù)字進行修約,經(jīng)統(tǒng)計,從很多修約后的數(shù)值中得到的均值偏大,而用現(xiàn)在的修約規(guī)則,進舍的狀況具有平衡性,進舍誤差也具有平衡性,若干數(shù)值經(jīng)這樣修約后,修約值之和變大的可能性與變小的可能性是相當(dāng)?shù)摹?/p>
現(xiàn)以“擬舍棄數(shù)字的最左一位數(shù)字”為例說明:擬舍棄的數(shù)字0,1,2,3,4,5,6,7,8,9這10個數(shù)字在現(xiàn)實中出現(xiàn)的概率是相同的,都是10%。若采用“四舍五入”法,這10個數(shù)字中,0修約后的數(shù)值量不變(既不增大,也不變小);1,2,3,4,這4個數(shù)字在修約后值減小;5,6,7,8,9這5個數(shù)字在修約后值增大。這樣在這10個擬舍棄的數(shù)字中修約后1個值不變,4個值減小,5個值增大。也就是說,對于總體數(shù)據(jù)而言,經(jīng)“四舍五入”法修約后,有10%的數(shù)值不增不減,有40%的數(shù)值減小,有50%的數(shù)值增大。所以總誤差不為零,從總體的數(shù)據(jù)來看,進大于舍,所以修約后的值偏大。特別是對于大量數(shù)據(jù)統(tǒng)計工作而言,總體數(shù)值增大。
若采用“四舍六入五單雙”法,在這10個擬修約的數(shù)字中,其中是0的數(shù),修約后值不變;擬修約數(shù)字為1,2,3,4這4個數(shù)字時舍去;擬修約數(shù)字為6,7,8,9這4個數(shù)字時進位;而在舍棄數(shù)字的最右一位是5的情況下,所保留的末位數(shù)字為奇數(shù)1,3,5,7,9這5個時進位,所保留的末位數(shù)字為偶數(shù)0,2,4,6,8這5個時舍去。這樣經(jīng)“四舍六入五單雙”法修約后,有10%的數(shù)值不增不減,有45%的數(shù)值減小,有45%的數(shù)值增大,所以總誤差為零。這就是修約為什么要采用“四舍六入五單雙”法的統(tǒng)計理論依據(jù)。
還可以從舍入的具體誤差來解釋,即在對數(shù)字修約時,會帶來舍入誤差。設(shè)某一數(shù)值要保留n位有效位數(shù),由第n+1位引入的誤差如表1-4所示。
表1-4 n+1位引入的誤差

而舍入誤差是人為引入的誤差,人們希望越小越好,最好是零。在過去采用“四舍五入”法修約時,假定要保留n位有效位數(shù),當(dāng)?shù)?span id="icnqyzi" class="italic">n+1位是5以外的其他數(shù)字時,其舍入誤差在極多次修改時相互抵消,但在第n+1位是5時,卻無法抵消。因此存在一正的誤差,使總體數(shù)值增大。而“四舍六入五單雙”法規(guī)定;當(dāng)?shù)?span id="4a29szr" class="italic">n位上的數(shù)是偶數(shù)時,第n+1位上的5舍去,此時舍入誤差為-5;當(dāng)?shù)?span id="4oqvapy" class="italic">n位為奇數(shù)時,第n+1位上的5進入,此時的舍入誤差為+5,由于第n位上偶、奇數(shù)出現(xiàn)的概率各為50%,其相應(yīng)的舍入誤差-5和+5的概率也各為50%,在極多次修約中相互抵消,使舍入誤差趨近于零。因此,采用“四舍六入五單雙”法比“四舍五入”法更為科學(xué)合理。