有效數(shù)字修約規(guī)程

有效數(shù)字修約規(guī)程

ID:40116830

大?。?2.02 KB

頁(yè)數(shù):3頁(yè)

時(shí)間:2019-07-21

有效數(shù)字修約規(guī)程_第1頁(yè)
有效數(shù)字修約規(guī)程_第2頁(yè)
有效數(shù)字修約規(guī)程_第3頁(yè)
資源描述:

《有效數(shù)字修約規(guī)程》由會(huì)員上傳分享,免費(fèi)在線(xiàn)閱讀,更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫(kù)

1、有效數(shù)字修約及其運(yùn)算規(guī)程一.目的為實(shí)驗(yàn)室有效數(shù)字修約及其運(yùn)算提供指導(dǎo),保證有效數(shù)字修約及其運(yùn)算的規(guī)范性、科學(xué)性和可操作性。二.適用范圍本規(guī)程適用于實(shí)驗(yàn)室數(shù)據(jù)計(jì)算過(guò)程中有效數(shù)字修約及其運(yùn)算。三.職責(zé)實(shí)驗(yàn)室所有人員:嚴(yán)格按照有效數(shù)字修約及其運(yùn)算規(guī)程填寫(xiě)記錄報(bào)告。四.相關(guān)規(guī)定1.有效數(shù)字的基本定義1.1.有效數(shù)字是指在檢驗(yàn)工作中所能得到有實(shí)際意義的數(shù)值。其最后一位數(shù)字欠準(zhǔn)是允許的,這種由可靠數(shù)字和最后一位不確定數(shù)字組成的數(shù)值,即為有效數(shù)字。最后一位數(shù)字的欠準(zhǔn)程度通常只能是上下差1單位。1.2.一個(gè)數(shù)據(jù)的位數(shù)不僅表示數(shù)量的大小,也反映測(cè)量的精確程度。有效數(shù)字就是以一種近似的方式表示報(bào)告的數(shù)字結(jié)

2、果的精確性或者不確定性。某種意義上說(shuō),它是表示一個(gè)已知的數(shù)據(jù)“有多好”的最常見(jiàn)的方式。2.有效位數(shù)2.1.在沒(méi)有小數(shù)位且以若干個(gè)零結(jié)尾的數(shù)值中,有效位數(shù)是指從最左一位非0數(shù)字向右數(shù),得到的位數(shù)減去無(wú)效零(即僅為定位用的零)的個(gè)數(shù)。例如:35000中若有兩個(gè)無(wú)效0,則為三位有效位數(shù),應(yīng)寫(xiě)作350×102或3.50×104;若有三個(gè)無(wú)效0,則為兩位有效數(shù),應(yīng)寫(xiě)作35×103或3.5×104。當(dāng)需要在數(shù)值的末尾加“0”作定位時(shí),最好采用指數(shù)形式表示,否則有效數(shù)字的位數(shù)含混不清。2.2.在其他十進(jìn)位數(shù)中,有效數(shù)字是指從最左一位非0數(shù)字向右數(shù)而得到的位數(shù)。例如:3.2、0.32、0.032和0.

3、0032均為兩位有效位數(shù),0.320為三位有效位數(shù),10.00為四位有效位數(shù),12.490為五位有效位數(shù)。(數(shù)字“0”具有雙重意義。若作為普通數(shù)字使用,它就是有效數(shù)字;若作為定位用,則不是有效數(shù)字。)2.3.非連續(xù)型數(shù)值(如個(gè)數(shù)、分?jǐn)?shù)、倍數(shù))是非測(cè)量所得,沒(méi)有欠準(zhǔn)數(shù)字的,其有效位數(shù)可視為無(wú)限多位。例如:分子式“H2SO4”中的“2”和“4”是個(gè)數(shù)。常數(shù)π、e和系數(shù)等數(shù)值的有效位數(shù)可視為是無(wú)限多位;含量測(cè)定項(xiàng)下“每1ml的XXX滴定液(0.1mol/L)……”中的“0.1”為名義濃度,規(guī)格項(xiàng)下的“0.3g”或“1ml:25mg”中“0.3”、“1”和“25”為標(biāo)示量,其有效位數(shù)也均為無(wú)限

4、多位;即在計(jì)算中,其有效位數(shù)應(yīng)根據(jù)其他數(shù)值的最少有效位數(shù)而定。2.4.有效數(shù)字的首位數(shù)字≥第3頁(yè)共3頁(yè)有效數(shù)字修約及其運(yùn)算規(guī)程8時(shí),其有效位數(shù)可以多計(jì)一位。(此條USP及FDA相關(guān)規(guī)定中沒(méi)有提及)如85%與115%,都可看成是三位有效位數(shù);99.0%與101.0%都可看成是四位有效數(shù)字。2.5.pH值等對(duì)數(shù)值,其有效位數(shù)是由其小數(shù)點(diǎn)后的位數(shù)決定的,其整數(shù)部分只表明其真數(shù)的乘方次數(shù)。如pH=11.26([H+]=5.5×10-12mol/L),其有效位數(shù)只有兩位。3.數(shù)值修約及其進(jìn)舍規(guī)則3.1.數(shù)值修約是指對(duì)擬修約數(shù)值中超出需要保留位數(shù)時(shí)的舍棄,根據(jù)舍棄數(shù)來(lái)保留最后一位數(shù)或最后幾位數(shù)。3

5、.2.修約間隔是確定修約保留位數(shù)的一種方式,修約間隔的數(shù)值一經(jīng)確定,修約值即應(yīng)為該數(shù)值的整數(shù)倍。例如:指定修約間隔為0.1,修約值即應(yīng)在0.1的整數(shù)倍中選取,也就是說(shuō),將數(shù)值修約到小數(shù)點(diǎn)后一位。3.3.進(jìn)舍規(guī)則中國(guó)藥典相關(guān)規(guī)則:“4舍6入5考慮,5后非0則進(jìn)1,5后全0看5前,5前偶舍奇進(jìn)1”。擬舍棄數(shù)字的最左一位數(shù)字小于5時(shí),則舍去,即保留的各位數(shù)字不變;擬舍棄數(shù)字的最左一位數(shù)字大于5時(shí),則進(jìn)一,即保留的末位數(shù)字加1;擬舍棄數(shù)字的最左一位數(shù)字等于5時(shí),其后跟有并非全部為0的數(shù)字時(shí)則進(jìn)1,其后無(wú)數(shù)字或數(shù)字皆為0時(shí)若所保留末位數(shù)為奇數(shù)則進(jìn)1,為偶數(shù)則舍棄。4.運(yùn)算規(guī)則4.1.在進(jìn)行數(shù)學(xué)運(yùn)

6、算時(shí),對(duì)加減法和乘除法中有效數(shù)字的處理是不同的。但均遵循的原則是:報(bào)告的數(shù)字結(jié)果的精確性應(yīng)與用于產(chǎn)生該結(jié)果的最低精確度的測(cè)量數(shù)值相一致。4.2.運(yùn)算加減法:因加減法運(yùn)算所得和或差的絕對(duì)誤差比任何一個(gè)數(shù)值的絕對(duì)誤差大,所以應(yīng)以諸數(shù)值中絕對(duì)誤差最大(即欠準(zhǔn)數(shù)字的數(shù)位最大)的數(shù)值為準(zhǔn),以確定其它數(shù)值在運(yùn)算中保留的數(shù)位和決定計(jì)算結(jié)果的有效位數(shù)。簡(jiǎn)單的說(shuō)就是計(jì)算結(jié)果的小數(shù)位數(shù)應(yīng)等于組成算式的數(shù)字中小數(shù)位數(shù)最少的一個(gè)。4.3.運(yùn)算乘除法:因乘除法運(yùn)算所得積或商的相對(duì)誤差比任何一個(gè)數(shù)值的相對(duì)誤差大,所以應(yīng)以諸數(shù)值中相對(duì)誤差最大(即有效位數(shù)最少)的數(shù)值為準(zhǔn),確定其它數(shù)值在運(yùn)算中保留的位數(shù)和決定計(jì)算結(jié)果

7、的有效數(shù)字。簡(jiǎn)單的說(shuō)就是計(jì)算結(jié)果的有效位數(shù)應(yīng)與算式中有效數(shù)字位數(shù)最少的數(shù)字一致。4.5.在運(yùn)算過(guò)程中,為減少舍入誤差,其它數(shù)值的修約可以暫時(shí)多保留一位,等運(yùn)算得到結(jié)果時(shí),再根據(jù)有效位數(shù)棄去多余的數(shù)字。5.特殊規(guī)定5.1.不得連續(xù)修約,擬修約數(shù)字應(yīng)在確定修約位數(shù)后一次修約獲得結(jié)果,從而判斷結(jié)果是否合格,而不得多次按前面規(guī)則連續(xù)修約。5.2.計(jì)算所得的最后數(shù)值或測(cè)定讀數(shù)值均可按修約規(guī)則進(jìn)舍至規(guī)定有效位,取此數(shù)值與標(biāo)準(zhǔn)中規(guī)定的限度數(shù)值比較,以判斷是否

當(dāng)前文檔最多預(yù)覽五頁(yè),下載文檔查看全文

此文檔下載收益歸作者所有

當(dāng)前文檔最多預(yù)覽五頁(yè),下載文檔查看全文
溫馨提示:
1. 部分包含數(shù)學(xué)公式或PPT動(dòng)畫(huà)的文件,查看預(yù)覽時(shí)可能會(huì)顯示錯(cuò)亂或異常,文件下載后無(wú)此問(wèn)題,請(qǐng)放心下載。
2. 本文檔由用戶(hù)上傳,版權(quán)歸屬用戶(hù),天天文庫(kù)負(fù)責(zé)整理代發(fā)布。如果您對(duì)本文檔版權(quán)有爭(zhēng)議請(qǐng)及時(shí)聯(lián)系客服。
3. 下載前請(qǐng)仔細(xì)閱讀文檔內(nèi)容,確認(rèn)文檔內(nèi)容符合您的需求后進(jìn)行下載,若出現(xiàn)內(nèi)容與標(biāo)題不符可向本站投訴處理。
4. 下載文檔時(shí)可能由于網(wǎng)絡(luò)波動(dòng)等原因無(wú)法下載或下載錯(cuò)誤,付費(fèi)完成后未能成功下載的用戶(hù)請(qǐng)聯(lián)系客服處理。