食品伙伴網(wǎng)服務號
當前位置: 首頁 » 檢驗技術(shù) » 實驗室管理 » 正文

有效數(shù)字、數(shù)值運算修約規(guī)則、運算記錄、數(shù)值修約基本原則!

放大字體  縮小字體 發(fā)布日期:2024-08-16
核心提示: 分析實驗中,為了得到準確的分析結(jié)果,不僅要準確進行測量,而且還要正確記錄和計算。處理和計算出來的結(jié)果不僅要反映出測
 分析實驗中,為了得到準確的分析結(jié)果,不僅要準確進行測量,而且還要正確記錄和計算。處理和計算出來的結(jié)果不僅要反映出測量的可信程度,也要反映出實驗結(jié)果的真實性。本文是基于分析過程中測定數(shù)值的修約,希望能對小伙伴有所幫助。 
01
有 效 數(shù) 字有效數(shù)字是分析中具有實際意義的測定數(shù)值。它是由直接讀取的準確數(shù)字和通過估讀得到的可疑數(shù)字(最后一位)組成。
例如:3.2438中的“8”和0.130中的“0”。
有效數(shù)字的個數(shù)是有效位數(shù),對于不同類型的測定數(shù)值其有效位數(shù)為:02
數(shù) 值 修 約 規(guī) 一般來說,分析工作者習慣采用“四舍五入”修約規(guī)則,不過在分析中逢五就進,必然會造成結(jié)果的系統(tǒng)偏高,誤差偏大,為了避免這樣的狀況出現(xiàn),盡量減少因修約而產(chǎn)生的誤差,一般采用四舍六入五留雙的修約規(guī)則:
03
運 算 修 約 規(guī) 則04
試 驗 過 程 中 數(shù) 值 記 錄1、稱量實驗
“精密稱定”是指稱取重量應準確至所取重量的千分之一;
 
“稱定”是指稱取重量應準確至所取重量的百分之一,按照“精密稱定”項原則進行修約;
“稱重”,“稱取”一般準確到規(guī)定重量下一位;
取“約XX”時,指取用量不超過規(guī)定量的(100±10)%;
取“XX”時,參照修約規(guī)則。
2、量取試驗
以刻度為依據(jù)可讀到最小刻度所在位并估讀最小刻度之間。

圖中“1”記錄為35.00cm,而不能記錄35cm,圖中“2”記錄為35.40cm,圖中“3”可記錄為35.75cm。
量取5ml的液體應采用5-10ml的量筒;量取5.0ml的液體應采用5-10ml的刻度管;量取5.00ml的液體應采用5-10ml的移液管。 
容量瓶的定容應記錄為定容至100.00ml。
3、色譜實驗
  • 峰面積一般不做修約,按實際測定值進行記錄,參與計算后按相關(guān)規(guī)定進行修約。 
  • 拖尾因子、分離度可修約至小數(shù)點后兩位,理論塔板數(shù)一般修約至正整數(shù)。
  • 保留時間不做修約。
  • 工作站自動生成數(shù)值也可不做修約。
  • 化合物含量應該比標準規(guī)定限度的有效位數(shù)多一位,根據(jù)實際情況以修約規(guī)則進行修約。并且至少保留一位有效數(shù)字。
  • RSD按“只進不舍”進行修約。
  • 色譜條件數(shù)值不得修約。
  • 方法學驗證項的數(shù)值應該比標準規(guī)定限度的有效位數(shù)多一位,根據(jù)實際情況以修約規(guī)則進行修約。并且至少保留一位有效數(shù)字。
4、其他實驗
熔點、沸點等物理參數(shù)可修約至小數(shù)點后一位。
旋光率、折光率、原子吸收值可修約至小數(shù)點后三位。05
數(shù)值修約的基礎知識1、什么是有效數(shù)字呢?
⑴有效數(shù)字是指在分析和測量中所能得到的有實際意義的數(shù)字。測量結(jié)果是由有效數(shù)字組成的(前后定位用的“0”除外)。
例如 測量結(jié)果1.1080g,組成數(shù)字1、1、0、8、0都是實際測讀到的,它們是表示試樣質(zhì)量大小的,因而都是有實際意義的。
⑵有效數(shù)字的前幾位都是準確數(shù)字,只有最后一位是可疑數(shù)字。
例如前述的1.1080, 前幾位數(shù)字1、1、0、8都是稱量讀到的準確數(shù)字,而最后一位數(shù)字0則是在沒有刻度的情況下估讀出來的,是不準確的或者說可疑的。
⑶有效數(shù)字是處于表示測量結(jié)果的數(shù)值的不同數(shù)位上。所有有效數(shù)字所占有的數(shù)位個數(shù)稱為有效數(shù)字位數(shù)。
例如 數(shù)值3.5,有兩個有效數(shù)字,占有個位、十分位兩個數(shù)位,因而有效數(shù)字位數(shù)為兩位;3.501有四個有效數(shù)字,占有個位、十分位、百分位等四個數(shù)位,因而是四位有效數(shù)字。
⑷測量結(jié)果的數(shù)字,其有效位數(shù)反映了測量結(jié)果的精確度,它直接與測量的精密度有關(guān)。這也是有效數(shù)字實際意義的體現(xiàn),是非常重要的體現(xiàn)。
例如 前述例子中,若測量結(jié)果為1.1080g,則表示測量值的誤差在10-4量級上,天平的精度為萬分之一;若測量結(jié)果為1.108g,則表示測量值的誤差在10-3量級上,天平的精度為千分之一。
2、有效數(shù)字位數(shù)的確定原則
在確定有效數(shù)字位數(shù)時應遵循下列原則:
⑴數(shù)值中數(shù)字1~9都是有效數(shù)字。
⑵數(shù)字“0”在數(shù)值中所處的位置不同,起的作用也不同,可能是有效數(shù)字,也可能不是有效數(shù)字。判定如下:
① “0”在數(shù)字前,僅起定位作用,不是有效數(shù)字。
例如 0.0257中,“2”前面的兩個“0”均非有效數(shù)字。0.123、0.0123、0.00123中“1”前面的“0”也均非有效數(shù)字。
②數(shù)值末尾的“0”屬于有效數(shù)字。
例如 0.5000中, “5”后面的三個“0”均為有效數(shù)字;0.50中, “5”后面的一個“0”也是有效數(shù)字。
③數(shù)值中夾在數(shù)字中間的“0”是有效數(shù)字。
 例如 數(shù)值1. 008中的兩個“0”是均是有效數(shù)字;數(shù)值8. 01中間的 “0”也是有效數(shù)字。
④以“0”結(jié)尾的正整數(shù),“0”是不是有效數(shù)字不確定,應根據(jù)測試結(jié)果的準確度確定。
例如 3600,后面的兩個“0”如果不指明測量準確度就不能確定是不是有效數(shù)字。測量中遇到這種情況,最好根據(jù)實際測試結(jié)果的精確度確定有效數(shù)字的位數(shù),有效數(shù)字用小數(shù)表示,把“0”用10的乘方表示。如將3600寫成3.6×103表示此數(shù)有兩位有效數(shù)字;寫成3.60×103表示此數(shù)有三位有效數(shù)字;寫成3.600×103表示此數(shù)有四位有效數(shù)字。
3、修約間隔
修約間隔又稱修約區(qū)間或化整間隔,系確定修約保留位數(shù)的一種方式。修約間隔一般以k×10n(k=1,2,5;n為整數(shù))的形式表示,將同一k值的修約間隔,簡稱為“k”間隔。
修約間隔的數(shù)值一經(jīng)確定,修約值即應為該數(shù)值的整數(shù)倍。
例如 指定修約間隔為0.1,修約值即應在0.1的整數(shù)倍中選取,相當于將數(shù)值修約到一位小數(shù)。
  • 1.0239修約到0.01,為1.02,
  • 1.02÷0.01=102(倍)
4、修約數(shù)位及確定修約位數(shù)的表達方式
修約時擬將擬修約數(shù)的哪一位數(shù)位后部分按修約規(guī)則舍去,則該數(shù)位就是修約數(shù)位。
數(shù)值修約時需要先明確修約數(shù)位,確定修約位數(shù)的表達方式如下:
⑴指明具體的修約間隔。如指明將某數(shù)按0.2(2×10-1)修約間隔修約、100(1×102)修約間隔修約等。
⑵指定將擬修約數(shù)修約至某數(shù)位的0.1、0.2或0.5個單位。
⑶指明“k”按間隔將擬修約數(shù)修約為幾位有效數(shù)字,或修約至某數(shù)位。這時“1” 間隔可不必指明,但“2”間隔和“5”間隔必須指明。                 06
數(shù)值修約規(guī)則1、GB/T 8170-2008 《數(shù)值修約規(guī)則》
⑴擬舍棄數(shù)字的最左一位數(shù)字小于5時,則舍去,即保留的各位數(shù)字不變。
例如 將12.1498修約到一位小數(shù),得12.1。
例如 將12.1498修約成兩位有效位數(shù),得12。
⑵擬舍棄數(shù)字的最左一位數(shù)字大于5;或者是5,而其后跟有并非全部為0的數(shù)字時,則進一,即保留的末位數(shù)字加1。
例如 將1268修約到“百”數(shù)位,得13×102(特定時可寫為1300)。
例如 將1268修約成三位有效位數(shù),得127×10(特定時可寫為1270)。
例如 將10.502修約到個數(shù)位,得11。
注:“特定時”的涵義系指修約間隔或有效位數(shù)明確時。
⑶擬舍棄數(shù)字的最左一位數(shù)字為5,而右面無數(shù)字或皆為0時,若所保留的末位數(shù)字為奇數(shù)(1,3,5,7,9)則進一,為偶數(shù)(2,4,6,8,0)則舍棄。
⑷負數(shù)修約時,先將它的絕對值按上述⑴⑵⑶規(guī)定進行修約,然后在修約值前面加上負號。
⑸0.5單位修約與0.2單位修約
①0.5單位修約 既將擬修約數(shù)乘以2,按指定數(shù)位依3.1-3.4規(guī)則修約,所得數(shù)再除以2。
②0.2單位修約 既將擬修約數(shù)乘以5,按指定數(shù)位依3.1-3.4規(guī)則修約,所得數(shù)值再除以5。
2、通用數(shù)值修約方法
⑴如果為修約間隔整數(shù)倍的一系列數(shù)中,只有一個數(shù)最接近于擬修約數(shù),則該數(shù)就是修約數(shù)。
例如 將1.150001按0.1修約間隔進行修約。此時,與擬修約數(shù)1.150001鄰近的為修約間隔整數(shù)倍的數(shù)有1.1和1.2(分別為修約間隔的11倍和12倍),然而只有1.2最接近于擬修約數(shù),因此1.2就是修約數(shù)。
⑵如果為修約間隔整數(shù)培的一系列數(shù)中,有連續(xù)兩個數(shù)同等接近于擬修約數(shù),則這兩個數(shù)中,為修約間隔偶數(shù)培的數(shù)就是修約數(shù)。
例如,將1150按100修約間隔行修約。此時,與擬修約數(shù)1150鄰近的為修約間隔整數(shù)倍的數(shù)有1100和1200(分別為修約間隔的11倍和12倍),這兩個數(shù)同等接近于擬修約數(shù),然而1200為修約間隔的偶數(shù)培(12倍),因此1200 就是修約數(shù)。
⑶一個數(shù)據(jù)的修約只能進行一次,不能分次修約。
編輯:songjiajie2010

 
分享:
[ 網(wǎng)刊訂閱 ]  [ 檢驗技術(shù)搜索 ]  [ ]  [ 告訴好友 ]  [ 打印本文 ]  [ 關(guān)閉窗口 ] [ 返回頂部 ]
 

 
 
推薦圖文
推薦檢驗技術(shù)
點擊排行
檢驗技術(shù)
 
 
Processed in 0.021 second(s), 13 queries, Memory 0.93 M