有效数字修约与运算法则.docx
《有效数字修约与运算法则.docx》由会员分享,可在线阅读,更多相关《有效数字修约与运算法则.docx(8页珍藏版)》请在冰豆网上搜索。
有效数字修约与运算法则
•有效数字修约与运算法则
•1.有效数字的基本概念:
•
(1)有效数字是指在检验工作中所能得到有实际意义的数值,其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。
•
(2)有效数字的定位(数位),是指确定欠准数字的位置,这个位置确定后,其后面的数字均为无效数字。
•例如,一支25ml的滴定管,其最小刻度为0.1ml,如果滴定管的体积介符于20.9ml到21.0ml之间,则需估计一位数字,读出20.97ml,这个7就是个欠准的数字,这个位置确定后,它有效位数就是4个,即使其后面还有数字也只是无效数字。
•(3)在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。
•例如:
35000,若有两个无效零,则为三位有效位数,应写作350×102或3.50×104;若有三个无效零,则为两位有效位数,应写作35×103或3.5×104。
•(4)在其他10进位数中,有效数字系指从非零数字最左一位向右数而得到的位数,例如:
3.2、0.32、0.032和0.0032均为两位有效位数;0.320为三位有效位数;10.00为四位有效位数;12.490为五位有效位数。
•
(5)非连续型数值:
(如个数、分数、倍数)是没有欠准数字的,其有效位数可视为无限多位。
例如,H2SO4中的2和4是个数。
常数л和系数等。
数值的有效位数可视为无限多位。
每1ml××滴定液(0.1mol/L)中的0.1为名义浓度,规格项下的0.3g或“1ml:
25mg”中的“0.3”、“1”、“25”均为标示量,其有效位数,也为无限多位。
即在计算中,其有效位数应根据其他数值的最少有效位数而定。
•(6)pH值等对数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。
•如:
pH=11.26([H+]=5.5×10-12mol/L),其有效数字只有两位。
•(7)有效数字的首位数字为8或9时,其有效位数可以多计一位,例如:
85%与115%,都可以看成是三位有效数字;99.0%与101.0%都可以看成是四位有效数字。
•2.数字的修约及其取舍规则
•
(1)数字修约是指拟修约数值中超出需要保留位数时的舍弃,根据舍弃数来保留最后一位数或最后几位数。
•
(2)修约间隔是确定修约保留位数的一种方式,修约间隔的数值一经确定,修约值即应为该数值的整倍数。
例如:
指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,也就是说,将数值修约到小数点后一位。
•(3)确定修约位数的表达方式:
•①指定数位:
•★指定修约间隔为10-n(n为正整数),或指明将数值修约到小数点后n位。
•★指定修约间隔为1,或指明将数值约到个数位。
•★指定将数值修约成n位有效位数(n为正整数)。
•★指定修约间隔为10n(n为正整数),或指明将数值修约到10n数位,或指明修约到“十”、“百”、“千”数位。
•★指定将数值修约成n位有效位数(n为正整数)。
•★在相对标准偏差(RSD)的求算中,其有效数位应为其1/3值的首位(非零数字),故通常为百分位或千分位。
•
•②进舍原则
•★拟舍去数字的最左一位数字少于5时,则舍去,即保留的各位数字不变。
例如,例1,将12.1496,修约到一位小数(十分位),得12.1。
•例2,将12.1496,修约到两位有效位数,得12。
•★拟舍去数字的最左一位数字大于5时,或者是5,而后跟有并非全部为0的数字,则进一,即在保留的末位数字加1。
•⊙例1,将1268,修约到百数位,得13×102。
•⊙例2,将1268,修约到十数位(即三位有效数字),得127×10。
•⊙例3,将10.502修约到个数位,得11。
•★拟舍去数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数为奇数(1,3,5,7,9)则进一。
为偶数(2,4,6,8,0)则舍弃。
(留双的原则)
•⊙例1,将1.050按间隔为0.1(10-1)修约,修约值为:
1.0。
•⊙例2,将0.350按间隔为0.1(10-1)修约,修约值为:
0.4
•⊙例3,将2500按间隔为1000(103)修约,修约值为:
2×103。
•⊙例4,将3500按间隔为1000(103)修约,修约值为:
4×103。
•⊙例5,将0.0325修约成两位有效位数,修约值为:
0.032或3.2×10-2。
•⊙例6,将32500修约成两位有效位数,其修约值为:
32×103。
•★在相对偏差(RSD)中,采用“只进不舍”的原则,
•如,0.163%,如为两个有效位时,宜修约为0.17%;
•0.52%,如为一个有效位时,宜修约为0.6%。
•★不许连续修约。
•拟修约的数字应在确定修约位数后一次修约获得结果,而不得多次按前面规则连续修约。
•例,15.4546,修约间隔1,
•正确的做法为:
15.4546→15。
•不正确的做法为:
15.4546→15.455→15.46→15.5→16。
•为了便于记忆,上述规则可归纳成以下口缺:
四舍六入五考虑,五后非零则进一,五后全零看五前,五前偶舍奇进一,不论数字多少位,都要一次修约成。
•(在英、美日药典中修约均是按四舍五入进舍的。
)
•③运算法则
•★在进行数学运算时,对加减法和乘除法中有效数字的处理是不同的;
•★许多数值相加减时,所得和或差的绝对误差必较任何一个数值的绝对误差大,因此相加减时应以诸数值中绝对误差最大,(即欠准数字的数位最大)的数值为准,以确定其他数在运算中保留的数位和决定计算结果的有效数位。
•★许多数值相乘除时,所得的积或商的相对误差必较任何一个数值的相对误差大,因此相乘除时应以诸数值中相对误差最大,(即有效位数最少)的数值为准,确定其它数值在运算中保留的有效位数和决定计算结果的有效数位。
•★在运算过程中,为减少舍入误差,其他数值的修约可以暂时多保留一位,等运算到结果时,再根据有效位数弃去多余的数字。
•例1:
13.65+0.00823+1.633=?
•本例是数值相加减,在三个数值中,13.65的绝对误差最大,其最末一位数为百分位(即小数后二位),因此将其它各数暂先保留至千分位。
即把0.00823修约为0.008,1.633不变。
•进行运算:
13.65+0.00823+1.633=13.65+0.008+1.633=15.291然后修约至百分位,即为:
15.29。
•例2:
14.131×0.07654÷0.78=?
•本例是数值相乘除,在三个数值中,0.78的有效位数最少,仅为二位有效位数,因此各数值均应暂时保留三位有效位数进行运算:
14.131×0.07654÷0.78=14.1×0.0765÷0.78=1.08÷0.78=1.38
•再将结果修约为两位有效位数,即1.4
•例3:
计算氧氟沙星(C18H20FN3O4)的分子量:
•原子数的有效位数可视为无限多位,因此可根据各原子量的有效位数对乘积进行定位.而在各乘积的相加中,则按中国药典对分子量的数值保留到小数点后两位(百分位)的规定,因此应先将各元素的乘积修约到千分位(小数点后三位)后进行相加,再将结果修约到百分位。
•12.051×18+1.00794×20+18.9984032+14.006747×3+15.9994×4
•=216.20+20.1588+18.9984032+42.020241+63.9976
•=216.20+20.159+18.998+42.020+63.998=361.375=361.38
•④注意事项:
•★正确记录检测所得的数值应根据取样量、量具的精度、检测方法的允许误差和标准中的限度规定,确定数字的有效位数(或数位),检测值必须与测量的准确度相符合,记录全部准确数字和一位欠准数字。
•★正确掌握和运用规则进行计算时,应执行进舍规则和运算规则,如用计算器进行计算,也应将计算结果经修约后再记录下来。
•★要根据取样的要求,选择相应的量具。
•⊙“精密称定”系指称取重量应准确到所取重量的0.1%,根据不同的取样量而选用不同精度的天平。
如需分别精密称取5g、500mg、10mg、样品,按0.1%的精度要求,这三个样品应分别精确到5mg、0.5mg和0.01mg,因此应分别选用万分之一(感量为0.1mg)、十万分之一(感量为0.01mg)和百万分之一(感量为0.001mg)的天平进行称量。
•在实际操作中,当取样量>0.1g时,则按精确至0.1mg称量,即应选用感量为0.1mg的天平称量;当取样量为100mg~10mg时,则按精确至0.01mg称量,即应选用感量为0.01mg的天平称量;当取样量为10mg以下时,则按精确至0.001mg称量,即应选用感量为0.01mg的天平称量;
•但在称量基准物质时,要求>0.5g时,按精确至0.1mg称量;≤0.5g时,按精确至0.01mg称量。
(要求更高)
•⊙“精密量取”应选用符合国家标准的移液管,必要时应加校正值。
•⊙“称定”(或“量取”)系指称取的重量(或量取的容量)应准确至所取重量(或容量)的百分之一。
(千分之一天平)
•⊙取用量为“约××”时,系指取用量不得超过规定量的100±10%。
如取约0.5g时,可称取0.45g~0.55g。
•⊙取用量的精度未作特殊规定时,应根据其数值的有效位数选用与之相应的量具;如规定量取5ml、5.0ml、5.00ml时,则应分别选用5~10ml的量筒、5~10ml的刻度吸管或5ml的移液管进行量取。
•★在判定药品质量是否符合规定之前,应将全部数据根据有效数字和数值修约规则进行运算,并根据中国药典2005年版二部“凡例”第十四条及国家标准GB1250-89《极限数值的表示方法和判定方法》中规定的“修约值比较法”将计算结果修约到标准中所规定的有效位,而后进行判定。
•(4)可疑数据的舍弃
•在测定结果中有时会有偏离平均值许多的测定值,被称为可疑数据,由于可疑数据的存在,会使结果发生不应有的偏移,故对可疑数据应予以舍弃。
舍弃的方法常见有三种:
•
①四倍法:
又称为4法或Chauvenet法,
•
其处理方法为:
•
★除可疑数据外,求出其余数据的平均值和平均偏差;
•
★如果可疑结果与之差的绝对值大时,则将此数据弃去,否则保留此数据。
序号
1
2
4
5
6
7
8
9
10
3
测定值i
0.785
0.788
0.778
0.784
0.780
XX文库-让每个人平等地提升自我
XX文库-让每个人平等地提升自我0.787
0.782
0.780
0.785
0.875
平均值x
0.783
偏差d
+0.002
+0.005
-0.005
+0.001
-0.003
-0.006
-0.001
-0.003
+0.002
平均偏差d
0.003
4=4×0.003=0.012
•
=0.875-0.783=0.092>4=0.012故数据0.875应该项舍弃。
•②Q检验:
在3~10次的测定中,仅出现一个可疑数据时,Q检验法是一种较为合理的方法。
其处理方法为:
•★将各测量值由小到大,依次排列,可疑数据将在序列的开头或末尾出现。
•★算出可疑数据与其邻近值之差,若首项为可疑数据,则差为X2-X1;若末项为可疑,则差为Xn-Xn-1。
★算出序列中最大值与最小值之差(极差),即:
Xn-X1。
•
★用可疑数据与其邻近值之差除以极差,所得的商被称为舍弃商Q值,若首项为可疑数据,则舍弃商Q为:
若末项为可疑数据,则舍弃商Q为:
•查Q90%(表1-2-3),若计算所得的Q值大于表中相应的Q90%临界值,则该可疑数据要被舍去,否则应被保留。
•
测定次数(n)
3
4
5
6
7
8
9
10
Q90%
0.94
0.76
0.64
0.56
0.51
0.47
0.44
o.41
例:
标定某一标准溶液时得到以5个结果:
0.1014、0.1012、0.1019、0.1026和0.1016
按由小到大排列,得:
0.1012、0.1014、0.1016、0.1019、0.1026可疑数据在序末尾。
•表1-2-3Q90%临界值
•
•
•
•
•
•查Q90%临界值表,当测定次数n为5时,Q90%为0.64
•因Q
•③格鲁布斯T检验
•适用范围较Q检验法广,效果也更好,其处理办法为:
•★将各测量值由小到大,依次排列,可疑数据将在序列的开头或末尾出现。
•
★计算舍弃商T值:
算出可疑数据与均值之差,除以标准差S,所得的商被称为舍弃商T值。
•若首位为可疑数据,则T值为:
•若末位为可疑数据,则T值为:
•★查舍弃T90%值表(表1-2-4),若计算所得的T值大于表中相应的舍弃商T90%值,则该可疑数据应被舍去,否则应被保留。
•
•
•
•
•
•(表1-2-4)舍弃商T90%值表
测定次数n
舍弃商T90%值
测定次数n
舍弃商T90%值
测定次数n
舍弃商T90%值
测定次数n
舍弃商T90%值
•3
•1.15
•8
•2.13
•13
•2.46
•18
•2.65
•4
•1.48
•9
•2.21
•14
•2.50
•19
•2.68
•5
•1.71
•10
•2.23
•15
•2.55
•20
•2.71
•6
•1.89
•11
•2.36
•16
•2.59
•21
•2.73
•7
•2.02
•12
•2.41
•17
•2.62
•22
•2.76
•当进行大量的平行实验(大于50次)时,个别一两个与平均值相差大的可比数据可通过统计学的文法来直接判断其取舍,但当平行实验的次数少于50次时,判断可疑数据的取舍要格外小心,以免使结果发生偏移,在此情况下可按以下步骤进行操作:
①检验实验记录,核对计算过程是否有错误,回想实验过程中是否有不正常的现象发生而引起特大误差,如找到确实的原因,便有了舍弃可疑数据的依据。
②如果可能,对所用方法的大致可能引起误差做出估计,对比实际测定所得数据的误差,以确认有可疑数据的存在。
③在样品量和时间允许的情况下,重复进行测定,若新得到的结果与原数据中的非可疑数据接近,则可进一步确认可疑数据的存在。
④如果没有条件进行更多次的平行实验,可选用以上介绍的三种统计学中的一种来决定可疑数据的取舍。