有效数字与运算规则(2014.05.12)Word格式文档下载.doc

上传人:b****2 文档编号:13770155 上传时间:2022-10-13 格式:DOC 页数:5 大小:145.50KB
下载 相关 举报
有效数字与运算规则(2014.05.12)Word格式文档下载.doc_第1页
第1页 / 共5页
有效数字与运算规则(2014.05.12)Word格式文档下载.doc_第2页
第2页 / 共5页
有效数字与运算规则(2014.05.12)Word格式文档下载.doc_第3页
第3页 / 共5页
有效数字与运算规则(2014.05.12)Word格式文档下载.doc_第4页
第4页 / 共5页
有效数字与运算规则(2014.05.12)Word格式文档下载.doc_第5页
第5页 / 共5页
亲,该文档总共5页,全部预览完了,如果喜欢就下载吧!
下载资源
资源描述

有效数字与运算规则(2014.05.12)Word格式文档下载.doc

《有效数字与运算规则(2014.05.12)Word格式文档下载.doc》由会员分享,可在线阅读,更多相关《有效数字与运算规则(2014.05.12)Word格式文档下载.doc(5页珍藏版)》请在冰豆网上搜索。

有效数字与运算规则(2014.05.12)Word格式文档下载.doc

移液管;

容量瓶;

4位有效数字

(2)分析天平(万分之一)取4位有效数字

(3)标准溶液的浓度,用4位有效数字表示:

0.1000mol/L

(4)pH4.34,小数点后的数字位数为有效数字位数

对数值,lgX=2.38;

lg(2.4´

102)

1.3有效数字中"0"的意义

"0"在有效数字中有两种意义:

一种是作为数字定值,另一种是有效数字.例如在分析天平上称量物质,得到如下质量:

物质

称量瓶

Na2CO3

H2C2O4·

2H2O

称量纸

质量(g)

10.0780

1.2056

0.2044

0.0120

有效数字位数

6位

5位

4位

3位

 

以上数据中“0”所起的作用是不同的。

“0”是有效数字:

10.0780,6位有效数字。

1.2056中,5位有效数字。

“0”作为数字定值:

0.2044中,小数前面的“0”是定值用的,不是有效数字;

0.0120中,“1”前面的两个“0”都是定值用的,而在末尾的“0”是有效数字,所以它有3位有效数字。

称量精确至0.0002g;

15000m 

和10000g很难肯定其中的0 

是否是有效数字还是数字定值,写为1.5×

104m,则表示有效数字是二位;

如果把它写为1.50×

104m则表示有效数字是三位。

综上所述,数字中间的“0”和末尾的“0”都是有效数字,而数字前面所有的“0”只起定值作用。

以“0”结尾的正整数,有效数字的位数不确定。

二、数字修约规则

我国科学技术委员会正式颁布的《数字修约规则》,通常称为“四舍六进五成双”法则。

四舍六进五考虑,即当尾数≤4时舍往,尾数为6时进位。

当尾数4舍为5时,则应是末位数是奇数还是偶数,5前为偶数应将5舍往,5前为奇数应将5进位。

大(于)5进,小(于)5舍,是5看奇偶,奇进偶不进。

这一法则的具体运用如下:

a.将22.125和22.155处理成4位有效数字,则分别为22.12和22.16。

b.若被舍弃的第一位数字大于5,则其前一位数字加1,例如18.2645处理成3为有效数字时,其被舍往后的第一位数字为6,大于5,则有效数字应为18.3。

c.若被舍其的第一位数字即是5,而其后数字全部为零时,则是被保存末位数字为奇数或偶数(零视为偶),而定进或舍,末位数是奇数时进1,末位数为偶数时还进1,例如18.350、18.250、18.050处理成3位有效数字时,分别为18.4、18.2、18.0。

d.若被舍弃的第一位数字为5,而其后的数字并非全部为零时,则进1,例如18.2501,只取3位有效数字时,成为18.3。

e.若被舍弃的数字包括几位数字时,不得对该数字进行连续修约,而应根据以上各条作一次处理。

如35.454546,只取4位有效数字时,应为35.45,二不得按下法连续修约为35.46:

35.454546→35.45455→35.4546→35.455→35.46

三、有效数字运算规则

在分析计算中,有效数字的保存更为重要,下面仅就加减法和乘除法的运算规则加以讨论。

3.1加减法

在加减法运算中,保存有效数字的以小数点后位数最少的为准,即以绝对误差最大的为准,例如:

0.0121+25.64+1.05782=?

正确计算 

不正确计算

0.01 

 

0.0121 

绝对误差0.0001

25.64 

25.640.01

1.06 

 

1.057820.00001

——————— 

26.71 

 

26.70992 

上例相加3个数字中,25.64中的“4”已是可疑数字,因此最后结果有效数字的保存应以此数为准,即保存有效数字的位数到小数点后面第二位。

3.2乘除法

乘除运算中,保存有效数字的位数以位数最少的数为准,即以相对误差最大的为准。

例如:

0.0121×

25.64×

1.05782=

以上3个数的乘积应为:

不正确计算:

1.05782=0.3281823……

正确计算:

25.6×

1.06=0.328

在这个计算中3个数的相对误差分别为:

E%=(±

0.0001)/0.0121×

100=±

8

0.01)/25.64×

0.04

0.00001)/1.05782×

0.0009

有效数字的位数取决于相对误差最大的数据的位数。

±

0.1/139.8´

100%=±

0.07%

例:

(0.0325´

5.103´

60.0)/139.8=0.0712(0.071179184)

0.0325±

0.0001/0.0325´

100%=±

0.3%

5.103±

0.001/5.103´

0.02%

60.06±

0.01/60.06´

0.02%

139.8±

5.10´

60.0)/140=0.0710±

0.0002/0.0710´

0.28%

显然第一个数的相对误差最大(有效数字为3位),应以它为准,将其他数字根占有效数字修约原则,保存3位有效数字,然后相乘即可。

3.3自然数

在分析化学中,有时会碰到一些倍数和分数的关系,化学计量关系中的分数和倍数,这些数不是测量所得,它们的有效数字位数可视为无限多位;

如:

H3PO4的相对分子量/3=98.00/3=32.67

水的相对分子量=2×

1.008+16.00=18.02

在这里分母“3”和“2×

1.008”中的“2”由于它们是非丈量所得到的数,是自然数,其有效数字位数可视为无穷的。

关于pH、pK和lgK等对数值,其有效数字的位数仅取决于小数部分的位数,因为整数部分只与该真数中的10的方次有关。

例如,pH=13.15为两位有效数字,整数部分13不是有效数字。

若将其表示成[H+]=7.1×

10-14,就可以看出13的作用仅是确定了[H+]在10-14数量级上,其数学意义与确定小数点位置的“0”相同。

在滴定分析中,实验数据的记录只应保留一位可疑数字,结果的计算和数据处理均应按有效数字的计算规则进行。

在常见的常量分析中,一般是保存四位有效数字。

但在水质分析中,有时只要求保存2位或3位有效数字,应视具体要求而定。

展开阅读全文
相关资源
猜你喜欢
相关搜索

当前位置:首页 > 表格模板 > 合同协议

copyright@ 2008-2022 冰豆网网站版权所有

经营许可证编号:鄂ICP备2022015515号-1