修约与极限数值.docx

修约与极限数值.docx

《修约与极限数值.docx》由会员分享，可在线阅读，更多相关《修约与极限数值.docx（8页珍藏版）》请在冰豆网上搜索。

修约与极限数值

数值修约规则与极限数值的表示和判定

一、术语和定义

1、数值修约

通过省略原数值的最后若干位数字，调整所保留的末位数字，使最后所得到的值最接近原数值的过程。

2、修约间隔

系修约值的最小数值单位。

修约间隔的数值一经确定，修约值即应为该数值的整数倍。

　　例1：

如指定修约间隔为0.1，修约值即应在0.1的整数倍中选取，相当于将数值修约到一位小数。

例2：

如指定修约间隔为100，修约值即应在100的整数倍中选取，相当于将数值修约到“百”数位。

3、极限数值

　　标准（或技术规范）中规定考核的以数量形式给出且符合该标准（或技术规范）要求的指标数值范围的界限值。

二、数值修约规则

1、确定修约间隔

a）指定修约间隔为10-n（n为正整数），或指明将数值修约到n位小数；

　　b）指定修约间隔为1，或指明将数值修约到个数位；

　　c）指定修约间隔为10n（n为正整数），或指明将数值修约到10n数位，或指明将数值修约到“十”，“百”，“千”……数位。

2、进舍规则

（1）拟舍弃数字的最左一位数字小于5时，则舍去，即保留的各位数字不变。

　　例1：

将12.1498修约到一位小数，得12.1。

　　例2：

将12.1498修约到“个”位，得12。

（2）拟舍弃数字的最左一位数字大于5，则进一，即保留数字的末位数字加1。

　　例：

将1268修约到“百”数位，得13×102（特定场合可写为1300）。

（3）拟舍弃数字的最左一位数字是5，且其后有非0数字时进一，即保留数字的末位数字加1。

　　例：

将10.502修约到个数位，得11。

　（4）拟舍弃数字的最左一位数字为5，且其后无数字或皆为0时，若所保留的末位数字为奇数（1，3，5，7，9）则进一，即保留数字的末位数字加1；若所保留的末位数字为偶数（0，2，4，6，8），则舍去。

　　例1：

修约间隔为0.1（或10-1）

　　拟修约数值修约值

　　1.05010×10-1（特定场合可写为1.0）

　　0.354×10-1（特定场合可写为0.4）

　　例2：

修约间隔为1000（或103）

　　拟修约数值修约值

　　25002×103（特定场合可写为2000）

　　35004×103（特定场合可写为4000）

　　（5）负数修约时，先将它的绝对值按上述3.1~3.3规定进行修约，然后在所得值前面加上负号。

　　例1：

将下列数字修约到“十”数位

　　拟修约数值修约值

　　-355-36×10（特定场合可写为-360）

-325-32×10（特定场合可写为-320）

例2：

将下列数字修约到三位小数，即修约间隔为10-3

　　拟修约数值修约值

-0.0365-0.0365×10-3（特定场合可写为-0.036）

3、不许连续修约

（1）拟修约数字应在确定修约间隔或指定修约位数后一次修约获得结果，不得多次按“进舍规则”连续修约。

　　例1：

修约97.46，修约间隔为1。

　　正确的做法：

97.46→97；

　　不正确的做法：

97.46→97.5→98。

例2：

修约15.4546，修约间隔为1。

　　正确的做法：

15.4546→15；

　　不正确的做法：

15.4546→15.455→15.46→15.5→16。

（2）在具体实施中，有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出，而后由其他部门判定。

为避免产生连续修约的错误，应按下述步骤进行。

　　a）报出数值最右的非零数字为5时，应在数值右上角加“＋”或“－”或不加符号，以分别表明已进行过舍、进或未舍未进。

如：

16.50＋表示实际值大于16.50，经修约舍弃为16.50；16.50－表示实际值小于16.50，经修约进一成为16.50。

　b）如果对报出值需要进行修约，当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时，数值右上角有“＋”者进一，有“－”者舍去，其他仍按“进舍规则”进行。

　　例1：

将下列数字修约到个数位（报出值多留一位至一位小数）。

　　实测值报出值修约值

　　15.454615.5-15

　　-15.4546-15.5--15

16.520316.5＋17

　　-16.5203-16.5＋-17

17.500017.518

4、0.5单位修约与0.2单位修约

　　在对数值进行修约时，若有必要，可采用0.5单位修约和0.2单位修约。

（1）0.5单位修约（半个单位修约）

　　0.5单位修约是指按指定修约间隔对拟修约的数值0.5单位进行的修约。

0.5单位修约方法如下：

将拟修约数值X乘以2，按指定修约间隔对2X依“进舍规则”修约，所得数值（2X修约值）再除以2。

　　如：

将下列数字修约到“个”数位的0.5单位修约。

　　拟修约数值X2X2X修约值X修约值

　　60.25120.5012060.0

　　60.38120.7612160.5

　　60.28120.5612160.5

-60.75-121.50-122-61.0

（2）0.2单位修约

0.2单位修约是指按指定修约间隔对拟修约的数值0.2单位进行的修约。

0.2单位修约方法如下：

将拟修约数值X乘以5，按指定修约间隔对5X依“进舍规则”修约，所得数值（5X修约值）再除以5。

　　例如：

将下列数字修约到“百”数位的0.2单位修约

　　拟修约数值X5X5X修约值X修约值

　　83041504200840

　　84242104200840

　　83241604200840

-930-4650-4600-920

三、极限数值的表示和判定

1、书写极限数值的一般原则

（1）标准（或其他技术规范）中规定考核的以数量形式给出的指标或参数等，应当规定极限数值。

极限数值表示符合该标准要求的数值范围的界限值，它通过给出最小极限值和（或）最大极限值，或给出基本数值与极限偏差值等方式表达。

（2）标准中极限数值的表示形式及书写位数应适当，其有效数字应全部写出。

书写位数表示的精确程度，应能保证产品或其他标准化对象应有的性能和质量。

2、表示极限数值的用语

（1）基本用语

a）表达极限数值的基本用语及符号见表1

表1

基本用语

符号

特定情形下的基本用语

注

大于A

＞A

多于A

高于A

测定值或计算值恰好为A值时不符合要求

小于A

＜A

少于A

低于A

测定值或计算值恰好为A值时不符合要求

大于或等于A

≥A

不小于A

不少于A

不低于A

测定值或计算值恰好为A值时符合要求

小于或等于A

≤A

不大于A

不多于A

不高于A

测定值或计算值恰好为A值时符合要求

注1：

A为极限数值。

注2：

允许采用以下习惯用语表达极限数值：

“超过A”，指数值大于A（＞A）；

“不足A”，指数值小于A（＜A）；

“A及以上”或“至少A”，指数值大于或等于A（≥A）；

“A及以下”或“至多A”，指数值小于或等于A（≤A）。

例1：

钢中磷的残量＜0.035%，A=0.035%。

例2：

钢丝绳抗拉强度≥22×102（MPa），A=22×102（MPa）。

b）基本用语可以组合使用，表示极限值范围。

对特定的考核指标，允许采用下列用语和符号（见表2）。

同一标准中一般只应使用一种符号表示方式。

表2

组合基本用语

组合允许用语

符号

表示方式Ⅰ

表示方式Ⅱ

表示方式Ⅲ

大于或等于A且小于或等于B

从A到B

A≤X≤B

A≤·≤B

A～B

大于A且小于或等于B

超过A到B

A＜X≤B

A＜·≤B

＞A～B

大于或等于A且小于B

至少A不足B

A≤X＜B

A≤·＜B

A～＜B

大于A且小于B

超过A不足B

A＜X＜B

A＜·＜B

（2）带有极限偏差值的数值

a）基本数值A带有绝对极限上偏差值+b1和绝对极限下偏差值-b2，指从A-b2到A+b1符合要求，记为。

注：

当b1=b2=b时，可简记为A±b。

例：

mm，指从79mm到82mm符合要求。

b）基本数值A带有相对极限上偏差值+b1%和相对极限下偏差值-b2%，指实测值或其计算值R对于A的相对偏差值[（R-A）/A]从-b2%到+b1%符合要求，记为%。

注：

当b1=b2=b时，%可简记为A（1±b%）。

例：

510（1±5%）,指实测值或其计算值R对于510的相对偏差值[（R-510）/510]从-5%到+5%符合要求。

c）基本数值A，若极限上偏差值+b1和（或）极限下偏差值-b2使得A+b1和（或）A-b2不符合要求，则应附加括号，写成（不含b1和b2）或（不含b1）、（不含b2）。

例1：

（不含2）mm，指从79mm到接近但不足82mm符合要求。

例2：

510（1±5%）（不含5%）,指实测值或其计算值R对于510的相对偏差值[（R-510）/510]从-5%到接近但不足+5%符合要求。

2、测定值或其计算值与标准规定的极限数值作比较的方法

（1）总则

a）在判定测定值或其计算值是否符合标准要求时，应将测试获得的测定值或其计算值与标准规定的极限数值作比较，比较的方法可采用：

①全数值比较法、②修约值比较法。

b）当标准或有关文件中，若对极限数值（包括带有极限偏差值的数值）无特殊规定时，均应采用全数值比较法。

若规定采用修约值比较法，应在标准中加以说明。

c）当标准或有关文件规定了使用其中一种比较方法时，一经确定，不得改动。

（2）全数值比较法

将测试所得的测定值或其计算值不经修约处理（或虽经修约处理，但应表明它是经舍、进或未进未舍而得），用该数值与规定的极限数值作比较，只要超出极限数值规定的范围（不论超出程度大小），都判定为不符合要求。

见表3。

（3）修约值比较法

a）在判定测定值或其计算值进行修约，修约数位应与规定的极限数值数位一致。

当测试或计算精度允许时，应先将获得的数值按指定的修约位数多一位或几位报出，然后按“进舍规则”程序修约至规定的位数。

b）将修约后的数值与规定的极限数值进行比较，只要超出极限数值规定的范围（不论超出程度大小），都判定为不符合要求。

见表3。

表3

项目

极限数值

测定值或其计算值

按全数值比较是否符合要求

修约值

按修约值比较是否符合要求

NaOH的质量分数/%

≥97.0

97.01

97.00

96.96

96.94

符合

符合

不符合

不符合

97.0

97.0

97.0

96.9

符合

符合

符合

不符合

（4）两种判定方法的比较

对测定值或其计算值与规定的极限数值在不同情形用全数值比较法和修约值比较法的比较结果的示例见表3。

对同样的极限数值，若它本身符合要求，则全数值比较法比修约值比较法相对较严格。