有效数字与数字修约
以下是我个人理解:
之前先解释几个词:
半个单位: 0.1mm的半个单位就是0.05
极限误差:比如容差+/-0.005
"某数据极限误差为0.005,数据0.234的末位数应是3,其有效数字为2位"应该怎么理解呢?
首先 个人认为这句话( 有效数字—如果数据极限误差大于某一位的半个单位,该位就是有效数字的末位)存在表述错误,应该是:
有效数字—如果数据极限误差不大于某一位的半个单位,该位就是有效数字的末位
第一 让我们找到与极限误差对应的位置(0.005的对应位置0.004,小数点后第三位)
第二 比较极限误差(0.005)与0.004/2,不难发现 0.005>0.002(0.004的半个单位)
按照定义(有效数字—如果数据极限误差大于某一位的半个单位,该位就是有效数字的末位),因此还要向更大一级的位数寻找。也就是0.03
第三, 比较极限误差(0.005)与0.03/2,不难发现 0.005<0.015(0.03的半个单位)
因此0.03就是有效的末位
也就是说 有效数字是3之前的数字(结合有效数字的定义:第一个非零数字起)0.23
有效数字2位
欢迎大家指正错误
背景:
---------------------------------
有效数字与数字修约规则
* 有效数字—如果数据极限误差大于某一位的半个单位,该位就是有效数字的末位,且该位
到其左边的非零数字一共有n位,n就是该数据的有效数字的位数;举例;
某数据极限误差为0.005,数据0.234的末位数应是3,其有效数字为2位;
某数据极限误差为0.5,数据8700.33的末位数应是0,其有效数字为4位。* 数字修约规则; 对有效数字后一位数字式形四舍(末尾数字≤4 时舍去)六入(末尾数字
5时前一位增加1),
如:0.6331、0.6333、0.634若取三位有效数字时,应为0.633
又如:0.6336、0.6337、0.6338区三位有效数字时,应为0.634
当有效数字后一位数字为5时,视其前一位是单数时,末位数增加1:如前一位数为双数时,
舍去。如:0.6335—0.634 0.6375—0.638 0.6345——0.634 0.6365—0.636。(有效数字为
3位)。
------------摘自<<TS16949七工具.pdf>>
以下参考资料(摘自http://www.jxnu.edu.cn/jgsz/jx ... .3.htm)
1.3 有效数字及其运算规则
1.3.1 有效数字
1. 定义
有效数字就是实际能测到的数字。有效数字的位数和分析过程所用的分析方法、测量方法、测量仪器的准确度有关。我们可以把有效数字这样表示。
有效数字=所有的可靠的数字+ 一位可疑数字
表示含义:如果有一个结果表示有效数字的位数不同,说明用的称量仪器的准确度不同。
例:7.5克 用的是粗天平
7.52克 用的是扭力天平
7.5187克 用的是分析天平
2. “0”的双重意义
作为普通数字使用或作为定位的标志。
例:滴定管读数为20.30毫升。两个0都是测量出的值,算做普通数字,都是有效数字,这个数据有效数字位数是四位。
改用“升”为单位,数据表示为0.02030升,前两个0是起定位作用的,不是有效数字,此数据是四位有效数字。
3. 规定
(1).倍数、分数关系 无限多位有效数字
(2). pH、pM、lgc、lgK等对数值,有效数字由尾数决定。
例: pM=5.00 (二位) =1.0×10-5 ;PH=10.34(二位);pH=0.03(二位)
注意:首位数字是8,9时,有效数字可多计一位, 如9.83―四位。
1.3.2 数字修约规则(“四舍六入五成双”规则)
规定:当尾数≤4时则舍,尾数≥6时则入;尾数等于5而后面的数都为0时,5前面为偶数则舍,5前面为奇数则入;尾数等于5而后面还有不为0的任何数字,无论5前面是奇或是偶都入。
例:将下列数字修约为4位有效数字。
修约前 修约后
0.526647--------0.5266
0.36266112------0.3627
10.23500--------10.24
250.65000-------250.6
18.085002--------18.09
3517.46--------3517
注意:修约数字时只允许一次修约,不能分次修约。 如:13.4748-13.47
1.3.3 计算规则
1. 加减法
先按小数点后位数最少的数据保留其它各数的位数,再进行加减计算,计算结果也使小数点后保留相同的位数。
例:计算50.1+1.45+0.5812=?
修约为:50.1+1.4+0.6=52.1
先修约,结果相同而计算简捷。
例:计算 12.43+5.765+132.812=?
修约为:12.43+5.76+132.81=151.00
注意:用计数器计算后,屏幕上显示的是151,但不能直接记录,否则会影响以后的修约;应在数值后添两个0,使小数点后有两位有效数字。
2. 乘除法
先按有效数字最少的数据保留其它各数,再进行乘除运算,计算结果仍保留相同有效数字。
例:计算0.0121×25.64×1.05782=?
修约为:0.0121×25.6×1.06=?
计算后结果为:0.3283456,结果仍保留为三位有效数字。
记录为:0.0121×25.6×1.06=0.328
注意:用计算器计算结果后,要按照运算规则对结果进行修约
例:计算2.5046×2.005×1.52=?
修约为:2.50×2.00×1.52=?
计算器计算结果显示为7.6,只有两位有效数字,但我们抄写时应在数字后加一个0,保留三位有效数字。
2.50×2.00×1.52=7.60
没有找到相关结果
2 个回复
wallacech (威望:0) (湖北 武汉) 汽车制造相关 经理
赞同来自: