您还没有绑定微信,更多功能请点击绑定

有效数字与数字修约

在看到有效数字与数字修约规则时,红色部分(有效数字)没有理解.特张贴出来,请大家讨论.

以下是我个人理解:
之前先解释几个词:
半个单位: 0.1mm的半个单位就是0.05
极限误差:比如容差+/-0.005

"某数据极限误差为0.005,数据0.234的末位数应是3,其有效数字为2位"应该怎么理解呢?
首先 个人认为这句话( 有效数字—如果数据极限误差大于某一位的半个单位,该位就是有效数字的末位)存在表述错误,应该是:
有效数字—如果数据极限误差不大于某一位的半个单位,该位就是有效数字的末位

第一 让我们找到与极限误差对应的位置(0.005的对应位置0.004,小数点后第三位)
第二 比较极限误差(0.005)与0.004/2,不难发现 0.005>0.002(0.004的半个单位)
按照定义(有效数字—如果数据极限误差大于某一位的半个单位,该位就是有效数字的末位),因此还要向更大一级的位数寻找。也就是0.03
第三, 比较极限误差(0.005)与0.03/2,不难发现 0.005<0.015(0.03的半个单位)
因此0.03就是有效的末位

也就是说 有效数字是3之前的数字(结合有效数字的定义:第一个非零数字起)0.23
有效数字2位

欢迎大家指正错误


背景:
---------------------------------
有效数字与数字修约规则
* 有效数字—如果数据极限误差大于某一位的半个单位,该位就是有效数字的末位,且该位
到其左边的非零数字一共有n位,n就是该数据的有效数字的位数;举例;
某数据极限误差为0.005,数据0.234的末位数应是3,其有效数字为2位;
某数据极限误差为0.5,数据8700.33的末位数应是0,其有效数字为4位。* 数字修约规则; 对有效数字后一位数字式形四舍(末尾数字≤4 时舍去)六入(末尾数字

5时前一位增加1),
如:0.6331、0.6333、0.634若取三位有效数字时,应为0.633
又如:0.6336、0.6337、0.6338区三位有效数字时,应为0.634
当有效数字后一位数字为5时,视其前一位是单数时,末位数增加1:如前一位数为双数时,
舍去。如:0.6335—0.634 0.6375—0.638 0.6345——0.634 0.6365—0.636。(有效数字为
3位)。
------------摘自<<TS16949七工具.pdf>>


以下参考资料(摘自http://www.jxnu.edu.cn/jgsz/jx ... .3.htm)
1.3 有效数字及其运算规则
1.3.1 有效数字
  1. 定义  
  有效数字就是实际能测到的数字。有效数字的位数和分析过程所用的分析方法、测量方法、测量仪器的准确度有关。我们可以把有效数字这样表示。
  有效数字=所有的可靠的数字+ 一位可疑数字
  表示含义:如果有一个结果表示有效数字的位数不同,说明用的称量仪器的准确度不同。
  例:7.5克    用的是粗天平
  7.52克    用的是扭力天平
  7.5187克   用的是分析天平
  2. “0”的双重意义
  作为普通数字使用或作为定位的标志。
  例:滴定管读数为20.30毫升。两个0都是测量出的值,算做普通数字,都是有效数字,这个数据有效数字位数是四位。
  改用“升”为单位,数据表示为0.02030升,前两个0是起定位作用的,不是有效数字,此数据是四位有效数字。
  3. 规定
  (1).倍数、分数关系 无限多位有效数字
  (2). pH、pM、lgc、lgK等对数值,有效数字由尾数决定。
  例: pM=5.00 (二位) =1.0×10-5 ;PH=10.34(二位);pH=0.03(二位)
  注意:首位数字是8,9时,有效数字可多计一位, 如9.83―四位。

1.3.2 数字修约规则(“四舍六入五成双”规则)

  规定:当尾数≤4时则舍,尾数≥6时则入;尾数等于5而后面的数都为0时,5前面为偶数则舍,5前面为奇数则入;尾数等于5而后面还有不为0的任何数字,无论5前面是奇或是偶都入。
  例:将下列数字修约为4位有效数字。
  修约前     修约后
  0.526647--------0.5266
  0.36266112------0.3627
  10.23500--------10.24
  250.65000-------250.6
  18.085002--------18.09
  3517.46--------3517
  注意:修约数字时只允许一次修约,不能分次修约。 如:13.4748-13.47

1.3.3 计算规则

  1. 加减法
  先按小数点后位数最少的数据保留其它各数的位数,再进行加减计算,计算结果也使小数点后保留相同的位数。
  例:计算50.1+1.45+0.5812=?
  修约为:50.1+1.4+0.6=52.1
  先修约,结果相同而计算简捷。
  例:计算 12.43+5.765+132.812=?
  修约为:12.43+5.76+132.81=151.00
  注意:用计数器计算后,屏幕上显示的是151,但不能直接记录,否则会影响以后的修约;应在数值后添两个0,使小数点后有两位有效数字。
  2. 乘除法
  先按有效数字最少的数据保留其它各数,再进行乘除运算,计算结果仍保留相同有效数字。
  例:计算0.0121×25.64×1.05782=?
  修约为:0.0121×25.6×1.06=?
  计算后结果为:0.3283456,结果仍保留为三位有效数字。
  记录为:0.0121×25.6×1.06=0.328
  注意:用计算器计算结果后,要按照运算规则对结果进行修约
  例:计算2.5046×2.005×1.52=?
  修约为:2.50×2.00×1.52=?
  计算器计算结果显示为7.6,只有两位有效数字,但我们抄写时应在数字后加一个0,保留三位有效数字。
  2.50×2.00×1.52=7.60

对“好”的回答一定要点个"赞",回答者需要你的鼓励!
已邀请:

wallacech (威望:0) (湖北 武汉) 汽车制造相关 经理

赞同来自:

有效数字是能准确的读数,一般最后一位是估计读书。另外还要看你的设计值的最小为是多少,如:要求0.005,实际是0.006,那有效位是两位,如要求是0.002,实际是0.006,那么有效位是三位,六就不是估计读书

2 个回复,游客无法查看回复,更多功能请登录注册

发起人

扫一扫微信订阅<6SQ每周精选>