保留小数位数
一般如何确定测量结果保留小数位数？如我们THD指标要求≤0.5%，按1/10原则达到0.01即可，但我们只能用现有的音频分析仪，其可以显示五位小数，精度为0.00005%，测量结果第三位小数跳得很厉害，并且测每一台产品第二位小数基本都是一致的，如测量100台产品可能97台都是0.02%然后第三位从0~9不停的跳变。这种应如何读数？如何保留小数位数？如何进行SPC计算CPK？
没有找到相关结果
已邀请:
RSS Feed
1 个回复
hahalv (威望:44) (北京 北京) 计算机相关 经理 - ASQ、项目质量经理、系统保证和RAMS经理
赞同来自:
如果要进行SPC控制，计算CPK，则需要保留到3位小数。但是如何比较准确的读出第三位小数的值还需要研究。或许你们需要使用带有自稳定算法的仪器，或者这个仪器本身就有这个功能，你们还没有搞明白怎么用。因为一个仪器如果读书没法稳定，精度再高都是没有意义的