CEMS中有效数字保留

网友咨询：
在近似值计算规则中，遇到一个问题想请教一下。
比如在一个污水在线仪器比对实验过程中 CEMS测定值为0.2037 实验室测定值为0.20 绝对误差的计算为0.204-0.20 结果为0.004，原则按照小数点少的一个保留，0.20是小数点后两位，那最总结果是报0.00 还是0.004
回复：
您好，根据您的问题描述答复如下：分析结果应按照分析方法的要求确定有效数字位数。
近似值计算规则可参考《污水监测技术规范》（HJ 91.1-2019）9.4“近似计算规则”相关内容（近似值相加减时，其和或差的有效数字位数，与各近似值中小数点后尾数最少者相同。
运算过程中，可以多保留一位小数，计算结果按数值修约规则处理）。
因此，在问题描述中两个测定值的有效数字位数无误的前提下，绝对误差的计算结果有效数字位数应与小数点后尾数最少者（即0.20）相同，故计算结果修约至小数点后2位，由于计算后修约结果为0，最终报0。
感谢您的关注与支持！
内容转自：广东生态环境*互动交流

帐号		自动登录	找回密码
密码			立即注册

CEMS中有效数字保留

0 个回复

欢迎关注【编报告】

关注公众号