首页 > 行业资讯 > 校准曲线的斜率、截距保留几位有效数字?

校准曲线的斜率、截距保留几位有效数字?

时间:2022-12-11 来源: 浏览:

校准曲线的斜率、截距保留几位有效数字?

环境监测实战
环境监测实战

t-cnemc

关注国家最新环境政策,交流环境监测技术,学习污水和废气处理技术,学习实验室管理技能,提升环境监测、污水和废气处理能力。

收录于合集

以下文章来源于实验室ISO17025 ,作者实验室ISO17025

实验室ISO17025 .

实验室认可 ISO17025、CNAS、CMA咨询、辅导、培训;实验室LIMS系统;实验室设计、改造、装修,仪器设备、标准物质,耗材试剂,检测、校准。 电话:18620111147,weixin:18620111147

校准曲线的斜率、截距保留几位有效数字?
1

参考依据

参考标准HJ 630,其他行业参考使用。
2

相关系数r保留的有效数字

校准曲线相关系数只舍不入,保留到小数点后第一个非9数字。如果小数点后多于4个9,最多保留4位。
3

校准曲线斜率的有效位数

校准曲线斜率的 有效位数 ,应与自变量的有效数字位数相等。
4

校准曲线截距的有效位数

校准曲线截距的 最后一位数 ,应与因变量的最后一位数取齐。
5

自变量和因变量的有效数字

记录测定数值时,应同时考虑计量器具的精密度、准确度和读数误差。对检定合格的计量器具,有效数字位数可以记录到最小分度值,最多保留一位不确定数字。
6

实例

校准曲线的相关参数如图:

相关系数:
相关系数计算结果为:r=0.999945,按照规则,小数点后的9多余4个则,最多保留4个9,所以,r=0.9999
斜率:
斜率计算结果为:14.48,按照规则,斜率和自变量的有效数字位数相等,自变量的有效数字的位数相同,自变量的有效数字有2位的(如,2.0),有三位的(如,16.0),保持曲线更精确,取有效数字多的位数,取3位。
所以斜率取:14.5
截距:
计算的截距为0.6442,按照规则,截距的最后一位数,应与因变量的最后一位数取齐,因变量的最后一位为效数点后一位。
所以截距取 0.6

转自:实验室ISO17025

版权:如无特殊注明,文章转载自网络,侵权请联系cnmhg168#163.com删除!文件均为网友上传,仅供研究和学习使用,务必24小时内删除。
相关推荐