下表为对一个量程为100mV的毫伏表进行校准测得数据,计算该毫伏表的灵敏度和非线性误差。仪表刻度值/mV0102030405060708090100校准仪表示值/mV0.09.920.230.439.850.260.470.38089.7100注:直线拟合用端点连线拟合法。
下表为对一个量程为100mV的毫伏表进行校准测得数据,计算该毫伏表的灵敏度和非线性误差。仪表刻度值/mV0102030405060708090100校准仪表示值/mV0.09.920.230.439.850.260.470.38089.7100注:直线拟合用端点连线拟合法。
正确答案:设采用端点连线拟合法进行拟合,拟合直线为y=kx则,k=100/100=1校准仪表理论值为:0,10,20,30,40,50,60,70,80,90,100校准仪表示值与理论值之间的最大偏差值为0.4mV故非线性误差为:0.4/100=0.4%