检测结果有效数字及其运算_新能源检测技术材料化学元器件汽车电子热分析实验室仪器温度研发工程师试验硬件质量检测.docVIP

检测结果有效数字及其运算 有效数字及其有效数字的保留 ? 1 .有效数字的定义 ? 我们把通过直读获得的准确数字叫做可靠数字；把通过估读得到的那部分数字叫做存疑数字。把测量结果中能够反映被测量大小的带有一位存疑数字的全部数字叫有效数字。有效数字指，保留末一位不准确数字，其余数字均为准确数字。有效数字的最后一位数值是可疑值。 ? 如：0.2014为四位有效数字，最末一位数值4是可疑值，而不是有效数值。 ? 再如： 1g、1.000g其所表明的量值虽然都是1，但其准确度是不同的，其分别表示为准确到整数位、准确到小数点后第三位数值。因此有效数值不但表明了数值的大小，同时反映了测量结果的准确度。 ? 2 .有效数字的保留 ? 由于有效数字最末一位是可疑值，而不是准确值。因此，计算过程中，计算的结果应比标准极限或技术指标规定的位数要求多保留一位，最后的报出值应与标准对定的位数相一致。 ? 如：在标准的极限数值(或技术指标)的表示中，×× ≧95 ?表明结果要求保留到整数位。因此，计算结果一定要保留到小数点后一位，最后再修约到整数位，如计算结果为94.6报出结果为95(-)；因为94.6结果的0.6为可疑值，要想保留到整数位结果为准确值，计算结果必须要多保留一位。 ? 如，分析天平的分辨率为0.1mg(即我们常说的万分之一天平)，如果我们称取的量是10.4320g，则实际的称取结果结果为10.4320±0.0002g(万分之一的天平误差)。 ? 如GB/T 601-2016《化学试剂 ?标准滴定溶液的制备》，要求报出结果取4位有效数字，因此在标定计算结果中，应保留5位有效数字，最后再修约到4位有效数字(如果直接保留到4位有效数字，实际上是保留了三位有效数字，因最后一位是可疑值，则由标准溶液的浓度的不准确，会引进系统误差。 ? “0” 在数字中的作用 ? “0”作为一个特殊的数字，在数值的不同的位置，有着不同的作用，只有明确了“0”在数字中的作用，才能更好的掌握有效数字及其加减乘除的运算规则。“0”在数字中不同的位置，有不用的作用，根据“0”在数字的位置，起三种作用。即定位(无效)、定值(有效)及不确定作用。 ? 1 .定位(无效) ? 当“0”在小数点后，又在数字之前(前提：小数点前为“0”)时，为定位。 如：0.0001(数字前4个零) ?0.02040(数字前2个零)均为定位作用。 ? 2. 定值(有效) ? 当“0”在小数点后的数值中间或数尾(前提：小数点前必为“0”)时。 如：0.00204 0.300020；当“0”在小数点后，而小数点前为非“0”时。 如1.000 1.0204，均为有效作用。 ? 3 不确定作用：当“0”在整数后 ? 如：4500 有效数值是几位?回答是：不确定。将4500用三位有效数字表示：0.450×104 4.50×103 。将4500用四位有效数字表示：0.4500×104 、45.00×102。 ? 数字修约规则(GB/T 8170) ? 1.数字修约规则 ? “四舍五入法”是我们所熟悉的求近似数的方法。它深深地印在我们的脑海里，只要一遇到求近似数的问题，马上就会想到“四舍五入法”。可是，在实验中，经常要对大量的数据进行统计分析。如果仍用“四舍五入法”取近似值，就不够精确。 ? 世界上的许多国家已广泛采用“四舍六入法”。我国国家科委于1955年就作了推荐。“四舍六入法”可以概括为：“四舍六入五考虑，五后非零就进一，五后皆零看奇偶，五前为偶应舍去，五前为奇要进一。”就是说，如果省略的尾数最高位是4或小于4，就将尾数都舍去；如果省略的尾数最高位是6或大于6，去掉尾数后，要向它的前一位进1；如果省略的尾数最高位是5，那就要根据具体情况而定。如果5后不都是0，将尾数略去后要向它的前一位进1；如果5后面都是0，就看它的前一位是单数还是双数，5的前一位是双数，就将尾数舍去；5的前一位是单数，舍去尾数后要向它的前一位进1。 ? 2 .检验结果的修约 ? 根据技术标准的指标要求，在原始记录中，通常检验计算的结果应比标准规定的位数要多保留一位，但被多保留的一位数值，应该体现出修约的情况，或一步修约到位，但不能存在连续修约的现象。 ? a)检验结果修约后，应体现出修约的情况。 ? 如：标准值 ××0.5 ? 检测结果为：0.456， 第1步修约：0.46(-) (四舍六入)，报出值：0.5(-) 判定：合格。 ? 如：标准值 ×× ≥15 ? 检测结果为：14.55，第1步修约：14.6(-)， 报出值：15(-)，按全数值比较法(15(-))判定不合格、按修约值比较法(15)判定合格。 ? 14.55(5后非零要进一。讲评：在拟舍弃的数字中即14.55的第一个“5”，虽然“5”前为偶数，但“5”后非“0”，所以要进一