购买
下载掌阅APP,畅读海量书库
立即打开
畅读海量书库
扫码下载掌阅APP

第三节

有效数字及其运算

一、有效数字

如果用钢尺测量铜棒的长度为18.65 cm,18.6这三位数可以从钢尺上直接读出来,是准确和可靠的,称为可靠数字;最后一位0.05是估读出来的,是不十分准确和可靠的,称为可疑数字,在测量中我们还是保留了它,这是因为若将它删去,会明显地扩大误差。虽然可靠数字和可疑数字有差别,但都是有价值的。我们把测量结果中可靠的几位数字加上可疑的一位数字统称为测量结果的有效数字。

有效数字有如下一般规定:

(1)有效数字与十进制单位的变换无关,例如1.68 cm=16.8 mm=0.016 8 m是三位有效数字,若以微米为单位,则有1.68×10 3 μm(注意:不要写成1 680μm),仍是三位有效数字。要尽量采用科学计数法记录有效数字。

(2)数字1~9全是有效数字,数字中间的“0”和后面的“0”是有效数字,而数字前面的“0”则不是有效数字。如 0.012 0 m是三位有效数字,4.02 kg是三位有效数字,50.00 cm则是四位有效数字。

(3)有效数字的运算过程中,有效数字尾数的取舍法则是“四舍六入五凑偶”。例如,将下列数字保留三位有效数字的修约结果是:

3.542 5→3.54(小于5舍去)3.545 0→3.54(等于5凑偶)

3.535 0→3.54(等于5凑偶)3.546 01→3.55(大于5进位)

二、有效数字的运算规则

间接测量结果的有效数字,最终应由测量不确定度的所在位来决定(详见不确定度部分相关内容)。但在计算不确定度之前,间接测量量需要经过一系列的运算过程。运算时,若有效数字的位数不一致,一般可按下列规则进行运算:

(1)几个数进行加减运算时,其结果的有效数字末位与参加运算的诸数中末位数量级最大的对齐,这称为“尾数对齐”。

例1 12.34+2.3574

例2

(2)两个数进行乘法运算时,其结果的有效数字位数一般与参与运算的诸数中有效数字位数最少那个相同。例如:

但是,如果参与运算的诸数中有效数字的最高位相乘的积大于或等于10,其积的有效数字位数应比参与运算的有效数字位数最少的多一位。

例如:

(3)两个数进行除法运算时,其商的有效数字位数一般与被除数和除数中有效数字位数少的相同。例如:

但是,如果被除数的有效数字小于或等于除数的有效数字位数,并且它的最高位的数小于除数的最高位的数,则其商的有效数字位数应比被除数的有效数字位数少一位。例如:

(4)一个数进行乘方、开方运算,其结果的有效数字位数参照乘法和除法运算。

(5)函数运算的有效数字,应按间接测量误差传递公式进行计算。在实验中为了简便和统一,对常用的对数函数、指数函数和三角函数按如下规则处理:

对数函数运算结果的有效数字中,小数点后面的位数取成与真数的位数相同,如lg256.7=1.754,对数的首数不作为有效数字;指数函数运算结果的有效数字中,小数点后面的位数取成与指数中小数点后的位数相同,如10 6 . 25 =1.8×10 6

三角函数结果中有效数字的取法,由角度的有效数字位数决定,一般当三角函数中的角度精确到1°时,相应的三角函数值取4位;当三角函数中的角度精确到1 时,相应的三角函数值取5位;当三角函数中的角度精确到1 时,相应的三角函数值取6位。

例如:cos 65°≈0.422 6,sin30°25 ≈0.503 77。

(6)公式中的常数,如: 可以认为有效数字的位数为无限多,在计算中可根据实际情况,需要几位就取几位。如:用公式 计算圆面积,当 d 取3位有效数字进行运算时,常数 和π可取4位有效数字,即 参与运算。

以上有效数字的运算规则,只是一个基本原则,在实际问题中,为防止多次取舍产生误差累积,常常采用中间运算时多取一位有效数字的办法。最后表达结果时,有效数字的取位再由不确定度的所在位来一并截取。 F6WpCF6s/ZLmkvfvcAUadVLb/+LrtSs9c1+xzqZSapy2JSnr+AvFQYRVxxk+wzQf

点击中间区域
呼出菜单
上一章
目录
下一章
×

打开