《试验设计与数据处理》讲稿 - 第1章(研究生) - 图文

1.6有效数字和试验结果的表示※1 有效数字--能够代表一定物理量的数字(1)有效数字的位数可反映试验的精度或表示所用试验仪表的精度,所以不能随便多写或少写。1.5687g,精度为0.0001g,相对误差为1/156871.5g,精度为0.1g,相对误差为1/15 (2)小数点不影响有效数字的位数。第一个非0数前的数字不是有效数字,而第一个非0数后的数字是有效数字。50,0.050,5.0,29 2位有效数字29.00,5.000,12.47 4位有效数字(3)在计算有效数字位数时,如果第一位数字等于或大于8,则可以多计一位。9.99 4位有效数字8.210 5位有效数字29

※2 有效数字的运算规则先计算,后对齐先对齐,后计算(1)加、减结果的位数应与其中小数点后位数最少的+相同。11.9610.20.00322.163+12.010.20.022.2(2)乘积、商的有效数位数,应以各乘、除数中有效数字位数最少的为准。例如:12.6×9.81×0.050中0.050的有效数字位数最少,只有两位,所以有12.6×9.81×0.050 = 6.2。(3)乘方、开方后的有效数字位数应与其底数的相同。2例如:2.4=5.8 6.8?2.630

(4)对数的有效数字位数与其真数的相同。例如ln6.84=1.92;lg0.00004=-4。(5)在4个以上数的平均值计算中,平均值的有效数字可增加一位。例如(22.6+22.8+22.5+22.3+22.5)/5=22.54原来只有3位有效数字,而计算结果增加了一位。(6)取自手册上的数据,其有效数字位数按实际需要取,但原始数据的位数如有限制,则应服从原始数据。(7)常数的有效数字位数,根据需要取。(8)一般的工程计算中,取2~3位有效数字。31

※3 有效数字的修约规则四舍六入尾留双??4和4以下的数字舍去,6和6以上的数字进位;若是5,要看它前面的一个数:奇数就入,偶数就舍例如,将下列数据舍入到小数点后3位:3.141593.1421.366531.3662.330502.3302.777192.7772.77772.7782.45662.45732

联系客服:779662525#qq.com(#替换为@)