利用LabVlEW设计程序实坝数据修约 -学兔兔 www.xuetutu.com.pdf

ww. xlc il. com
> Research& Discussion
用 LABVIEWL殳程序现数据修约
Programming Implement of Rules for Rounding off Numerical Values in Labview
王一衡
91663部队,青岛市266071)
Wang Yiheng
(Unit 91663 of PLA, Tsingtao 266071)
摘要】本文在简介有效数字的概念、数据保留位数规则、有效数字正确表示、数字修约规则、数据运算
规则的基础上,研究了在 Labview开发环境下设计程序实现数据修约的方法。对从事测量、测试
工程技术人员和程序设计者具有重要参考借鉴价值。
关键词)】有效数字数据修约 LABVIEW
Abstract: The paper introduces the conception of the effective number, the rule of Rounding off value digit, the
express of the significant digit and the rule of operation. It researches the way of the programming implement o
rules for rounding off numerical values in Lab VIE W. It has a great value for the ones who work on testing and
measurement
Key words: Effective Number Rounding off Numerical Values LABVIEW
前言
录说明有6位有效数字,最后一位是可疑的。由于分
本随着计算机技术和自动测量技术的不断发析天平只能称准到0.0002g,即称量瓶的实际重量应为
展,自动测量系统在各行各业得到了普及和大量应10.4320±0.00g,无论计量仪器如何精密,其最后
用,在其测量过程中必然会产生大量的测量数据,并位数总是估计出来的。因此所谓有效数字就是保存末
要求对这些数据进行处理。数据处理的目的是通过对一位不正确数字,其余数字均为正确数字。同时从上
测量所得的一系列测量值进行适当数学运算,以便获面的例子也可以看出有效数字是和仪器的准确程度有
得合理的测量结果。对测量数据进行处理过程中数据关,即有效数字不仅表明数目的大小而且也反映出测
修约是重要环节。本文仅就数据修约应用体会和涉及量的准确度。
到的相关知识点进行介绍。
如果参加计算的数据的位数取少了,就会损失
1有效数字的概念
原有的测量准确度并影响计算结果的应有精度;如果
为了取得正确的测量结果,不仅要正确测量
位数取多了,易使人误认为测量精度很高,且又增加
而且还要正确记录与数据计算。所谓正确记录是指记了不必要的计算工作量。一个数据的有效位数是该数
录数字的位数。由于数字的位数不仅表示数字的大中有效数字的个数,指从该数左方第一个非零数字算
,也反映测量的准确程度。所谓有效数字,就是实起到最末一个数字(包括零)的个数,它不取决于小
际能测得的数字,应以测量可能达到的精度为依据来数点的位置。一般而言,对一个数据取其可靠位数的
确定数据的位数和取位。
全部数字加上第一位欠准数字,就称为这个数据的有
有效数字保存的位数,应根据分析方法与仪器效数字。
的准确度来决定,一般使测得的数值中只有最后一位2数据保留位数规则
是可疑的。例如在分析天平上称取试样0.5000g,这
在测量结果中,最末一位有效数字取到哪
不仅表明试样的质量0.5000g,还表明称量的误差在位,是由测量误差决定的,即最末一位有效数字应
士0.000g以内。如将其质量记录成0.50g,则表明该与测量误差是同一量级。例如用千分尺测长时,其
试样是在台称上称量的,其称量误差为0.02g,故记测量最大允许误差只能达到0.01m,若测出长度
录数据的位数不能任意增加或减少。如在上例中,在L=20.531mm,显然小数点后第三位数字已不可靠
分析天平上,测得称量瓶的重量为10.4320g,这个记此时只应保留小数点后第二位数字,即写成L=20.53
mm,为四位有效位数。因此,上述测量结果可表示
收稿日期:20111121
作者简介:王一衡(1982-),男,毕业于中国人民解放军理工大
为L=(20.53±0.01)mm
学测试计量技术及仪器专业,现从事军事装备计及自动化测试
3有效数字正确表示
(1)有效数字中只应保留一位欠准数字,因此
40计