书写数据时,如何合理保留有效位数
虎哥2019/09/09科学技术学 IP:四川

网友发的文章里面,经常需要书写数据。然而经常一看数据的写法,就知道上课没有好好听讲,例如:

红色液体指示的温度为30.1℃

空气湿度71.5%

动能\(E{\rm{ = }}\frac{1}{2}m{v^2} = 0.5 \times 7.1 \times {18.25^2} = 1.182371875{\rm{J}}\)

乱写有效位数,在过去是要扣分打屁股的,但是现在难保网友不会跳起来咬人,所以NKC以来,就没有扣分了。

我们都会犯错误,只是反对本应注意而不注意的情况,况且有的时候该保留几位本来就是个难题。这里只介绍几个易记的注意事项,通常能解决50%以上的问题。更多的知识,建议复习高中物理,或者大学物理实验教材。某些领域有他的约定,应当从其约定。

本质上看,有效位数代表有用的信息。我们应当尽量多的保留有效的信息,同时尽量多的去掉不必要的噪音。

1、数据应当只写有意义的位数,多余的位数应当舍弃。

比如你的仪器的误差都比数据的后几位大,那么后几位就应当丢掉。最后一位数字与不确定度的末位数应当等数量级。

2、有的仪器的最小分度值比不确定度还小,不能估读;有的最小分度值偏大,可以估读。

直尺可以估读一位,量筒、温度计、游标卡尺通常不估读。某些情况可以估读半个分度值,比如水银温度计,应依仪器说明书而定。

3、某些仪器的最小分度值是假的,没有意义,应按常识减少位数。

例如淘宝上卖的廉价湿度计,不论他显示多少位,建议精确到5%就行了。

4、末尾的零(0)是有意义的,多一个0就代表准确一个数量级。

“真空光速300000000m/s”是错误的,因为这代表该数据准确到1m/s,而真空光速为299792458m/s,偏差了208km/s。但是,说真空光速为30万km/s是对的,因为他的意思是这个数据只保证万km/s级别的准确度。如果用括号指出数据的不确定度,则可以不受此限。

对于很大的数,如果末尾无效,可以使用科学计数法或者更大的单位来解决,例如

光速 \({\rm{3}}{\rm{.0}} \times {\rm{1}}{{\rm{0}}^8}{\rm{m}}/{\rm{s}}\) 这里不需要说光速“约为”,因为这个写法就已经告诉了读者这是“约为”。

光速 300Mm/s 兆就取代了后面的6个0,使精度降低到1000km/s级别。

5、数据中出现分数是有意义的,不能随意改为小数。

根据史料推断,中原大地震的震级为\({{\rm{M}}_S}{\rm{7}}\frac{1}{2}\) 级,意思是震级推测只能准确到0.5级。如果改成7.5级,数据就是错误的。

6、某些特定的小数容易引起歧义,尽量统一写法,且在阅读古书时需要警惕。

0.25、0.33、0.67、0.75,有的时候并不是表示准确到0.01,而是表示准确到四分之一、三分之一。

1933年地震的震级是Ms7.75级,意思是\({{\rm{M}}_S}{\rm{7}}\frac{3}{4}\)级,只准确到四分之一。

7、乘除法和乘、开方通常不增加有效位数,但也可以根据信息量而定。

圆周长度(73.15±0.01)m×3.141592=229.81m≠229.76417m 这里的有效位数升高了1位。这是因为原始数据的不确定度如果为0.01m的话,与精度无限的π相乘,不确定度增加到0.03m,多保留一位确实可以多保留信息。

欢迎补充,如有错漏欢迎指正。


[修改于 4年7个月前 - 2019/09/11 10:20:58]

来自:科创总论 / 科学技术学
4
13
已屏蔽 原因:{{ notice.reason }}已屏蔽
{{notice.noticeContent}}
~~空空如也
三硝基二甲苯
4年3个月前 IP:山东
868493

四舍六入五成双,五后有数都进上

引用
评论
加载评论中,请稍候...
200字以内,仅用于支线交流,主线讨论请采用回复功能。
折叠评论
UICalc
4年3个月前 IP:浙江
868502

像SHT20这样的湿度传感器,返回数据精度达到了小数点后两位,是否可信?

引用
评论
加载评论中,请稍候...
200字以内,仅用于支线交流,主线讨论请采用回复功能。
折叠评论
虎哥作者
4年3个月前 修改于 4年3个月前 IP:四川
868523
引用UICalc发表于2楼的内容
像SHT20这样的湿度传感器,返回数据精度达到了小数点后两位,是否可信?

文中忘了说,仪器的不确定度主要是指绝对值不确定度(专门测相对值的除外)。但是仪器经常不用来测绝对值,或者人们并不关心绝对值,而是关心两个值有多大差别,也就是相对值。

对于大多数仪器,小范围的相对值的不确定度会低得多。比如温度计,要想绝对值误差做到0.1℃是非常困难的,但是小的相对值,也就是测量温度的变化,不确定度就比较容易做到0.01℃了。

这方面的登峰造极者,就是各种指零类仪器,原则上它们只用提供三个结果:小于,相等,大于。

还要注意仪器的长期稳定度和短期稳定度。仪器的不确定度一般是按照长期不超差来标注的,但是如果校准以后马上测试,他的准确度通常高得多。在测定相对值时,如果经过了较长时间,误差就会变大。

所以,温度传感器保留2位有效位数,是否有意义,要看用途。应当查阅其技术手册,了解他的公布性能。

引用
评论
加载评论中,请稍候...
200字以内,仅用于支线交流,主线讨论请采用回复功能。
折叠评论
Sion
4年3个月前 IP:河南
868555
引用UICalc发表于2楼的内容
像SHT20这样的湿度传感器,返回数据精度达到了小数点后两位,是否可信?

恰好在用该公司另一系列。数据表里讲的还是挺清楚的。

image.png

image.png


引用
评论
加载评论中,请稍候...
200字以内,仅用于支线交流,主线讨论请采用回复功能。
折叠评论

想参与大家的讨论?现在就 登录 或者 注册

所属专业
上级专业
虎哥
专家 进士 学者 机友 笔友
文章
1532
回复
12993
学术分
39
2005/08/24注册,12分15秒前活动

刘 虎

创新工程局主席

主体类型:个人
所属领域:无
认证方式:身份证号
IP归属地:未同步
文件下载
加载中...
{{errorInfo}}
{{downloadWarning}}
你在 {{downloadTime}} 下载过当前文件。
文件名称:{{resource.defaultFile.name}}
下载次数:{{resource.hits}}
上传用户:{{uploader.username}}
所需积分:{{costScores}},{{holdScores}}下载当前附件免费{{description}}
积分不足,去充值
文件已丢失

当前账号的附件下载数量限制如下:
时段 个数
{{f.startingTime}}点 - {{f.endTime}}点 {{f.fileCount}}
视频暂不能访问,请登录试试
仅供内部学术交流或培训使用,请先保存到本地。本内容不代表科创观点,未经原作者同意,请勿转载。
音频暂不能访问,请登录试试
支持的图片格式:jpg, jpeg, png
插入公式
评论控制
加载中...
文号:{{pid}}
投诉或举报
加载中...
{{tip}}
请选择违规类型:
{{reason.type}}

空空如也

加载中...
详情
详情
推送到专栏从专栏移除
设为匿名取消匿名
查看作者
回复
只看作者
加入收藏取消收藏
折叠回复
置顶取消置顶
评学术分
鼓励
设为精选取消精选
管理提醒
编辑
通过审核
评论控制
退修或删除
历史版本
违规记录
投诉或举报
加入黑名单移除黑名单
查看IP
{{format('YYYY/MM/DD HH:mm:ss', toc)}}