能问这个问题说明物理实验课没有白上~鼓掌撒花!你的实验报告绝对是打动人心的!
第一次认真的回答问题,如有讲的不明白的、错误和胡话请指出!非常感谢!
回答问题之前先绕个弯子。
窃以为误差的处理是实验,不仅是物理实验,的真正重点所在。在花了大量的心血和劳动(搬砖搬砖搬砖。。。)以后得到了实验数据,但是实验数据意味这什么呢?我能够从中得出什么结论?这个结论是否可信?如何来定量的描述它们?
打个比方说测体重。减肥一个月了,自己到底轻了多少呢?一过秤,发现少了2斤,不错,很开心。但是如果你是做实验物理的,一个幽幽的声音会在脑子里告诉你:你有63%的概率掉了0~4斤肉!如果你是一个乐观的实验物理工作者,那个声音会告诉你:你减重多达2斤的可信度是50%!(喂。。。这个人做实验已经做疯了。。。当然数字都是随便写的啦~领悟一下思想就可以了~)
好了,下面回到题主的问题。在讲解各种具体的公式和表达之前,首先要对基本的概念有所了解。
什么是不确定度?
不确定度就是一个实验测量量不确定的程度。(这不是跟没说一样吗!)实验数据得到的过程往往是非常复杂的。而在最终的paper/实验报告上所展示的只能是简洁的最终结果。那么如何体现实验的具体过程对结果的影响呢?甚至于理论对于实验结果的影响?我们需要一个度量来表征测量值的可信度,或者不确定度,它担负着表达整体实验过程和实验员人品(这是什么鬼。。)的重任。一个孤零零的数值甚至可以说是毫无意义的,就像彩票中了500万的人不能想当然的以为下一次还会中一样。
举个栗子:
小李来实验室的路上看到有刚出锅的糖炒栗子,于是买了2斤。到了实验室觉得不对,掂着没有2斤啊!本着天生的物理素养,他决定用实验的方法来验证他的猜想。(在实验室吃栗子还有什么素养。。。)
首先,他搬来一个电子天平,用标准砝码较一下准,然后栗子放上去一称,0.875kg,果然轻了!他看了一眼天平的感量和说明书上给出的误差,嗯,不确定度最多+-0.001kg,肯定是轻了!
这时候天边来了一条闪电划过他的脑洞:还有空气的浮力!所以有可能实际上质量是1kg没错。怎么办呢?用动力学法来测吧!于是他搭了一套滑轮,找出刚才那个标准砝码,光电门,计时器,折腾了一天,测出来质量为0.86kg,不确定度为+-0.02kg。难不成做实验的时候栗子被人偷吃了?小李陷入了沉思。。。
我们来正经的分析一下这个小李的实验和实验结果。
首先澄清一件事情,我们假设小李只是脑洞大了一些,实验操作和数据处理是没有任何问题的。可以看到,直接的测量给出的结果比间接(动力学法)不确定度要小很多。因为复杂的实验在过程之中会引入各种各样的不确定度,比如滑轮有没有摩擦呀?绳子的质量有没有被计入啊?等等。所以给出的不确定度就会很大。在科研中,比如测量higgs栗子,错了,粒子的质量,可以通过不同的衰变道和衰变产物来测量,有一些很简单只要测量10个末态粒子;有一些衰变过程很复杂,需要测量100个末态粒子的参数(数字都是打比方)。那么后一种的实验不确定度自然会比第一种方法要大。所以一个负责人的实验物理学家会给出尽量准确(注意不是尽量小,而是尽量正确!)的不确定度估计,来表征他这个实验的整体。当然了,一个自信的实验员相信自己的技术,可能给出的不确定度偏小,一个保守的人就可能偏大。这种主观性在复杂的实验中是不可避免的。所以说,不确定度还和实验员的人品有关(与之相关的,更加深入的还可以看一看关于贝叶斯统计和先验概率的知识)。当然啦,如果为了发paper,给出的不确定度估计过于激进,自然会被同行打脸的。
好,那么现在了解了什么是不确定度和它的作用,我们来看它是如何完成这一使命的。
这里先做一个简单的说明,具体的可以参看段家祈《普通物理实验》的误差分析一章,或者任何一本概率统计的书。
我们知道,在实验中是存在很多的随机性的。这些随机性具体表现出来就是在多次测量同一个物理量的时候可能得出不同的结果,并且这些结果会呈现出一定的概率分布。而由于小李的精力和生命长度的限制,实验不可能无限的重复下去,消除涨落得到真实值。所以我们就要做一定的假设,来表征测量量可能的概率分布。比如说最常提到的高斯分布,这是由大数定律所保证的。或者说在数据量较少时使用泊松分布来进行估计,(直观来讲,比如质量这种量总不能是负的,而一个方差与均值相近的概率分布就会有很大的出现负值的概率,这时候很明显高斯分布的估计就是错误的了。这时候,一个看上去正确的不确定度估计可能会是2+3/-1kg)。
在有了这个分布的估计后,就需要找到一种方法来表达它。这里就涉及一个置信区间的问题。
置信区间是指测量值具有一定的概率落到这个区间之内。比如对于高斯分布,使用正负1sigma来表示63%的置信概率。而当分布不是高斯的时候,为了一致性,通常也采用63%这一概率来给出置信区间。这时候就有可能会看到正负不一致的不确定度估计。
现在就有两个问题了:
首先,概率分布仅仅是一个猜测,从数据中如何得到?和真实情况之间的差别怎么办?其次,置信区间意味着什么?如何通过给出的区间估计和数据值分析得出结论?
首先来回答第一个问题。
数据永远不会无限的获得,通过数据的分布来估计测量量的概率分布永远会有一定的误差。而且一般情况线没有条件来获得足够多的实验数据进行分布的估计。这时候有两种办法来解决:第一,做模拟,第二,选取合适的统计量。做模拟这个很好理解,通过计算机模拟来获得大量的实验数据并研究其分布特性,然后根据这个分布对真实实验值的不确定度,或者说置信区间进行估计。具体细节非常冗杂了,我也说不太清楚。
选择合适的统计量是更加有效和必须的方法。在实验中,很少有单一的测量。一般来讲实验结果由多个测量量,或者说多个随机变量来决定。除了普物实验中涉及到的误差传递的知识,更加科学和系统的方法是定义统计量。定义一个新的量,是所有测量量的函数,由于一定的统计特性,使得其满足特定的分布。比如说,n个满足N(mean,sigma)的独立随机变量X1,X2...Xn的平均值满足N(mean,sigma/n)的分布(注:N(mean,sigma)表示期望为mean,方差为sigma的高斯分布)。但是sigma的值我们只能给出估计值,即方差,而不能给出真实值。在数据量比较小的时候,我们就会计算标准偏差
,它作为统计量的好处在于其满足自由度为n-1的t分布,与随机变量本身的方差、均值等无关,在n很大的时候,就会趋于高斯分布。然后根据这个统计量来给出区间估计就相当准确了。这就是为什么书上出现了很多奇怪的公式。。。他们都是为了给出合理的统计量并给出正确的区间估计。这也是题主所问的问题。前面说道的实验员主观的估计,会被吸收到统计量的构造之中。可以这样理解,任何一个误差来源都对应一个测量值以外的随机变量,就是统计量的一个新的参数,就会使得统计量发生变化。
下面就是第二个问题,我们定义了如此丑陋的统计量,有可能一点物理意义都没有,那么我们是怎么得出结论的呢?
是这样的,真正的实验都是在做一件叫做假设检验的事情,(我自己的理解也不是很深刻,详情参见任何一本概率统计教材)。在实验时,我们有一个理论,做出了一个假设,然后根据实验数据来验证这个假设,然后给出一个区间,如果实验数据在这个区间之内,我们就有一定的概率否定假设。拿最简单的长度测量来说,我们的实验结果是:“一个长度真值是在10+-0.1cm之间一个值x”的假设以63%的概率不被否定(@_@报告,观众在这里已经晕了。。。没关系,看不懂就还按照“真值落在10+-0.1cm这个区间的概率是63%”来理解吧。。。没有什么太大的问题)。对于简单的实验,这一套理解似乎非常拗口。但是对于复杂的分析,就相当有用了。比如说,我们要寻找一个新的栗子,粒子, 实验有了数据,那么结论到底是有还是没有呢?我们会说:这种新粒子的强度90%的置信区间为小于XX。即新粒子强度大于XX的假设都被以大于90%的置信概率否定掉了。
换句简单的话来讲,在复杂的实验中,最重要的是给出正确的置信区间估计,这个区间才真正联系着最终的物理结论。
讲了这么多,就是希望看到的人能对实验误差的重要性有一个新的认识,能够真正理解做实验的人是在做什么,为什么实验结果就是有说服力的,另外也能够有更大的动力去认真的完成一篇合格的精悍的实验报告。
如果可能的话可以去看一看概率统计和实验数据处理方面的书,会有一些大体的了解。而想要真正的理解实验中的误差处理恐怕需要一段的时间和工作经历。
================================
5.4更新
有人问如何剔除坏点=。= 好问题,但是抱歉目前我也没有做过这方面很深入的工作,所以就自己所能讲一讲,欢迎深入讨论!
说白一点,这个问题就要看你的专业素养了。什么样的点需要被去除,什么样的点需要保留,要制定一个规则么?如果点恰巧落在规则的边界上怎么办呢?如果如何判断坏点的去除是否左右实验结论呢?这个问题实际上是在做数据分析中占用时间最大的一部分工作。而不可避免的是引入主观的判断。所以说,要本着科学的态度,嗯,科学的态度来做这件事情。
首先从最简单的普物实验说起。
普物实验经常做的就是对一系列数据进行拟合,求出参数,然后把结果跟标准值对比。然后发现:去掉最后一个点拟合结果就更好了呢!跟标准值更接近了呢!好,那就这样做吧!
上面的做法最严重的问题在于:对于数据的调整是在结果计算出来之后!
调整就变成了主观的,根据结果的调整。而如果去掉最后一个点使得结果与标准值的差距更大了,这时候你还会去掉么?所以一定要根据一定的规则来选择数据。比如单个数据的测量误差、数据是否满足理论上的统计分布、比如测量数据时的仪器状态、比如数据的某个特定性质等等。
栗子君又回来了~
某P大每学期都末要进行教师评价,学生们在不同的指标上给老师打分,1~10分,然后计算总分,作为老师的业绩评价之一。一般老师看到评价结果该改正的改正,该忽略的忽略,但是轮到做数据处理的老师就有意见了...(不是因为给他分低...)他看到的评价报告是这样的:
---------------------分数:|__0__|__1__|__2__|__3__|__4__|__5__|__6__|__7__|__8__|__9__|_10__|
--------课堂内容丰富,|__0__|__0__|__4__|__8__|__10_|__ 58_|__21_|_43_|__65_|__50__|_35__|
--------------课后指导, |__0__|__0__|__0__|__0__|__5__|__49_|__10_|__28_|__77_|_89__|__55_|
。。。
。。。
数字表示给某一分数的学生人数。比如“课后指导”一项给10分的有55人。
咱不纠结具体的项目和平均分,学生人数等等等。老师火眼晶晶一下就看出了问题:为什么给5分的人这么多!明显不符合统计分布!这是我中大奖了么!栗子君说打分系统默认是5分,我没改直接提交了(笑),然后被老师吃掉了。。。心情平复以后,老师大概估计了一下,有40+/-5位学生没有填写而直接提交了默认值。
这些学生明显是数据上的坏点了。可以剔除。但是问题是万一真有人认认真真的选了5分呢?所以更好的做法是:1)结合所有项目,将所有项目都是5分的问卷剔除。2)并在下一次设计问卷系统时加入计时功能,记录学生填写评价所用时间,小于1分钟者剔除。3)不再求平均分,而是根据大样本的统计求出0,1,2,3,4,6,7,8,9,10分数的统计分布,然后根据分布拟合得到评价分数。
这三种改进方法分别依据:1)数据是否是小概率出现的。2)数据的某个表征其性质或仪器工作状态的特征值。3)根据统计分布,不具体剔除数据而是将数据作为整体进行修正。
简单的实验中一般都会根据1)来挑选数据。为了判断是否为小概率事件,最好的办法就是每个点重复测量多次。或者系列数据多增加采样点并适当对测量范围进行延伸。因为有时候并不是数据不对,而是超出了拟合公式的适用范围,这时候应当看到系统性的偏离,并且可以根据这个偏离确定理论的适用范围并选取合适的拟合区间。
对于复杂的实验,比如说高能实验,数据的筛选或者叫触发trigger判选是一个极其复杂的过程。探测器有背景噪声,要从物理事件中除去。大气中有宇宙线、土壤、仪器中有放射性,形成本底事例,要从物理事件中除去。高能粒子使得探测器信号益处,能量测量不再准确,要去掉。两个粒子同时击中探测器形成偶然符合,要修正或者去掉。等等等等等等。。。。。
工作中会定cut,每一个cut负责对数据的一个性质进行筛选。有物理的和非物理的cut。在确定cut前整个工作组要开多次会议,cut结果要通过模拟和实验检验。要保证cut的科学性和探测器效率(去掉的事例太多就要积累更长时间才能得到同样多的数据量,而高能实验的运行又是烧钱运动)并且要准确的计算cut的通过率,用在后续的分析中。
为了避免cut的主观影响,实验组还会制定一小撮人做blinding,大意就是将数据进行一定的变换,使得他们不知道自己处理的数据的物理含义,然后按照统计进行数据处理。这部分我也不太清楚,还没有具体遇到过。
最后,如果不会做数据的筛选,没关系,看看近些年物理学家们是怎么对付这个问题的(Ref: Review of Particle Physics, Particle Data Group. Chinese Physics C, Vol 38, 9, 2014)
“A brief history of early Particle Data Group averages is given in Ref. 3. Figure 2 shows some histories of our values of a few particle properties. Sometimes large changes occur. These usually reflect the introduction of significant new data or the discarding of older data. Older data are discarded in favor of newer data when it is felt that the newer data have smaller systematic errors, or have more checks on systematic errors, or have made corrections unknown at the time of the older experiments, or simply have much smaller errors. Sometimes, the scale factor becomes large near the time at which a large jump takes place, reflecting the uncertainty introduced by the new and inconsistent data. By and large, however, a full scan of our history plots shows a dull progression toward greater precision at central values quite consistent with the first data points shown.”
有没有觉得搞高能这帮人和写实验报告的没有区别(=(工)=)
你的结果是多少啊?咱俩凑成一样的吧~
5.4更新结束
================================
最后来推荐几本书好了:
段家忯 《普通物理实验》这本书前面有一些基础的讲解,提到了关于误差的基本概念和处理方法,包括如何进行简单的误差合成与传递,如何进行最小二乘法拟合,如何进行假设检验等等。
在了解了基本概念以后可以看一些概率与统计的书。了解一下关于假设检验的内容。
如果对这个问题非常感兴趣,或者想在专业方向上深入了解,可以看Glen Cowan, Statistical Data Analysis. 里面详尽的讲解了物理科研中遇到的各种实验数据处理问题。内容稍微侧重于高能物理实验方面,因为高能实验过于复杂,数据量巨大,想要得到令人信服的结论必须动用适当的统计方法。另外还有一本非常好的书,Data analysis in high energy physics : a practical guide to statistical methods, 这本书中讲解了高能实验中实际会遇到的各种问题和处理方法。作者是ROOT的开发者之一。专业内的同学可以来看一看。
附:ROOT是窃以为非常方便的一个数据储存、分析处理、做图的程序库。里面封装了大量非常好用的数据类。做出的图也比excel要专业很多啦,还可以画费曼图什么的。ROOT | A Data Analysis Framework
而且跨平台、文档帮助齐全容易上手,专业函数绝对齐全。比如可以做蒙特卡洛,神经网络分析等等。当然,这个是CERN开发的,所以服务对象主要是做高能的人。