4K 機器分析 2021.10.08② 測定値の扱い方 1/16

○ 分析精度 ： 測定値の差が 0.1%だったらあなたならどうしますか。
乾燥空気の組成（体積比）
窒素 78%
酸素 21%
アルゴン 0.93%
二酸化炭素 0.04%（約 400ppm）（右図：ハワイ島マウナロア火山で観測された二酸化炭素の大気中濃度。出典ウィキペディア）

400
400
380
380
360
360
340
340
320
320

レイリー卿は、空気より酸素を除去し、密度を測定した。
1960
1970
1980
2000
2010
2020
→ 下の１）、２）の方法で、約 1/1000 の差を生じた。
測定法の精度を考慮すると、この差は有意であり、更に、この差が再現されることを確認した。
1)

空気を液体アンモニア中に通じ、続いて赤熱した銅管に通じる。酸素はアンモニアにより還元され、水になる。空気中の窒素（＋α）と、アンモニアの酸化により生じた純窒素となる。アンモニアが消費されてしまうと、つづいて銅表面の酸化が生じる。過剰のアンモニアや水は硫酸に通じることで除去する。
）

2)

空気のみを、赤熱した銅管に通じる。酸素は酸化銅を生じる形で消費される。空気中の窒素（＋α）
が残る。

3)

確認のため、別法で精製した高純度の酸素を用い、１）と同じ実験をした。
（アンモニアの酸化により生じた純窒素となる。）

仮説 「 １）から ３）で得られる窒素の密度に（わずかだが、有意な）差がある」という実験結果は、
空気中に、窒素以外の不活性成分（＋α）が存在していることが理由であるに違いない。
4)

仮説実証のために、空気中から酸素を除いたあとの窒素を、加熱したマグネシウムに繰り返し通し反応させたところ、空気の約１％の体積が反応せずに残った。

ウィキペディアからコピペ。-------------------1892 年、レイリー卿は空気から酸素を取り除いて得た窒素の密度は化合物を分解して得られる窒素のそれよりも大きい、という事実を「ネイチャー」誌に報告していた。これは空気中には酸素、窒素以外のものが含まれているという事を暗示する。ラムゼーとレイリーは講演後に話し合い、これを追究することにした。当時アンモニアの合成を研究していたラムゼーは、高温でマグネシウムと化合させて窒化
マグネシウムとして窒素を取り除くことにより、空気中の不活性な重い気体を取り出すことに成功した。
ラムゼーはこれを同年 8 月にレイリーに知らせている。これをアルゴンと名付け、1895 年にレイリーと共に発表。
-----------------------------------------------------------レイリー卿「気体の密度に関する研究、およびこの研究により成されたアルゴンの発見」により、1904年のノーベル物理学賞を受賞、ラムゼイはノーベル化学賞を受賞。
2021 年ノーベル物理学賞（真鍋淑郎 氏（米国籍）を含む３名）：コンピュータによる気候のシミュレー
ション・モデルを開発し、それを用いて気候の成り立ちと変動を解明するという新しい研究分野を開拓した。同時に、二酸化炭素の増加による地球温暖化に関しても理論的基礎を確立するとともに、コンピュータ実験によって、世界各地の気候変化を推定する研究において世界をリードし、現代の地球温暖化予測の枠組みを築いた。1967 年、コンピュータシミュレーションにより、「CO2 が２倍に増えると地上
気温が 2.36 度上昇する」と予測した。太陽から地表面が受け取るエネルギーと宇宙に逃げていくエネ
ルギーの差し引き「放射収支」と大気の動きとの関係を解明し、独自のモデルを用いた計算で、地表から高度数十キロメートルまで現実とそっくりの大気の温度分布を再現することに成功した。

4K 機器分析 2021.10.08② 測定値の扱い方 2/16

○ 正確さと精密さ
なんども繰り返し測定したときに得られる測定値の分布に対して、矢印の位置が（測定により知りたい）真の値であるとき、
A：より正確だが、精密さが低い（偶発誤差が大きい）測定
B：より不正確（系統誤差がある）だが、精密さが高い測定○ 測定値の表記
定義数は、不確かさを持たない（例 光速 C = 299792458 m/s）。
測定値において並んだ数字のうち、不確かさを含まない部分を有効数字という。
120.0 → 少数点以下に並んだゼロは、有効数字とみなす。
120 → １の位以上の末尾のゼロは、「位取りを表す」ゼロ（有効数字でない）の可能性がある。
2
そのため、1.2×10 または 1.20×102 と区別して表記する必要がある。
10→ 1.0×101
そうしないと間違いであるという規則があるわけではないが、指数表記においては指数が 1 である場合も省略しない方がよい（計算式ではないことを明示できる）。
測定値は、通常、何も断られていない場合、最後の桁に「不確かさ*」を含むものと解釈される。
範囲とは。推定値が表そうとしている真の値が含まれる「であろう」範囲のこと。
12「12±1」程度の範囲
12.0 「12.0±0.1」程度の範囲* この不確かさの範囲が何であるかは、（明記されない以上）明確ではない。
※ 真の値が 11.6 なら → 推定値の表現 「12」は妥当であるが、「12.0」は妥当とは言えない。
※ 推定値「12」のとき、「12±1」や「12±0.5」などの範囲に真の値が必ず入ることを保証しない。
→ 未知の「真の値」は確率分布しているものと見做す。ある狭い範囲内に必ずあるとは言えない。
推定値のばらつきが正規分布に従うなら＊、範囲内に真の値がある確率は、±m（約 68 %）、±2m（約 95 %）、±3m（約 99.7 %）などとなる。→ 信頼区間
＊ 有限の測定値から推定する場合は、推定値は t 分布に従うと見做される。→ t 分布表
不確かさの範囲を明記するためには、測定値の最後の桁の不確かさをカッコに入れて書く。
ただし、特別に必要な場合を除いて、不確かさを表すカッコの中の数値は１桁にとどめる。
12(1)→ 12±1
12(4)→ 12±412.000(5)→ 12.000±0.005
124(13) → 124±131.2(1)×102 と表記する方が好ましい（場合が多い）
1.25(6)×104 → 指数表記においては、不確かさは有効数字に続いて書く（仮数部分に書く）。
特定の分野においては、指数表記を 1.25(6)E4 のように書く場合もある。
また、指数を 3 の倍数にすることが好まれる分野もある。（例 12.5(6)×103）
特に指定のない場合は、仮数部分が 1 以上 10 未満となるようにする。
→ 不確かさの範囲が、何を表すのかは、表現者が選び、明記する必要がある。
標本標準偏差、標準誤差、信頼区間（関連：エラーバーの種類 資料 p7）※ 有限の大きさ（標本の要素の数）の標本の場合、t 分布を考える必要がある。

4K 機器分析 2021.10.08○② 測定値の扱い方 3/16

誤差（真の値と測定値のずれ）の原因と種類

過失誤差 気をつければ避けられるもの（目盛の読み取りミスや、途中の計算のミスなど）
実験そのものを注意深く行うことで避けることができる。
繰り返し実験を行う中で、過失誤差によるデータを発見し、それを取り除くことも可能。
系統誤差 測定装置や器具のずれ、誤ったデータ処理、実験者の癖等に由来するもの
装置機器類を事前に校正するなどの注意が必要である。
原因とずれの大きさが分かれば、得られた数値に補正を施すことで正しい値に戻すことが可能。
系統誤差が存在すること自体に気付かないと、偏ったデータを正しいものとして扱ってしまうこともあるので注意しなければならない（データ数を増やしても打ち消せない）。
偶然誤差 真の値の周辺に正規分布に従って現れるばらつきは、多回数の測定により相殺可能。
同条件での測定値にばらつきがあるとき、その平均値を「最確値」といい、その数値の信頼できる桁数の数字を「有効数字」という。有効数字以下の数字を無意味に書くことは避けねばならない。

○

測定値のばらつきと統計分布

誤差の公理
1) 絶対値の等しい正誤差と負誤差の起こる確率は等しい
2) 絶対値の小さい誤差の方が大きい誤差よりも現れる確率が大きい
3) ある程度以上の大きな誤差は現れない
ある真値の上下に、誤差の公理に従う測定誤差が載った測定値（の無限の個数）の集合を母集団とし、有限の個数の測定値の集合を（母集団から取り出した）標本として扱うことができる。この場合、測定値の数（集合の要素の数）のことを標本の大きさと呼ぶ。測定値の数が十分に多い時には、これらを統計的に扱うことが可能となり、誤差の公理より導かれたガウスの正規分布に従うと考えることができる。
このような性質を利用して、標本（有限の個数の測定値）から、母集団のもつ性質（真値や、誤差のば
らつきの程度）を推定することができる。
同じ条件の n 回の測定に対し、測定値 { x1, x2, x3, … xn }の平均をとり、真値の推定値として、平均値 x を求めるものとする。それぞれの測定値の、平均値（真値の推定値）からのずれ（ xi － x ）を残差 d という。この残差を２乗したものの和を、自由度（ n － 1 ）でわったものを不偏分散といい、2 で表す。n は測定値の数である。また、不偏分散の平方根  （または s）を、標本標準偏差という。また、
これを単に標準偏差とよぶこともある。


68.3 %
95.5 %1 n
 ( xi  x ) 2(n  1) i 1

また、上式中の自由度（n-1）の代わりに、測定値の数 n を用いたものを標準偏差ということがある
が、有限の数値の場合は、不偏分散が母分散に対する不偏推定量（標本のとりかたにより、個々の標本では一致しないが、多くの標本で平均をとる（期待値をとる）と母集団の性質に一致する量）である。
測定数 n が十分に大きければどちらも実質上等しくなるが、測定値の数が少ない場合は、自由度（n-1）
を用いなければならない。
いま、測定値が正規分布に従っているものとする。標本標準偏差  を用いると、 x ±  の範囲内に全測定値の 68.3% が入る。 x ± 2  の範囲内に全測定値の 95.5% が入る。また、公算誤差 r =0.6745  を用いると、 x ± r の範囲内に測定値の 50% が入る。（公算誤差 r は、四分位点に相当）

4K 機器分析 2021.10.08② 測定値の扱い方 4/16

○ 測定と、推定値の信頼区間の概要
n=2
我々は、ある「真の値」を知りたいために、測定実験を繰り返す。正しい測定を行うことにより、過去、将来も含めて無限回数分の測定値の集合を母集団とし、真の値の周りに正規分布しているものと見做すことができる。このときの標準偏差 （誤差の絶対値の大きいデータの出やすさなどを表す。測定値の分布の幅。
）は、測定方法により異なる。
有限回数 n の測定を行う（n 個の測定値を得る）ことは、母集団から n 個の要素を持つ（大きさ n の）標本を抽出するという操作に相当する。このとき、母集団のもつ標準偏差は（無限の測定をしないと分からないので）標本標準偏差 s と一致するものと仮定する
ことが一般的である。しかし、有限の回数の測定値がn=3もつ誤差の絶対値は、1 回ごとに独立に表れるため、
いつも正、負に同じ回数現れるとは限らない。つまり、
この標本平均（推定値）は、必ずしも真の値に一致す
るわけではない。この推定値が真の値の周りにもつ分
布を、正規分布しているものと仮定して解析すると、その分布の幅に相当する値として、標準誤差 m = s/√n の関係で与えられる。つまり、大きさ n=3 の標本から得られる推定値は、母集団の標準偏差（および、
標本標準偏差）の 1/1.73 の線幅の分布になる。
このため、測定回数をどんどん増やせば、推定値の精度が 1/√n に比例して上がる。
ただし、推定値の精度を決める別の要因がある。有限回数（特に、測定回数が少ない場合）の測定値から得られた推定値は、真の値の周りに正規分布ではなく
n=5「t-分布」していることが知られている。正規分布を仮定すると、中央値±1.96s が「95% 信頼区間」とな
り、この区間内に真の値が存在する確率が 95 % であると言ってよい。しかしながら、t-分布の元では、95 %信頼区間を得るための（または、両側棄却域が 0.05の、などの表現がある）t-値を用い、中央値±(t-値)×
s が「95 % 信頼区間」となる。この t-値は、測定回数に依存し（厳密には、測定回数を n とし、「自由度,
DF」= n−1 に依存する）、複雑な関数で表現されるため、一般には「t-分布表」などから読み取って用いる。
正しく評価した 95 %信頼区間は、20 回のうち 19
回までは正しく真の値を推定
図 異なる標本の大きさ n に対する推定値の分布
標本の大きさ：上から、n = 2, 3, 5
できていると言ってよい。その青破線：母集団分布ため、この範囲をエラーバーと
黒一点鎖線：標本による推定値の分布（正規分布として解析）してもちいたグラフ（測定値を赤実線：標本による推定値の分布（t-分布）結んだものではなく、真の値が
ただし、母集団の分布の見た目幅がかわらないようにし、標準誤差（/√n）を横軸として目盛をつけた。
とるべき線、理論などに沿って
両矢印： 95% 信頼区間幅、エラーバーに相当する長さ。
作図するもの）を作成すると、
t 分布曲線の積分面積が 0.95 になる範囲。
プロットした推定値が 20 個あった場合、その 19 個（程度）のエラーバーの中をグラフの線が横切ることになる。また、測定値間の比較をするときに、そのエラーバーに範囲的な重なりがな
ければ、95 %の信頼度（5 % の棄却率）で「有意差がある」と結論できる。

4K 機器分析 2021.10.08○② 測定値の扱い方 5/16

推定値のばらつきと標準誤差、平均値の精度、信頼区間平均の標準誤差（SEM ; Standard Error of Mean）とは、標本（複数の数値の集合）を複数とりだしてそれぞれについて平均値を求めたときに、その標本平均がどのような分布をするか調べた場合の標本標準偏差のことである。ある集団のデータそのもののバラつきを示す標準偏差（SD）  と区別して、m の記号を用いる。

たとえば、正規分布に従う 100 万人分のテストの点があったとする。この全体の平均値は、60 点 で、標準偏差が 10 点あったとする。正規分布表によれば、50～60 点の階級と 60～70 点までの階級には34.1 万人ずつ、40～50 点の階級と 70～80 点の階級には 13.6 万人ずつ、30～40 点、80～90 点の階級には 2.2 万人ずつ、30 点以下、90 点以上はそれぞれ 0.1 万人である。この集団の中から適当に１人を選びだしたときは、その得点は、先の分布と同じ確率となるが、２人を抜き出して平均をとると、同じように極端に点数が高かった者同士、低かったもの同士で２人が抜き出されることもあるが、２回に１回程度は、平均より高いものと低いものとの組み合わせで抜き出すことになるだろう。そのため、無作
為に抜き出した２人の平均点の分布は、母集団の点数の分布よりも狭くなるだろうことがわかる。この
人数が多いほど、その抜き出した集団（標本）の平均点の分布は狭くなっていく。つまり、たまたま２人を抜き出して平均点が 60 点であったと述べるのと、100 人を抜きだして平均点が 60 点であったと述べるのとでは、その平均値の精度に違いがあるだろうことがわかる。以上のように母集団から有限の大きさ n の標本を抜き出して平均を求めるとき、その平均値は母集団の分布よりも狭い分布を示す。
平均値の分布に対する標準偏差のことを標準誤差 m という。標準誤差の二乗（標本平均の分散）m2
は、母分散 2 との間に次式の関係がある。ただし、n は標本の大きさ（上の例では、平均値を出すた
めに母集団から抜き出した人数）である。なお、母分散 2 が未知である場合は、その不偏推定量である標本不偏分散 s2 を用いてもよい。
m2 = 2/n または、m = /√n
標本の大きさ（測定値の数）が十分に大きく、推定値（平均値）が正規分布に従っているとみなせる
場合、標準誤差 m を用いると、 x ± m の範囲内に推定したい真の値が見つかる確率は 68.3% である。 また、 x ± 2 m の範囲内に推定したい真の値が見つかる確率は 95.5 % である。 x ±1.96
m のことを 95% 信頼区間という。n 個のデータをとって平均をとるという操作を 20 回行えば、そのうち期待値として 19 回は、この区間の中に真の値が見つかる（し、逆に 1 回は外れる）ことを示す。
○ t-分布表
一般的な実験では、標本の大きさは十分に大きいとはみなせないことが多い。標本の大きさ（測定回数）を n とすると、正規分布した母集団から、n 個取り出した標本と見做すことができる。その平均値は、真の値の周囲に（正規分布ではなく）t 分布している。t 分布の形は、標本の大きさ n に依存して変化する。そのため、信頼区間を考える際に標準誤差 m の何倍を選べばよいのかを考える際には、t 分布表を調べることになる。
たとえば、95 % 信頼区間は、2 回の測定の平均値の場合「平均値±12.706 m」、3 回の測定の平均値の場合「平均値±4.303 m」という範囲になる。n が十分に大きいと、t 分布は正規分布に収束し、「平均値±1.96 m」に近づく。この m についた係数（t 値）を t 分布表（自由度 n-1）で調べる。
t 分布表自体は、統計関係の教科書の他、ウェブ等でも簡単に見つかる。t 分布表には、「t 値」「棄却域」「臨界値」などという表現で表される値についての数値が羅列されている。
95 % 信頼区間（逆の視点では、「5% の危険率で棄却する」区間、p 値 = 5% の区間）について探す
場合には、表が「p 値」あるいは「有意確率」「有意水準」などと表記している基準について「両側5%」または「片側 2.5%」というインデックスのついた列を探す。また、標本の大きさ n に対して、自由度 n-1 の行を調べる（もちろん、具体的な数値を対象とする場合には、エクセルのアドインツールなどを用いてもよい）。
※ 試験などで使用する数値は、その都度与えますので、t 分布表を覚える必要はありません。

4K 機器分析 2021.10.08② 測定値の扱い方 6/16

○ 平均による推定値の求め方
例１） 3 つの測定値｛ 11.80、12.00、12.20 ｝
標本の大きさn=3→ 自由度
n−1 = 2
標本平均
s = 12.00※
標本標準偏差s = 0.20
標準誤差
m = s/√3 = 0.12
※ s = (((11.80−12.00)2+(12.00−12.00)2+(12.20−12.00)2)/(3−1))0.5
標準誤差で誤差範囲を表記するとき95% 信頼区間で表記するとき※→ 12.0(1)→ 12.0(5)（自由度 2 における対応する t 値は 4.30）※ 標準誤差 m は推定値の 68.27 %の信頼区間を表しているわけではない。これは、標本の大きさ n が小さいため、
推定値が真の値の周りで、正規分布ではなく t-分布に従っているとみなさなければならないからである。
正規分布と t-分布の差は、分布の裾の部分で相対的に顕著であるから、95 % 信頼区間を正規分布に相当する 1.96 m
で求めることができない。p 値が 0.05 となるのは、t-分布表より、自由度 (n − 1) = 2 の時の値を参照して 4.30 m =0.497、従って 11.5 から 12.5 程度の範囲である。つまり 11.6 や 12.4 といった別の数値と比較したとき、それらの値がばらつきの幅を持たない数値だとしても、p = 0.05 で有意差がある（別の値である）とみなすことはできない。

例２）9 つの測定値｛ 11.70、11.80、11.85、11.95、12.00、12.05、12.10、12.25、12.30 ｝
標本の大きさn=9→ 自由度
n−1 = 8標本平均
s = 12.00
偏差平方和
0.32
標本標準偏差s = 0.20
標準誤差
m = s/√9 = 0.067
標準誤差で誤差範囲を表記するとき → 12.00(7)95% 信頼区間で表記するとき→ 12.00(15)（自由度 8 における対応する t 値は 2.31）

同じ平均値の周りに同じ標準偏差でばらついている測定値、つまり、同じ母集団から抽出した標本であっても、標本の大きさが大きくなる（測定値の数が増える）と、推定値の精度は上がる。t-分布表より自由度 8 の時の値を参照して p 値
が 0.05 となるのは、2.31 m = 0.153 である。つまり、3 つの数値の平均では差があるとみなせなかった 11.6、12.4 という値はもちろん、より近い 11.8 や 12.2 との間にも p = 0.05 で有意の差があると見なすことができる。

（注意点）
統計的な処理により算出された数値の精度が、測定値そのものの精度を上回ることはできない。
例３）9 つの測定値｛ 12、12、12、12、12、12、12、12、12 ｝
標本の大きさn=9
標本平均
s = 12
標本標準偏差s = 0※
標準誤差
m = s/√9 = 0※ 実際には元の測定値の誤差と同じで、1 から 0.5 程度
推定値の 95 % 信頼区間は 12±2 から 12±1 程度
この標準誤差が 0 であるという結果は、平均値 s = 12 が真の値を無限に正しく推定しているという意
味ではない。真の値が 11.8 であった場合などを例として考えればわかるように、測定精度より小さい桁の数値には、平均をとることで打ち消すことのできない系統誤差が含まれ得る。
※ どれだけ多数の数値の平均をとるなどして、見かけ上の精度が上がったとしても、処理結果の数値
は、少なくとも元の測定値と同じ程度の誤差範囲をもつと考えなくてはならない。 → 12(1) 程度。

4K 機器分析 2021.10.08② 測定値の扱い方 7/16

○ 測定は何回行うべきか
2 つの測定値の平均の場合 … 95 % 信頼区間は「平均値±12.706 m」という範囲になる
測定値 {11.8, 12.2} について解析してみると、平均 12.0、標準誤差は m = 0.2、95 % 信頼区間
は 12.0±2.5 となります。n=2 なので、自由度 n-1 は 1 で、t 分布表によると、95 % 信頼区間は「平均値±12.706 m」という範囲になるからです。測定値は 11.8 から 12.2 の範囲（といっても２つだけですが）であるにも関わらず、この測定が推定している真の値は 10 より小さいかもしれない、14より大きいかもしれない、と言わざるを得ないということを意味します。
今度は、同じ数値が連続で得られたとします。 {12.0, 12.0} について解析するなら、統計的な処
理では、m = 0.0 となってしまいますが、統計処理により得られる精度が測定値の精度を上回っても無効なので、標準誤差を測定値の精度と同様程度とし m = 0.1/2 と見積もると、95 % 信頼区間「平均値±12.706 m」は、12.0 ± 0.6 と結論せざるを得ません（この結論は、{12.0, 12.1} のように、統計処理による m が 0 にはならなくても、測定値の精度より小さいならば変わりません）。
3 つの測定値の平均の場合 … 95 % 信頼区間は「平均値±4.303 m」という範囲になる
測定値｛11.7, 12.0, 12.3｝について同様の解析をしてみます。平均 12.0、標準誤差は m = 0.17
≒ 0.2 と、上の例とさほど変わりませんが、95%信頼区間は、12.0±0.7 となります。つまり、(5 %の確率で間違う前提ですが）真の値は、11.3 より小さい数値ではないし、12.7 より大きい数値でもない、と結論してよいことになります。
また、同じ数値が 3 回連続で得られたとして、上と同様の考察をすると、95 % 信頼区間「平均値±4.303 m」は、12.0 ± 0.2 と結論できるので、推定値の精度が上がっています（5% 棄却域の t 値
は、自由度 4 以上では 3 未満なので、同じ数値が連続して 5 回以上得られた場合には、95 % 信頼区間
は 12.0±0.1 程度と結論して良いでしょう）
３回の測定の平均において（十分かどうかは別にして２回の測定と比べて相対的に）得られる数値の精度が格段に上がっているのは、s/√n で求めている m 自体も小さくなり精度が上がる効果もありますが、自由度が上がることで t 分布の棄却域が狭くなる（t 値が小さくなる）影響が大きいです。
このように、測定回数を増やせば得られる数値の精度は上がるのですが、有限のリソース（時間、資源など）の中で、効率よく実験を進める必要がありますので、大まかに言って、数値の信頼性を上げるためには「２回の測定ができるなら、なるべく３回行う方が良い」「それ以上何回測定を行う必要があるのかは、必要な精度から逆算して決める」ということになると思われます。
○ エラーバーの種類
測定値の平均に範囲を付けて示したり、グラフ上の点（マーカー）にエラーバーを付すことがある。
エラーバーとして表示する区間としては、大きく、SD（標準偏差）と、SEM（標準誤差）（および、これに基づく信頼区間）の２種類があり、次のように目的に応じて使い分けなければならないし、いずれを用いているのかを明記する必要がある。
母集団のもつデータの分散が関心の対象である場合 ： 複数の測定値について、バラつきの範囲を標
本標準偏差 SD を用いて表示する。n が大きいほど、標本の不偏分散は母分散を正しく推定できるようになるので、母集団のバラつき具合を正しく反映させるようになる。
推定値（すなわち母集団の平均）の精度が関心の対象である場合 ： 推定値の精度は、標準誤差 SEMを用いて表示することができる。n が大きくなると、標本平均の不偏分散 m2 は n に反比例して 0 に近づくため、精度はどんどん高くなる。しかし、n が十分に大きい場合を除き、推定値は正規分布ではなく t 分布に従うので、t 値を用いた信頼区間（推定値±(t 値)×m）を用いなくてはならない。

4K 機器分析 2021.10.08② 測定値の扱い方 8/16

○ 誤差の伝播の評価式（「実験データを正しく扱うために」第７章）
測定値 x, … , z の測定誤差が x, … , z であるとき（すなわち、x±x, … であるとき）、その測定値を用いた関数 q(x, … , z) の誤差 q は、次式で与えられる。

2

2

2

 q  q 
2  q 22 x     y       z yz x  q  

…（「実験データを正しく扱うために」7.10 式）

多くの場合、q を１桁の数値で表し、q は q の桁までの精度で表すことが一般的。
例 q = 126, q = 18 なら、1.3(2) × 102 のように表す。1.26(18) × 102 という表記でも可。

（例題 7.1）シャリの重さが 20±2 g、ネタの重さが 12±3 g であるような握り寿司の重さの誤差範囲を求める。ただし、シャリ、ネタの重さは正規分布に従うものとする。
7.10 式を用いる。まず、シャリ x = 20、x = 2、ネタ y = 12、y = 3 とおく。
握りずしの重さ q = x + y の式であるから、

q
q
1、
 1 、従って、 q xy

x 2  y 2

これを用いて計算すると、q = 20 + 12 = 32, q  2 2  3 2 = 3.606
誤差 dq は、数値 q の最小桁にあわせて 1 桁で表示する。よって、20(2) + 12(3) = 32(4)
こたえ ±4 g※ この｢±2｣などが最大値と最小値の範囲を表しているのではなく、分布の広がり幅を示していることに注意する。最大値と最小値の範囲を表していたのなら、32±5 g となる。もちろん、32+5 g であるような 37 g の寿司もあるのだが、シャリの重さが 20＋2 g 以上である確率は（± の範囲内に68 % が分布するので、その外側を半分にして）16 %、更にネタの重さが 12＋3 g 以上になる確率
も 16 %、両者が出会う幸運な確率はわずか 3 % 程度ということになる。なお、±2 の外側にも5 %弱程度は分布するので、確率は少ないが 20+4 g のシャリや 12+6 g のネタもないわけではない。
上の ※ と同様の理由で、誤差の伝播を考える場合は、足し算の繰り返しを単純に乗算に書き直してはならない。 10(2) + 10(2) + 10(2) + 10(2) ≠ 4×10(2)（前者の 4 つの数値はそれぞれ異なる数値であり、乗算される後者は同一の数値である。
）→ Q2, Q3例） 10 1.56±0.01 について、再確認。
q = 10 x とするなら、

q 10 x  ln 10 なので、 q  x 10 x  ln 10xq = 0.01×36.3×ln10 = 0.836※ 微分のおさらい
誤差伝播式のために(A×ln(x))' = A/x(log10(x))' = (ln(x)/ln(10))' = 1/(x×ln(10))(A×exp(x))' = (A×ex)' = A×ex
(10x)' = ((eln(10))x)' = (exln(10))' = ln(10)×(exln(10)) = ln(10)×10x

4K 機器分析 2021.10.08② 測定値の扱い方 9/16

○ 四捨五入による系統誤差と JIS 丸め
数学的には一つの数字は数直線上の点を表す。これに対し、実験や観測で得られる測定値は、数直線上のある範囲を表している。
たとえば 12.5 というように、測定値の最後の桁が「5」であるとき、もう一桁多く読めた場合の数値が 12.45 以上 12.55 未満の範囲であった数を代表していると読むこともできる。これを整数にまで丸める場合、12.45 以上 12.5 未満の値であれば 12 に、12.5 より大きく 12.55 未満の値であれば 13 にすべきである。そのため、12.5 のように最後の数値が 5 であるものを丸める際に、これを通常の四捨五入により、常に切り上げる操作をすると、系統誤差の原因となる。
このような系統誤差を避けるために、「測定値」を丸める際には、以下の JIS 規格（JIS Z8401-1999 規
則 A）による丸め（通称：偶数丸め、JIS 丸め）を行う必要がある。
(1) 一番近い丸め結果候補が 1 つだけなら，その数に丸める。
（4 以下は切り捨て、6 以上は切り上げ）(2) 一番近い丸め結果候補が 2 つある場合は，末尾が偶数のものに丸める。（5 の場合）
(3) 丸め処理は 1 段階で行なわなければならない。
例）整数に丸める場合
0.4 → 00.5 → 00.6 → 1

1.5 → 2
2.5 → 2
3.5 → 4

4.5 → 4
5.5 → 6
6.5 → 6

7.5 → 88.5 → 89.5 → 10例）小数第１位まで丸める場合
12.223→ 12.2
規則 (1) による。12.2 と 12.3 では 12.2 の方に近い。
12.251→ 12.3
規則 (1) による。12.2 と 12.3 では 12.3 の方に近い。
12.25→ 12.2
規則 (2) による。12.2 と 12.3 までの差が同じである。
12.35→ 12.4
規則 (2) による。12.3 と 12.4 までの差が同じである。
(*)
12.25
→ 12.312.251 を小数第 2 位まで丸めて生じた 12.25 であると判っている時、
規則 (3) より、2 段階で 12.251 → 12.25 → 12.2 としてはいけない。
例） 次の８つの数値について、端数処理の前後で平均を取り比較せよ。
｛ 8.5、9.5、11.5、12.5、13.5、15.5、16.5、18.5 ｝
端数処理

平均
結論

もとの数値

四捨五入

偶数丸め

8.5

9

8

9.5

10

10

11.5

12

12

12.5

13

12

13.5

14

14

15.5

16

16

16.5

17

16

18.5

19

18

13.25

13.75

13.25

： 測定値など、範囲をもつ数値の丸めには、四捨五入は不適切である。

4K 機器分析 2021.10.08② 測定値の扱い方 10/16○ 四則演算における端数処理（簡易法）
誤差の伝播をあまり正確に見積もらなくてもよい場合、計算式が加減乗除に限られ、かつ、項の数が少ないなどの場合は、単純な端数処理の規則（簡易法）に則って有効数字の精度を判断してよい。
（注意点）
計算の途中では、必要な有効数字よりも１桁（以上）多い数字で演算する。
加減乗除以外の演算（指数、対数、三角関数等）が含まれる場合は、誤差の伝播式を用いるなどしなくてはならない。加減乗除に限られていても、厳密な誤差の伝播を見積もる必要がある場合は、誤差の伝播式を適用する。

□ 足し算や引き算における端数処理
・測定値中で有効数字の最小桁が最も大きいものを基準にとる。
・基準桁よりも１桁余分に残し、通常の加減計算を行う。
・最後に基準桁にあわせて丸めをおこなう。
例） 52.323 ＋ 121.1 ＋ 1.3547（いずれも表記されている最後の数字が有効数字の最小桁だとする）
基準にする桁は、小数点以下第１位である。したがって、小数点以下第２位まで残して計算を行う。
（小数点以下第３位の数字がどうであろうと、小数点以下第１位の数字にはほとんど影響が出てこない
ので、無視する）、最後に計算結果の小数点以下第２位の数字を丸める。
52.32 ＋ 121.1 ＋ 1.35 ＝ 174.77 → 174.8□ 掛け算や割り算における端数処理
・有効数字の桁数が一番少ないものを基準に選ぶ
・１桁余分に残して乗除計算する。
・最後に、基準の桁数にあわせて丸めをおこなう。

１桁余分に残して計算 ： 電卓、パソコン等で計算する場合は、必要以上の桁で計算してもかまわない。ただし、計算結果として表示された数のどこまでが有効数字なのかを正しく判断すること。当然のことであるが、表示された数字を全て正しいものとするのは誤りである。
また、計算の順序にも気をつけるようにして、数値の丸めは、最後に行なうようにする。

□ 掛け算や割り算における端数処理の例外
・乗除結果の絶対値の有効数字※ が 1 に近い数（おおむね 1.5 以下）になる場合は、上に示した端数処
理よりも一桁多くとる。（※ 1 以上 10 未満の仮数部分 A を用いて A×10C のように指数表示する際の A のこと。）
たとえば、3 桁の数の乗除により得た数値が 1.001 であった場合など、3 桁に丸めずに 4 桁を残す。表示上は 4 桁でも、実質上 3 桁の数値でしかないからである。
（→ 999 と 1000 の有効数字）（その２の適用例）93.0 ÷ 8.28 = 11.23188… ≒ 11.23 （1.123 ＜ 1.5 なので。）
誤差伝播式を用いて 11.23(2) と見積もられるべき計算である。誤差の割合 0.16 %元の数値のもつ誤差の割合 93.0 → 0.10 %、8.28 → 0.12 %3 桁に丸めて 11.2 としてしまうと、誤差の割合（0.89 %）が大きすぎる計算となっている。
例） (W = ) 102.6 g の蒸留水に、(m = ) 28 mg の硫酸カリウム（分子量(M = )174.27）を溶解させた
時の溶液の重量モル濃度 C について。計算は次式 C = (m / M ) / W
有効数字の桁数の最小は秤取量 m の 2 桁である。従って計算結果も有効数字 2 桁で表す。
C ＝ （28 ×10-3 / 174.3 ）/ (102.6 ×10-3 ) [mol/kg]
実際の計算 （28 ×10-3 / 174）/ (103 ×10-3 )＝ 1.56… ×10-3
こたえ 1.6 ×10-3 mol/kg

4K 機器分析 2021.10.08② 測定値の扱い方 11/16

例） 圧力 1.00 Bar、温度 0 ℃ における理想気体のモル体積 Vm。理想気体の状態方程式 V ＝ nRT/ p を用いる。n は１であり、測定値ではなく定義により厳密に１なので、精度に影響をあたえない。
また、T ＝ 273.15 ＋ 0 ≒ 273 K である。計算の途中では、有効数字を一桁余分に残し、273.2 K を用いる。温度、圧力ともに 3 桁の有効数字なので、R の値は 4 桁（以上）を用いる。
Vm ＝ 8.314 × 273.2 ÷ 1.00 E5＝ 2.2713848 E−2→ 2.27 E−2
こたえ 2.27 ×10−2 m3（補足）□ 掛け算や割り算における端数処理の例外について
3 桁の数値の計算結果について誤差伝播式で誤差範囲を正しく評価したところ、次のようになった。
この規則の例外を適用すると 4 桁にするべきところ（有効数字が 1.5 以下）には、※を付した。
3 桁表示より 4 桁表示の方がよさそうであるところ（誤差範囲を最後の桁の１とする場合には、誤差範
囲を示す数字（を丸める前）5 未満のところ）には、○ を付し、黄色（斜体）で区別した。

掛け算

割り算

2.00×7.00 = 14.00(7) ※3.00×4.67 = 14.01(6) ※3.50×4.00 = 14.00(5) ※7.00×4.00 = 28.00(8)7.00×6.00 = 42.00(9)7.00×7.00 = 49.00(10)9.30÷9.38 = 0.971(1)6.48÷6.58 = 0.985(2)○※9.30÷9.28 = 1.002(1)9.30÷8.28 = 1.123(2) ○※9.30÷7.28 = 1.277(2) ○※9.30÷5.48 = 1.697(4) ○9.30÷4.58 = 2.031(5) ○6.48÷6.28 = 1.032(2) ○※6.48÷5.38 = 1.204(3) ○※6.48÷4.48 = 1.446(4) ○※6.48÷3.98 = 1.628(5) ○6.48÷3.28 = 1.976(7)9.30÷3.68 = 2.527(7)0.200×7.00 = 1.400(7) ※20.0×7.00 = 140.0(7) ※20.0×70.0 = 1400(7) ※5.00÷5.02 = 0.996(3)5.00÷4.97 = 1.006(3) ○※5.00÷3.87 = 1.292(4) ○※5.00÷3.42 = 1.462(5) ○※5.00÷3.14 = 1.592(6)

この例外処理を用いると、○を付したような結果のうち、特に極端なものについて、桁数を過小評価して相対誤差が大きくなってしまうことを避けることができる。

（精密な議論ではないが）「およそ 1.5」の根拠。
数値 x の桁数は（桁数の定義にもよるが） log10(x)+1 で与えられる。たとえば、1 という数値はlog10(1)+1 = 1 より 1 桁、10 という数値は log10(10)+1 = 2 より 2 桁である。切りのよい値を与えない
が、桁の切り替わりの中間にある 5 という数値は log10(5)+1 = 1.699 より 1.699 桁である。では、その 5 と同じ桁数をもつとみなせる数値はどの範囲であるかを調べると、1.58 から 15.8 である。
（log10(1.58)+1 = 1.199、log10(15.8)+1 = 2.199 で、1.699±0.5 の範囲となっている。
）そのため、
有効数字が 1 から 1.58 未満（およそ 1.5 以下）の場合は、実質の桁数が一つ小さい（0.5 から 1 未満の数値と同じ程度の桁数である）とみなして桁を一つ多く取っておくと、桁の切り替わりに伴う桁数の過小評価による相対誤差の増大が防げると考えられる。

4K 機器分析 2021.10.08○② 測定値の扱い方 12/16「999」「1000」の有効桁数には、実質上の差異はほとんどない

四則演算における端数処理では、有効数字の桁数のみに注目している。そのため例えば中和滴定について、溶液の濃度をわずかに上げて、ファクターを 0.998 から 1.001 にしただけで、精度が 1 桁上がるという誤解を招きやすい。誤差の伝播に則って評価してみると、これは誤りであることがわかる。すな
わち、4 桁の 1.001 をファクターに用いて計算しても、精度 3 桁の 0.998 を用いたときと比べて、計算結果の精度が上がるとはいえない。つまり、1.001 は、実質的には 0.998 と同様の 3 桁しか精度がないものとみなすのが妥当である。これは、桁数について、整数値ではなく実数にまで拡張するために、常用対数をとって考えると分かりやすいだろう。log10(998) = 2.999, log10(1001) = 3.000
例：濃度未知の塩酸 10.00 mL を用い、0.1 M の水酸化ナトリウム溶液で中和滴定したところ、滴定量
は 18.60 mL であったとする。このとき、水酸化ナトリウム溶液のファクターが A) 1.001 、B) 0.998であったとする。どちらも±0.001 の誤差範囲でファクターが定められていたとする。単純にこれに従って濃度計算を行うと、５桁まで求めた塩酸の濃度は A) では 0.18619 M、B) では 0.18563 M となった。B) については、ファクターの精度が 3 桁であるのは異論がないだろう。A) の計算について、誤差の伝播式に従い評価すると、計算値が、0.18619 ± 0.00045 となる。これを書き換えると 0.18574 ～
0.18664 の範囲となるが、小数第３位の数値にすでに変動があることが見てとれる。従って、この数値についても、0.1862(5) と表すか、0.186 と 3 桁で示すのが妥当である。

○

対数、指数、三角関数等の場合

これらの関数における誤差は、測定値の有効数字の桁数のみで論じることはできないので、常に誤差の伝播の程度を考えなければならない。たとえば、1.56±0.01 という測定値を 10 の指数の肩に乗せる
場合では、10 1.56 ＝ 36.30780… であるが、これを単純に３桁にあわせて 36.3 にはできない。
簡易的に見積もると、10 1.55 ＝ 35.4813…、10 1.57 ＝ 37.1535… であるから、誤差の範囲をきちんと記すなら、10 1.56±0.01 ＝ 36.31 ±0.84 である（正確には例題７を参照）。従って、小数第１位の 3 は、
すでに意味を持たないから、誤差の範囲を書かないならば、36.3 ではなく、36 としなければならない。

○ 最小二乗法による回帰直線の決定（傾き a と切片 b の決定）と検定
y のみに誤差を含む n 組の測定値 (xi, yi）があるとき、これらの点を通る直線で尤もらしいものを最小二乗法で決めることができる。最小二乗法では、座標上の測定値と回帰直線 y = ax + b との間の y 方向の距離（残差、推定値(axi+b)と測定値 yi の差）の二乗和 [(yi − (axi + b) )2] が最小になるように a とb を定めた。このように求めた a, b の値は、その算出に用いた測定値の組に対して一番尤もらしい推定値となっている。しかし、用いた測定値 yi のそれぞれには誤差によるばらつきが載っており、そのばらつき方によっては、a, b の値もまた変化したであろう。つまり、a, b の値にも測定値の誤差が伝播しているはずである。従って最小二乗法で求めた a および b の値に対し、どの程度の精度で正しいかを示す必要がある。この目的で傾き a および切片 b それぞれに標準誤差（推定値の分布が示す標準偏差）（SE, ）を求めことができる。
傾きや切片については、ゼロなのかゼロではないのかが関心の対象になることが多い。すなわち、「傾きや切片が小さいがゼロではない」のか、「ゼロであることを否定できない」のかの間には大きな違いがあるだろう。なので、最小二乗法で求めた a, b に対しても、標準誤差を求め、そこから信頼区間を算出し、その信頼区間内にゼロという値が含まれるかどうかを調べる必要がでてくる。もし、信頼区間内にゼロという値を含むならば「真の値がゼロであることを否定できない」という結論になる。逆に信頼区間内にゼロという値を含まないならば「（有意水準以下の小さな確率なので無視してよいと判断できる

4K 機器分析 2021.10.08② 測定値の扱い方 13/16

ような偶然により、ひどいばらつきがあって本当は真の値がゼロであったかもしれないが、そのような小さな可能性を除外すれば）真の値はゼロではない」と結論することができるようになる。
具体的には、次式に従い、傾きおよび切片の標準誤差を求める。その上で t 検定を行う。
（t 値として、a/a および b/b を求め、これを自由度 n−2 の t 分布について、有意水準 5 % での閾値などと比較する。この閾値は、t-分布表の他、エクセル組み込み関数 = TINV(0.05, n−2) などで求めることができる。なお、自由度が n-2 なのは、n 組のデータから、a, b の２つを求めたためである。）
残差（測定値 yi と推定値 (axi + b) の差）の二乗和を自由度で割ったものを残差分散 y2 という。
x = [xi]/n、y = [yi]/n、Sxx = [(xi − x)2]、Syy = [(yi − y)2]、Sxy = [(xi − x)(yi − y)]、 = n[xi2] −([xi])2 と定義すると、a = Sxy/Sxx、b = y − ax であり、各種分散は次のようになる。
残差分散 y2 = [(yi − (axi + b) )2] / (n − 2)= [((yi − y) − a(xi − x))2] / (n − 2)
= (Syy − 2aSxy + a2Sxx) / (n − 2)
= (Syy − aSxy) / (n − 2)
傾き a の分散 a2 = y02 × n/
切片 b の分散 b2 = y02 × [xi2]/
決定係数（相関係数の二乗） r2 = (Sxy)2 / (Sxx Syy)
決定係数 r2 は 1 に近いほど、測定値の点が回帰直線の近くにある（よくフィットしている）ことを示す。しかし、傾きがゼロ（したがって相関係数 r がゼロ）に近い場合のように、フィットが良くてもゼロに近い場合があるから、その大小のみでデータのバラつきを議論することはできない。
ただし、y02 （測定値 yi を、y = ax+b の周りに正規分布する数値の集合である母集団から抜き出した標本として考えた場合の母分散）は一般に未知なので、残差分散 r2 で置き換えて、代わりに、直線回帰式の傾き a および 切片 b が（厳密には正規分布ではなく）自由度 n−2 の t-分布に従うものとしてよい。

4K 機器分析 2021.10.08② 測定値の扱い方 14/16

練習問題
Q１ ある物理量を測定したところ、次の９つの測定値を得た。標本標準偏差 SD を与える式を書き、その値を求めよ。さらに平均値の標準誤差 SEM を求め、適切な方法で平均値を記せ。また、t-分布に基づ
く 95 %信頼区間を示せ。
（自由度 8 の t 分布において、5 % 棄却域の閾値は ± 2.306 m である。）（測定値： 13.042, 13.559, 12.154, 13.811, 12.976, 13.284，12.068，13.421，12.873 ）Q２

q = 9(2) + 9(2) + 9(2) + 9(2) + 9(2) について、7.10 式より dq を求めよ。

Q３

q = 5×9(2) について、7.10 式より dq を求めよ。ただし、5 は誤差範囲を持たない係数とする。

Q４ 次の測定値から成る計算結果に対し、誤差の伝播（7.10 式）を考慮した計算により、有効数字を定め、必要な桁数まで JIS 丸め（JIS Z8401-1999 規則 A に定めた方法）により丸め、誤差範囲を併記せよ。ただし、次の式中に表示されている数値で誤差範囲の示されていないものについては、指数の底「10」および位取りをあらわす E の後の数字（例、1E3=103）を除き、すべて測定値であり、表記上の最後の桁に誤差を持つ数値であるものとする。（つまり、6.23 は、6.23(1) = 6.23±0.01 として扱う。）(1) 6.23 × 2.01
(2) 6.25 × 2.0(3) 4.17 × 3.0(4) 6.23 ＋ 2.02 ＋ 1.0(5) 3.14 + 6.8 + 111.52(6) 24.96 + 1126 +11.54(7) 120(4) + 12(3)(8) 0.0315 × 102.82(9) 1.81E-9 × 109.16(10) 1.811E-3 × 103.140(11) log10(522.4)(12) log10(10.1415)(13) 10.3(5) + 21.2(1) + 41.0(2) + 21(1) + 7.5(1)(14) 16.3(2) × 2.82(1) × exp( 4.52(2) )(15) 35(9) +17.8(2) × 100.72(2)Q５ 4.00×102 kJ/mol エネルギー差をもつ２つの準位が、熱により平衡にあることを考える。上の準位の分布を N*、下の準位の分布を N とするとき、4.80×103 K において、この２つのエネルギー準位の分布比 N*/N を有効数字の桁数に注意して求めよ。ただし、ボルツマン分布の式 N*/N= exp(-E/RT)
により求めること。
Q６ ある化合物は、アルコール中、波長 265 nm において吸収極大を示し、その波長におけるモル吸
光係数は、ε= 1.82×104 L/mol cm であることが知られている。この化合物のアルコール溶液を 1.000
cm の光路長の石英セルに入れて測定したところ、透過率 I/I0 が 80.0 % であった（I0 は入射光強度、I は透過光強度）。この溶液の吸光度を求めよ。ただし、吸光度 A は、A = -log10(I/I0) により定義される。
※ なお、一般に文章題に対しては、計算過程と答えは別に示し、答えには必要であれば適切な単位を添えること。
（従って、試験の答案に計算式（および、式の答え）のみが示されていても、正解とはしない。
）

4K 機器分析 2021.10.08Q１② 測定値の扱い方 15/16

n はサンプルサイズで 9、 x は平均値で 13.02、s = 0.594…、 m = s/√9 = 0.198…。
自由度は n−1=8、t-分布表より 95%信頼区間の閾値は ±2.306m なので（2.306×0.198=0.4565)
よって、答えは ±SEM = 1.30(2)×101、95%信頼区間 1.30(5)×101 (13.02±0.46)→ 信頼区間の幅は、1～2 桁の精度で表す（1 や 2 の場合は 2 桁推奨だが、測定値の桁数を超える必要はない）。

Q２

q = 9(2) + 9(2) + 9(2) + 9(2) + 9(2) について、7.10 式より dq を求めよ。
q = 45(4) （dq = √(12･22 + 12･22 + 12･22 + 12･22 + 12･22) = √20 = 4.47…）

Q３

q = 5×9(2) について、7.10 式より dq を求めよ。ただし、5 は誤差範囲を持たない係数とする。
q = 45(10) → 誤差範囲を 1 桁で表すとき、4(1)×101 となる（Jis 丸めに注意）。

※ Q2 と Q3 の誤差範囲の違いに注意すること。すなわち、同じ標準誤差をもつ測定値同士の和であっても、積に直すことができない。
→ Q2 は、q = A + B + C ＋ D + E 、よって ∂q/∂A = 1 。5 つの独立した測定値の和。
Q3 は、q = 5 × A 、∂q/∂A = 5 である。ひとつの測定値の 5 倍。
ただし、A = 9, dA = 2, B = 9, dB = 2, C = 9, dC = 2 …
→ Q3 の「5 倍にする」という操作とは異なり、Q2 では 9(2) という（7～11 の範囲をもつ）別々の数値を足すので、誤差の範囲が単純に 5 倍になるわけではない。（ 9(2) の誤差範囲が ±σ（標準偏差）を表しているものとして、7 未満が現れる確率は約 15%、5 つの 9(2) を足す際に 5 回とも 7 未満が現れて 45-10 未満となる確率は (0.15^5 →) 0.007% しかない。）

Q４ 次の測定値から成る計算結果に対し、誤差の伝播（7.10 式）を考慮した計算により、有効数字を定め、必要な桁数まで JIS 丸め（JIS Z8401-1999 規則 A に定めた方法）により丸め、誤差範囲を併記せよ。ただし、次の式中に表示されている数値で誤差範囲の示されていないものについては、指数の底「10」および位取りをあらわす E の後の数字（例、1E3=103）を除き、すべて測定値であり、表記上の最後の桁に誤差を持つ数値であるものとする。（つまり、6.23 は、6.23(1) として扱う。）(1) 6.23 × 2.01
= 12.52(7)(2) 6.25 × 2.0= 12.5(6)(3) 4.17 × 3.0= 12.5(4)(4) 6.23 ＋ 2.02 ＋ 1.0= 9.2(1) ← 9.25 を JIS 丸めする
(5) 3.14 + 6.8 + 111.52= 121.5(1)(6) 24.96 + 1126 +11.54= 1162(1) ← 1162.5 を JIS 丸めする
(7) 120(4) + 12(3)= 132(5)(8) 0.0315 × 102.82= 20.8(5)9.16(9) 1.81E-9 × 10
= 2.62(6)(10) 1.811E-3 × 103.140= 2.500(6)(11) log10(522.4)= 2.71800(8)(12) log10(10.1415)= 1.006102(4)(13) 10.3(5) + 21.2(1) + 41.0(2) + 21(1) + 7.5(1)= 101(1)(14) 16.3(2) × 2.82(1) × exp( 4.52(2) )= 4.2(1)E3(15) 35(9) +17.8(2) × 100.72(2)= 1.3(1)E2

誤差範囲をもつ数字を、A, B, C などと置き、(1)～(3) q = A × B, (4)～(6) q = A + B + C などと表してみる。その上で、式の形から ∂q/∂A など偏微分を求める。カッコの無い数値の誤差範囲は、表記上の差異後の桁に 1 とする（問題文に指示あり）。

4K 機器分析 2021.10.08Q５② 測定値の扱い方 16/16

Q = N*/N = exp(-E/RT)
P = -E/RT = -4.00(1)E5/8.3144621(75)/4.80(1)E3 = -10.023(33)Q = exp(P) = 4.4(1)E-5※ R の単位（J/K/mol）に注意。E を J/mol に直す（か、RT を kJ/mol に直す）ことが必要。
※ R の値は、2019 年より定義量に変更された。そのため誤差範囲を持たない。上の式では、定義量に変更される前の実験値（誤差範囲をもつ）を用いている。ただし、他の数値の精度と比べて十分に高い精度なので、この誤差範囲は計算結果の精度には影響を与えていない。
R = 8.3144621(75) ← 8.3144621 ± 0.0000075 （上計算式で用いた実験値）
R = 8.31446261815324 （新定義）
Q６

A = -log10(I/I0) = -log10(0.800(1))= 9.69(5)E-2※ ここでは誤差の伝播を見積もるために、計算結果のみを示している。なお、計算結果の精度（数値のもつ桁数）を無視した解答は、不正解として扱う。
20190408 追記○ 異常値、外れ値（outlier）の検定→ 最大値や最小値が測定値の他の集団からとびぬけて離れている場合、その数値にのみ、他の要因（読み取りミス、記録ミス、測定時に特別なイベントがあった、など）に由来して、通常のばらつきでは説明できない誤差が含まれるものと見做し、外れ値とすることがある。
Dixon's Q test ： Dixon の Q 検定（または単純に Q 検定）「実験データを正しく扱うために」p74、p83
次式で定義される Q 値が、臨界値を上回る場合、対象となる測定値が信頼区間外にあり、ばらつき誤差によるものではないとみなすことができるので、異常値、外れ値として扱うことができる。
Q 値 = gap (外れ値を疑う数値の、隣接値との差）／range（全データの最大値と最小値の差）
例 [0.167, 0.177, 0.181, 0.181, 0.182, 0.183, 0.184, 0.186, 0.187, 0.189] の 10 個のデータセットについて、0.167 が外れ値であるかどうかを検定する。
Q = gap/range = |0.167 − 0.177|/(0.189 − 0.167) = 0.455.
表より、測定値数 10 では、 90 %信頼区間では表の値（QTable）は 0.412 である。Q 値 = 0.455 がこ
れより大きいということは、90 %信頼区間で 0.167 は外れ値であると判断できる。一方、95 % 信頼区間では、表の値は 0.466 である。 Q 値 = 0.455 がこれより小さいということは、95 %信頼区間で0.167 が外れ値であるはみなせない。
Table. the limit values of the two-tailed Dixon's Q test.

Number of values:

3

4

5

6

7

8

9

10

Q90%:

0.941 0.765 0.642 0.560 0.507 0.468 0.437 0.412

Q95%:

0.970 0.829 0.710 0.625 0.568 0.526 0.493 0.466

Q99%:

0.994 0.926 0.821 0.740 0.680 0.634 0.598 0.568※ 1 つの測定値を棄却した場合に、残りの測定値の最大値および最小値について、もう一度計算してみること。再度棄却される測定値が見つかる場合には、最初の棄却が間違である可能性が高い。