この記事でわかること
- 測定誤差の2種類（かたより・ばらつき）と、データに混ざる仕組み
- 観測データから製品の真のばらつきを逆算する計算（Excel対応）
- 有効数字・丸め・平均値の桁数など、記録時の実務ルール
📌 前提知識：標準偏差・分散の求め方を読んでいるとスムーズです
同じ部品を同じノギスで3回測ったら、50.02・50.04・50.01と毎回違う値が出た。部品は変わっていないのだから、この差はすべて測定誤差です。つまり、私たちが管理図や工程能力の計算に使っているデータには、製品そのもののばらつきに加えて、測定のばらつきが必ず上乗せされています。
測定誤差を意識せずにデータを扱うと、工程を実際より悪く評価したり、意味のない桁まで議論したりすることになります。この記事では、測定誤差の基本と、データ記録で迷いがちな有効数字・丸めのルールを整理します。
測定誤差を意識すべき場面
- 工程能力指数（Cp・Cpk）が思ったより低いとき（測定誤差がσを膨らませていないか）
- 測定器や測定者を変更・追加するとき
- 規格幅に対して測定器の分解能が粗いとき（例: 公差±0.05mmを最小表示0.01mmの器具で測る）
- データの桁数・丸め方を標準化したいとき
逆に、測定誤差が製品ばらつきに比べて十分小さいことが確認済みの工程では、日常のデータ解釈でいちいち意識する必要はありません。その「十分小さいか」を定量評価する手法がゲージR&R（測定システム解析）です。
測定誤差の2種類｜かたよりとばらつき
| かたより（正確さ） | ばらつき（精密さ） | |
|---|---|---|
| 意味 | 測定値の平均が真値からずれる | 繰り返し測ると値が散らばる |
| 例 | ゼロ点ずれ・校正切れ | 読み取りの揺れ・器差・環境変動 |
| 対策 | 校正・ゼロ点調整 | 測定方法の標準化・器具の見直し |
| 統計への影響 | 平均値が系統的にずれる | 標準偏差が大きくなる |
かたよりは校正で対処できる一方、ばらつきはデータのσに直接混ざり込むのが厄介です。的当てにたとえると、かたよりは「狙いが中心からずれている」、ばらつきは「弾が散らばっている」に相当し、対策がまったく違います。
測定のばらつきはσにどう混ざるか｜分散の加法性
測定データのばらつきは、製品自体のばらつきと測定のばらつきの合成です。標準偏差ではなく分散（σ²）の足し算になる点がポイントです。
\[\sigma_{観測}^2 = \sigma_{製品}^2 + \sigma_{測定}^2\]
逆に、製品の真のばらつきは =SQRT(観測σ^2 - 測定σ^2) で逆算できます。
例題で確認します。ある寸法の観測データから σ観測 = 0.05mm が得られました。同一サンプルの繰り返し測定から、測定のばらつきは σ測定 = 0.03mm と分かっています。製品の真のばらつきは、
\[\sigma_{製品} = \sqrt{0.05^2 – 0.03^2} = \sqrt{0.0025 – 0.0009} = \sqrt{0.0016} = 0.04 \, \text{mm}\]
Excelなら =SQRT(0.05^2-0.03^2) → 0.04 です。観測された分散のうち測定が占める割合は (0.03/0.05)² = 36%。観測σの4割近くが測定由来で、このまま工程能力を計算すると工程を実力より悪く見積もることになります。測定誤差が大きい場合、Cp・Cpkの評価の前に測定システムの改善が先です。
有効数字と丸めの実務ルール
測定誤差と切り離せないのが「何桁まで意味があるか」＝有効数字です。実務の指針を3つにまとめます。
① 記録は測定器の最小目盛まで（勝手に丸めない）
生データは測定器が出す桁をそのまま記録します。記録段階で丸めると、あとから標準偏差を計算したときに情報が失われ、ばらつきを過小評価します。丸めるのは報告のとき、計算が終わってからです。
② 丸めは最後に1回・ルールを決めて
途中計算で丸めを繰り返すと誤差が蓄積します。計算はフル桁のまま進め、最終結果だけを丸めるのが原則です。丸め方は四捨五入が一般的ですが、規格ではJIS Z 8401（数値の丸め方）に、丸める桁がちょうど5のときに偶数側へ丸める方式が規定されています。社内でどちらを使うか決めて統一することが重要です。ExcelのROUND関数は通常の四捨五入である点も覚えておいてください: =ROUND(値, 桁数)。
③ 平均・標準偏差の報告桁数の目安
統計量は計算上いくらでも桁が出ますが、意味があるのは元データの精度までです。慣行としては、平均は元データより1桁多くまで、標準偏差は有効数字2〜3桁程度で報告すれば十分です（例: 0.01mm刻みのデータなら平均は50.034、σは0.042など）。測定器の分解能を超えた桁数の議論は、精度の裏付けがない数字遊びになります。
現場のミニ事例｜Cpk改善の犯人は測定だった
樹脂成形品の寸法でCpkが1.1前後から上がらず、金型調整や成形条件の見直しを繰り返していた工程の話です。半年やっても改善は頭打ちでした。
あるとき同一サンプル10個を3人で測り直したところ、測定者間で読みが系統的にずれることが判明。ハンドノギスの当て方が人によって違い、測定のばらつきσ測定が観測σの4割を占めていました。本文の式で製品の真のばらつきを逆算すると、実は工程はすでにCpk1.4相当の実力があったのです。
対策は測定側でした。測定治具を作って当て方を固定し、測定手順を標準化。それだけで観測Cpkは1.4台に乗り、金型にも成形条件にも手を入れる必要はありませんでした。「工程能力が低い」と見えたとき、疑う順番は ①測定 → ②工程。逆順で半年を失った教訓です。
よくある質問
Q. 測定器の分解能はどれくらい必要？
A. 目安は公差の1/10です。公差±0.05mm（幅0.1mm）を管理するなら最小表示0.01mmが下限ライン。分解能が粗いと、データが数種類の値に張り付いて（丸め込まれて）ばらつきの評価自体が歪みます。ヒストグラムが櫛の歯状になっていたら分解能不足のサインです。
Q. かたよりとばらつき、どちらから対処すべき？
A. まず、かたより（校正）からです。校正は比較的低コストで確実に効くうえ、かたよりが残ったままばらつき改善をしても平均のずれは直りません。校正で土台を固めてから、ゲージR&Rでばらつき側を定量評価する順番が効率的です。
Q. Excelの「表示桁数」とROUND関数の丸めは同じ？
A. 別物です。セルの表示形式で桁を減らしても内部の値はフル桁のままで、計算には元の値が使われます。ROUND関数は値そのものを丸めます。報告書の見た目は表示形式で整え、値の丸めは最後にROUNDで1回、と使い分けるのが安全です。
まとめ
- 測定誤差には「かたより（校正で対処）」と「ばらつき（σに混ざる）」の2種類がある
- 観測σ² ＝ 製品σ² ＋ 測定σ²。真のばらつきは =SQRT(観測σ^2−測定σ^2) で逆算できる
- 例題では観測σの36%が測定由来。工程能力評価の前に測定システムの確認を
- 生データは丸めず記録、丸めは最後に1回、ルールは社内で統一
- 平均は元データ＋1桁、σは有効数字2〜3桁が報告の目安
データの信頼性は解析手法より上流の、測定と記録で決まります。測定ばらつきの定量評価はゲージR&Rの計算手順、ばらつき計算の基本は標準偏差・分散の求め方をあわせてご覧ください。
