計測工学 -測定の誤差と精度1- 計測工学 2010年5月10日　Ⅰ限目

授業内容 前回の続き 2.1　数値計算における誤差 2.2　計算過程での誤差 2.3　測定の精度

数値と接頭語の使い方 接頭語(乗数) 単位の倍数 接頭語 名称 記号 英語 1030 - 1027 1024 Ｙ 1021 Ｚ 1018 Ｅ 1015 Ｐ 1012 Ｔ 109 Ｇ 106 Ｍ 103 ｋ 102 ｈ 101 ｄａ 接頭語(乗数) 10-1 ｄ 10-2 ｃ 10-3 ｍ 10-6 μ 10-9 ｎ 10-12 ｐ 10-15 ｆ 10-18 ａ 10-21 z 10-24 y

数値と接頭語の使い方 接頭語(乗数) 単位の倍数 接頭語 名称 記号 英語 1030 グルーチョ - Groucho 1027 ハーポ Harpo 1024 ヨッタ Ｙ Yotta 1021 ゼッタ Ｚ Zetta 1018 エクサ Ｅ Exa 1015 ペタ Ｐ Peta 1012 テラ Ｔ Tera 109 ギガ Ｇ Giga 106 メガ Ｍ Mega 103 キロ ｋ Kilo 102 ヘクト ｈ Hecto 101 デカ ｄａ Deca 接頭語(乗数) 100 * 10-1 デシ ｄ Deci 10-2 センチ ｃ Centi 10-3 ミリ ｍ Milli 10-6 マイクロ μ Micro 10-9 ナノ ｎ Nano 10-12 ピコ ｐ Pico 10-15 フェムト ｆ Femto 10-18 アト ａ Atto 10-21 ゼプト z Zepto 10-24 ヨクト y Yocto

数値と接頭語の使い方 数値は0.1～1000の間に入るように選ぶのが望ましい – 1.2×104 N → 12kN – 0.00394m → 3.94mm – 1401 Pa → 1.401 kPa

機械力学におけるＳＩ組立単位 速度[m/s] , 加速度[m/s2] 質量[kg] , 力[N]=[kg・m/s2], モーメント[N・m] 力の単位の換算　1[kgf] = 9.80665[N] 周波数、振動数[Hz]=[/s] 回転速度[rpm] revolution per minute [rps] revolution per second 減衰係数　[N・s/m]または[kg/s]

授業内容 2.1　数値計算における誤差 2.2　計算過程での誤差 2.3　測定の精度

2.1 数値計算における誤差 2.1.1 誤差とは 2.1.2 四捨五入と切り捨てによる誤差 2.1.3 有効数字 2.1　数値計算における誤差 2.1.1　誤差とは 2.1.2　四捨五入と切り捨てによる誤差 2.1.3　有効数字 2.1.4　有効数字のしくみ

2.1 数値計算における誤差 2.1.1 誤差とは 2.1.2 四捨五入と切り捨てによる誤差 2.1.3 有効数字 2.1　数値計算における誤差 2.1.1　誤差とは 2.1.2　四捨五入と切り捨てによる誤差 2.1.3　有効数字 2.1.4　有効数字のしくみ

2.1.1 誤差とは 誤差(error)：測定値の不確かさ 測定値から真の値を差し引いたもの

2.1.1 誤差とは (1)母集団(population) 同一条件下で求められるべきすべて(無限個) の測定値 (2)標本(sample) 同一条件下で求められるべきすべて(無限個) の測定値 (2)標本(sample) 同一条件下でランダムに抽出される有限個の 測定値　 正確な母集団を収集することは不可能なため、標本を用いる

2.1 数値計算における誤差 2.1.1 誤差とは 2.1.2 四捨五入と切り捨てによる誤差 2.1.3 有効数字 2.1　数値計算における誤差 2.1.1　誤差とは 2.1.2　四捨五入と切り捨てによる誤差 2.1.3　有効数字 2.1.4　有効数字のしくみ

2.1.2 四捨五入と切り捨てによる誤差 数値の丸め(rounding)：四捨五入が一般的 (１) 与えられた数値が1つしかない場合： 2.1.2　四捨五入と切り捨てによる誤差 数値の丸め(rounding)：四捨五入が一般的 (１)　与えられた数値が1つしかない場合： 　　　 正の数値：単純に四捨五入 負の数値：絶対値に四捨五入 e.g. 表2.1：丸めの幅に注意

2.1.2 四捨五入と切り捨てによる誤差 数値の丸め：四捨五入が一般的 (2) 与えられた数値が2つの隣り合う整数倍： 偶数倍の方を選択 2.1.2　四捨五入と切り捨てによる誤差 数値の丸め：四捨五入が一般的 (2)　与えられた数値が2つの隣り合う整数倍： 　　　 偶数倍の方を選択 e.g. 12.25, 12.45

2.1.2　四捨五入と切り捨てによる誤差 数値の丸め：四捨五入が一般的 (3)　丸めは常に一回のみとする e.g. 2.445

複数回の丸めによって 2.5 と 3.0と誤差が大きくなり得る 2.1.2　四捨五入と切り捨てによる誤差 数値の丸め：四捨五入が一般的 (3)　丸めは常に一回のみとする e.g. 2.445 複数回の丸めによって 2.5　と　3.0と誤差が大きくなり得る

複数回の丸めによって 2.5 と 3.0と誤差が大きくなり得る 2.1.2　四捨五入と切り捨てによる誤差 数値の丸め：四捨五入が一般的 (4) 末端数値が5のときは注意 e.g. 2.445 複数回の丸めによって 2.5　と　3.0と誤差が大きくなり得る

2.1.2 四捨五入と切り捨てによる誤差 数値の丸め：四捨五入が一般的 (4) 末端数値が5のときは注意 1つ上の桁が… 2.1.2　四捨五入と切り捨てによる誤差 数値の丸め：四捨五入が一般的 (4) 末端数値が5のときは注意 1つ上の桁が… 奇数　⇒　切り上げる 偶数　⇒　切り捨てる e.g. 12.335, 12.345

2.1.2 四捨五入と切り捨てによる誤差 数値の丸め：四捨五入が一般的 (4) 末端数値が5のときは注意 1つ上の桁が… 2.1.2　四捨五入と切り捨てによる誤差 数値の丸め：四捨五入が一般的 (4) 末端数値が5のときは注意 1つ上の桁が… 奇数　⇒　切り上げる 偶数　⇒　切り捨てる e.g. 12.335, 12.345

2.1 数値計算における誤差 2.1.1 誤差とは 2.1.2 四捨五入と切り捨てによる誤差 2.1.3 有効数字 2.1　数値計算における誤差 2.1.1　誤差とは 2.1.2　四捨五入と切り捨てによる誤差 2.1.3　有効数字 2.1.4　有効数字のしくみ

2.1.3 有効数字 有効数字(significant figure): 初めて誤差が入ってくる桁までとった数字 2.1.3　有効数字 有効数字(significant figure): 初めて誤差が入ってくる桁までとった数字 e.g. 12.3, 2.34, 0.0456, 789×10 2桁までは正しく，3桁目が怪しい

2.1.3 有効数字 (1) 例の125.7mmは算術数で表現されるmmの単位と目分量の小数点以下にて構成 2.1.3　有効数字 (1)　例の125.7mmは算術数で表現されるmmの単位と目分量の小数点以下にて構成 (小数点以上は正確、以下は不正確) 125 126

2.1.3 有効数字 (1) 例の125.7mmは算術数で表現されるmmの単位と目分量の小数点以下にて構成 2.1.3　有効数字 (1)　例の125.7mmは算術数で表現されるmmの単位と目分量の小数点以下にて構成 (小数点以上は正確、以下は不正確) 125 126

2.1.3 有効数字 (1) 例の125.7mmは算術数で表現されるmmの単位と目分量の小数点以下にて構成 2.1.3　有効数字 (1)　例の125.7mmは算術数で表現されるmmの単位と目分量の小数点以下にて構成 (小数点以上は正確、以下は不正確) 125.70mmとすると、0.7mmまで正確 125 126

2.1.3 有効数字 (2) 工学系の有効数字：3～4桁。 3桁でとめるのが通常。粗い推定では2桁 2.1.3　有効数字 (2)　工学系の有効数字：3～4桁。 3桁でとめるのが通常。粗い推定では2桁 (3)演算を施す定数π、√…1～2桁多くとって計算し、結果を四捨五入し有効数字を制限

2.1 数値計算における誤差 2.1.1 誤差とは 2.1.2 四捨五入と切り捨てによる誤差 2.1.3 有効数字 2.1　数値計算における誤差 2.1.1　誤差とは 2.1.2　四捨五入と切り捨てによる誤差 2.1.3　有効数字 2.1.4　有効数字のしくみ

2.1.4 有効数字のしくみ 真値T1, T2を測定 それぞれの測定値M1, M2 それぞれの測定誤差ε1，ε2 とする 2.1.4　有効数字のしくみ 真値T1, T2を測定 それぞれの測定値M1, M2 それぞれの測定誤差ε1，ε2　とする T1 = M1±ε1， T2 = M2±ε2 T1　の範囲：　(M1-ε1) < T1< (M1+ε1)

2.1.4 有効数字のしくみ 和差：総合誤差として誤差の加算を行う T1±T2≒(M1±M2)±(ε1+ε2) 積： 2.1.4　有効数字のしくみ 和差：総合誤差として誤差の加算を行う T1±T2≒(M1±M2)±(ε1+ε2) 積： T1×T2≒M1M2±(M2ε1+M1ε2) 商： T1/T2　≒　M1/M2±ε ε=M1/M2(ε1/M1+ε2/M2) ε：総合誤差， ε1/M1，ε2/M2：相対誤差