有効数字 有効数字の利用を考える.

Slides:



Advertisements
Similar presentations
計測工学 - 測定の誤差と精度 2- 計測工学 2009 年 4 月 28 日 Ⅱ限目. 授業内容 2.1 数値計算における誤差 2.2 計算過程での誤差 2.3 測定の精度.
Advertisements

平成 27 年 10 月 21 日. 【応用課題 2-1 】 次のビット列は、ある 10 進数を 8 ビット固定小数点表示で表した時の ものです。ただし、小数点の位置は 3 ビット目と 4 ビット目の間としてお り、負数は2の補数で表しています。このとき、元の 10 進数を求めてく ださい。
の範囲に、 “ 真の値 ” が入っている可能性が約 60% 以上ある事を意味する。 (測定回数 n が増せばこの可能性は増 す。) 平均値 偶然誤差によ るばらつき v i は 測定値と平均値の差 で残差、 また、 σ は、標準誤差( Standard Error, SE ) もしくは、平均値の標準偏差、平均値の平均二乗.
情報処理 第12回.
演算、整数型と浮動小数点型 第3回目 [4月27日、H.16(‘04)] 本日のメニュー 1)前回の課題・宿題 2)ファイルサーバの利用
Problem A: ねこかわいがり♪ 問題作成: 山本 解法作成: 山本・高橋 解説: 山本.
1 正の数・負の数 2章 正の数・負の数の計算 §1 正の数・負の数の加法    ・減法  (8時間)
プログラミング演習(1組) 第7回
1辺が1cmの正方形のあつ紙を、下の図のように1だん、2だん、……とならべて、階だんの形を作ります。20だんのときの、まわりの長さを求めましょう。 3だん 4だん 20この図をかけばわかるけど…。 だんの数とまわりの長さには、どんな関係があるのかな。
近似アルゴリズム 第10章 終了時刻最小化スケジューリング
問題文をしっかり読んでみよう! ステップ 1 ☆どんな問題なのかな? ☆何を求める問題なのかな? ☆条件・きまり・約束はないかな?
3 二次方程式 1章 二次方程式 §2 二次方程式と因数分解         (3時間).
行列の計算 行列とは 行列の型 行列の演算 (C) Katsuhiro Yamada.
物理化学(メニュー) 0-1. 有効数字 0-2. 物理量と単位 0-3. 原子と原子量 0-4. 元素の周期表 0-5.
図形描画の基本図形(四角)を組み合わせて、家の形を作ります。
「2次方程式を利用して、いろいろな問題を解決しましょう。」
※ゴムでページを押さえることができます。
本時の目標 負の数をふくむ3つ以上の数の乗法や除法の効率のいい計算のしかたに気づき、効率よく計算することができる。
基礎プログラミング (第五回) 担当者: 伊藤誠 (量子多体物理研究室) 内容: 1. 先週のおさらいと続き (実習)
計測工学 -測定の誤差と精度1- 計測工学 2009年4月21日 Ⅱ限目.
5年  面積.
学年 名列 名前 福井工業大学 工学部 環境生命化学科 原 道寛 名列番号___ 氏名__________
4章 平行と合同 2 多角形の外角の和.
計測工学 -測定の誤差と精度2- 計測工学 2009年5月17日 Ⅰ限目.
2進数・16進数.
補数 n:桁数、b:基数 bの補数 bn-x 253(10進数)の10の補数は、 =747
1 式の計算 1章 式の計算 §2 単項式の乗法・除法         (2時間).
学習の流れ 本時のねらい 「2次方程式を利用して、いろいろな問題を解決しましょう。」 ↓ 課題の提示 カレンダー 図形での活用場面4
「ユーザー設定リスト」の作成と削除 ◎ 新しい「リスト」の作成法
本時のねらい 「相似の意味と性質を理解し、相似な図形の辺の長さや角度を求めることができる。」
コンピュータプラクティス I 時間の測定 水野嘉明
本時の目標 かっこのついた式を分配法則を使って効率よく解くことができる。
中学数学1年 1章 正の数・負の数 §3 乗法と除法 (9時間).
「計算誤差と有効数字」 情報電子工学演習Ⅰ 工学基礎演習(2) Ⅰ. スケジュールの確認 5/30 概要説明
エクセル(6)の目次 「ユーザー設定リスト」の作成と削除 「入力規則」での「リスト」 ユーザー定義による表示形式
. . . . 10倍,100倍 3.24を10倍した数を考えましょう。 を100倍した数を考えましょう。 10倍
本時の目標 「相似な図形の相似比と面積比の関係を理解し、それを用いて相似な図形の面積を求めることができる。」
中3数 三平方の定理の導入 中学校 3年数学 三平方の定理 授業導入時に実施する。
関数の書式 ● SUM関数、AVARAGE関数など代表的ないくつかの関数の書式(数式の構文)は、下記のようなものである。 =関数名(引数1,引数2,引数3,・・・・・) ●引数(入力データ)は、数値で入力しても、セル名で指定してもよい。 例: =SUM(A1:A10,B21:B30,C31:C40)
メンバー 梶川知宏 加藤直人 ロッケンバッハ怜 指導教員 藤田俊明
第3章 演算装置.
すべてのレポートの提出期限 1月22日 火曜日 これ以降は特殊な理由が無い限り レポートを受け取りません!
数理統計学 西 山.
多項式の乗法.
各 階 平 面 図 家 屋 番 号 建 物 図 面 建物の所在 A市B町一丁目30番地
平行線の性質を使って、面積の等しい図形について考えてみよう。
多項式の乗法 本時の目標 展開の意味を理解し、分配法則を使って多項式の乗法の計算をすることができる。
計測での注意事項 計測では、重さか厚さのどちらか1つを選択すること。 計測では誤差が生じますが、なるべく誤差が少なくなるように工夫すること。
かけ算 九九.
SystemKOMACO Jw_cad 基本操作(3) Ver.1
長さを小数で表しましょう。 0m 1m 2m 3m.
補講:アルゴリズムと漸近的評価.
データの表現 2進数 0と1を使う。 基数(基準になる数)が2. 101(2) かっこで2進数と示すことがある。
基礎プログラミング演習 第6回.
5年 算数 「面積(平行四辺形)」.
鉄筋コンクリートとは? 鉄筋とコンクリートという異なる2種類の材料が双方の短所を補うことにより,一体となって外力に抵抗するもの.
「計算誤差と有効数字」 情報電子工学演習Ⅰ 工学基礎演習(2) Ⅰ. スケジュールの確認 5/27 概要説明
計測工学 -測定の誤差と精度1- 計測工学 2010年5月10日 Ⅰ限目.
円 周 率 物 語.
「計算誤差と有効数字」 情報電子工学演習Ⅰ 工学基礎演習(2) Ⅰ. スケジュールの確認 6/3 概要説明
知能情報工学演習I 第8回(後半第2回) 課題の回答
本時の目標 かっこのついた式の乗法と除法を、分配法則を使って効率よく解くことができる。
下の図のように、直角三角形と正方 形が直線ℓ上に並んでいる。 8cm 8cm ℓ 8cm 8cm.
「計算誤差と有効数字」 情報電子工学演習Ⅰ 工学基礎演習(2) Ⅰ. スケジュールの確認 5/28 概要説明
プログラミング演習I 数値計算における計算精度と誤差
ハッピー数に関する擬似概念 白柳研究室  渡邉 侑.
エクセル(3)の目次 参照演算子と演算子 参照セルの表示法 セルの参照方法 エラーについて シグマ(Σ)関数 条件付書式 問題(1)
復習 いろいろな変数型(2) char 1バイト → 英数字1文字を入れるのにぴったり アスキーコード → 付録 int
香川大学創造工学部 富永浩之 情報数学1 第3-3章 多進法での四則演算 香川大学創造工学部 富永浩之
本時の目標 いろいろな立体の表面積を求めることができる。
Presentation transcript:

有効数字 有効数字の利用を考える

かけ算とわり算の有効数字 横 6.17cm 縦 3.54cm の長方形 誤差の理由(6.17をAとすると、6.165<=A<6.175) 横 6.17cm 縦 3.54cm の長方形 横 6.17cm、縦 3.54cm  の長方形の面積を求める場合  を考える。 (1)求める面積の計算式は、   6.17×3.54で、式をこのまま計算すると、   計算結果は、 6.17×3.54=21.8418となる。   誤差の理由(6.17をAとすると、6.165<=A<6.175) (2)各辺の長さは有効数字3桁の測定値で、それぞれ最後の位の数字(赤字で示した数字)には、誤差が含まれている。

計算の結果に含まれる誤差(A) 6.17 × 3.54 2468 -----(1) 3085 -----(2) 1851 -----(3)      6.17 ×   3.54      2468   -----(1)     3085  -----(2)    1851     -----(3)   21.8418 (1)  6.17×4=2468誤差を含む4を掛けた全ての値 (2)  6.17×5=3085となり、7×5=35の入っている2桁 (3)  6.17×3=1851となり、 7×3=21の入っている2桁

この長方形の面積の有効数字 (1)計算結果の3桁目以下に誤差が含まれる。 21.8418 (有効数字4桁以上求めても意味がない) (2)計算結果の4桁目を四捨五入し、3桁の 有効数字 21.8 を答えとするのが妥当である。

有効数字の桁数について(A) (1)この長方形の面積の計算の場合は、 有効数字がどちらも3桁で、3桁の有効数字 21.8を答えとした。 (2)「有効数字○桁で答えよ」→途中計算は、 ○より1桁多く求めて、この桁で四捨五入して答える。 問題に指示がない場合は、 「計算する数値の中で最も桁数の少ない桁で答える」 例 147×5291=777777≒7.78×105 *147(3桁)5291(4桁)*(有効数字3桁)

足し算と引き算の有効数字 <長さの測定値> 2.5cm 4.73cm 長さの測定値2.5cmと 2.5+4.73=7.23となる。 <長さの測定値>           2.5cm                      4.73cm  長さの測定値2.5cmと   4.73cmの和の計算式は、この式をそのまま計算したときの計算結果は、   2.5+4.73=7.23となる。  この場合もそれぞれ末位の数字 (赤字で示した)  には、誤差が含まれている。          

計算の結果に含まれる誤差(B) 2.5 --(1) + 4.73 --(2) 7.23 --(3) (1) 小数第1位に誤差が含まれている。      2.5   --(1)     +  4.73  --(2)       7.23  --(3) (1) 小数第1位に誤差が含まれている。 (2) 小数第2位に誤差が含まれている。 (3) 小数第1位にも第2位に誤差が含まれて     いる。

有効数字の桁数について(B) (1)この場合は、小数第1位にも第2位にも 誤差が含まれており、小数第2位まで計算することは無意味であることがわかる。足し算の結果は、最も誤差の大きい位をあわせて求めるので、 7.2を答えとした。 (2)引き算の場合も同じであり、加減算の結果の誤差は、測定値の中の最も誤差の大きな位(青字の桁)にあわせて求める。(誤差の位は赤字と青字) 例 76.54+1.2=77.74≒77.7 例 76.55+1.2=77.77≒77.8

有効数字(□×10a) (有効数字は、すべて3桁とする)  例題 8300  (解)  □×10a  (1<=□<10)の形にするための□の値は、8.30であるから、  8300=8.30×103 となる

練習問題1 (1)96500 (2)101325 (3)273.15 (4)299792458 (5)0.08205 解答 (1)9.65×104 (2)1.01×105 (3)2.73×102 (4)3.00×108 (5)8.21×10-2

有効数字の計算 例題 縦の長さ3.5cm、横の長さ16.5cm の長方形の面積。 (解) 有効数字の指示がないので、桁数の小さい3.5の桁数に合わせて、有効数字2桁で 答える。 3.5cm×16.4cm =57.75cm2=58cm2

練習問題2の(1) (1)12.8cmと0.64cmを合わせた長さ (有効数字3桁) [ ]cm [解] (1)計算の最後に四捨五入して、 有効数字を3桁にする。 12.8+0.64=13.44≒13.4cm

練習問題2の(2) (2)縦の長さ0.350cm、 横の長さ16.5cmの長方形の面積 [ ]cm2 [解] (2)計算に用いる数字は、どちらも有効数字 3桁であるから、有効数字は3桁で答える。 0.350×16.5=5.775≒5.78cm2

練習問題2の(3) (3)200mを19.30秒で走る人の秒速。 [ ]m/秒 [解] (3)200(3桁)、19.30(4桁)。3桁で答える 200/19.30=10.36・・・=10.4m/秒 有効数字について、理解できましたか。