Presentation is loading. Please wait.

Presentation is loading. Please wait.

「計算誤差と有効数字」 情報電子工学演習Ⅰ 工学基礎演習(2) Ⅰ. スケジュールの確認 6/3 概要説明

Similar presentations


Presentation on theme: "「計算誤差と有効数字」 情報電子工学演習Ⅰ 工学基礎演習(2) Ⅰ. スケジュールの確認 6/3 概要説明"— Presentation transcript:

1 「計算誤差と有効数字」 情報電子工学演習Ⅰ 工学基礎演習(2) Ⅰ. スケジュールの確認 6/3 概要説明
情報電子工学演習Ⅰ 工学基礎演習(2) 「計算誤差と有効数字」 Ⅰ. スケジュールの確認 6/3 概要説明 6/10 演 習         [計算機実習室] 6/17 14:40-15:05 助言ルーム[助言グループ別]   15:10~ 考 察  [S2-9] 6/24 レポートチェック    [チェックグループ別]

2 Ⅱ.概要説明 1.目的  コンピュータにおける数の表現方法と 計算による誤差の発生について学ぶ。

3 Ⅱ.概要説明 1.目的  コンピュータにおける数の表現方法と 計算による誤差の発生について学ぶ。 ・コンピュータによる数値計算と数学の違い  ⇒ コンピュータは有限の数を使い、   数学は無限の数を使っている 1/3 →  ……. 小数点以下5桁まで ×3 = ≠ 1

4 まずは電卓で… ソニー製 SOBAX ICC-500W 1967年発売
世界初ポータブル電卓(充電池接続) トランジスタ1000個使用 26万(大卒初任給4万) ソニー製 SOBAX ICC-500W  1967年発売 (出典:電卓博物館

5 カシオ製 Casio Mini 1972年発売 価格:12,800円 10ケ月で100万台,3年で600万台の売上を記録
価格:12,800円  10ケ月で100万台,3年で600万台の売上を記録 (出典:電卓博物館

6 2.電卓ソフトの利用 <特徴> ・7桁までの計算 ・メモリーキー ・平方根計算 ・HSPで開発 「Dentakun 2号」

7 <メモリーキー> MC(メモリークリア) :メモリー計算結果を消去 MR(メモリーリコール):メモリー計算結果を呼び出し
例1)100×2+50×5の計算

8 例2)

9 例2)

10 例2)

11 例2) 小数点以下6位まで の7桁の数字 小数点以下6位まで の5桁の数字

12 0.064283 例2) ー 有効数字-測定値や計算値を表すのに信頼できる 意味のある数字 (先頭の0や1を除く) 小数点以下6位まで
の7桁の数字 小数点以下6位まで の5桁の数字 有効数字-測定値や計算値を表すのに信頼できる      意味のある数字 (先頭の0や1を除く)

13 0.064283 例2) ー 有効数字-測定値や計算値を表すのに信頼できる 意味のある数字 (先頭の0や1を除く)
小数点以下6位まで の7桁の数字 小数点以下6位まで の5桁の数字 有効数字-測定値や計算値を表すのに信頼できる      意味のある数字 (先頭の0や1を除く) 計算によって有効数字の桁が少なくなった      →「桁落ち」の発生

14 ※注意(誤解しやすい点) は、共に表示桁が7桁で小数点以下6桁 ( 精度)で表された数字である。 しかし、  は有効数字7桁       は有効数字5桁 の数字です。 有効数字-測定値や計算値を表すのに信頼できる      意味のある数字 (先頭の0や1を除く)

15 ※有効数字に関する補足 0.14 と の有効数字は、何桁? 0.14 は1桁、 は2桁 0.14 は、0.137や0.142が小数点以下3桁目で 四捨五入され、0.14となった可能性がある。 0.140 は、小数点以下3桁目が0であること を明示している。


Download ppt "「計算誤差と有効数字」 情報電子工学演習Ⅰ 工学基礎演習(2) Ⅰ. スケジュールの確認 6/3 概要説明"

Similar presentations


Ads by Google