「計算誤差と有効数字」 情報電子工学演習Ⅰ 工学基礎演習(2) Ⅰ. スケジュールの確認 5/28 概要説明

Slides:



Advertisements
Similar presentations
計測工学 - 測定の誤差と精度 2- 計測工学 2009 年 4 月 28 日 Ⅱ限目. 授業内容 2.1 数値計算における誤差 2.2 計算過程での誤差 2.3 測定の精度.
Advertisements

平成 27 年 10 月 21 日. 【応用課題 2-1 】 次のビット列は、ある 10 進数を 8 ビット固定小数点表示で表した時の ものです。ただし、小数点の位置は 3 ビット目と 4 ビット目の間としてお り、負数は2の補数で表しています。このとき、元の 10 進数を求めてく ださい。
の範囲に、 “ 真の値 ” が入っている可能性が約 60% 以上ある事を意味する。 (測定回数 n が増せばこの可能性は増 す。) 平均値 偶然誤差によ るばらつき v i は 測定値と平均値の差 で残差、 また、 σ は、標準誤差( Standard Error, SE ) もしくは、平均値の標準偏差、平均値の平均二乗.
1 情報基礎 A 第 4 週 EXCEL 徳山 豪 東北大学情報科学研究科 システム情報科学専攻 情報システム評価学分野.
1 通信教育学部 コンピュータ演習 Excel の書式設定と関数 授業ページ「コンピュータ演習(通信教育学 部)」を 開いてください。提出課題の一覧が掲載されてい ます。
情報基礎実習 I (第3回) 木曜4・5限 担当:北川 晃. プログラミング演習 2 つの数を入力し,「計算」ボタンをクリック すると,それぞれの計算結果を次のように 表示するプログラムを作れ.
1 情報基礎 A 第 4 週 EXCEL 徳山 豪・全眞嬉 東北大学情報科学研究科 システム情報科学専攻 情報システム評価学分野.
情報基礎 A 第 4 週 データベースと表計算 情報基礎 A 第 4 週 データベースと表計算 1 徳山 豪 東北大学情報科学研究科 システム情報科学専攻 情報システム評価学分野.
平成24年度・平成25年度 在宅サービス収支状況比較調査 報告書 平成26年9月 社会福祉法人 大阪府社会福祉協議会 老人施設部会 在宅分科会 調査研究小委員会.
基本情報技術概論(第2回) 埼玉大学 理工学研究科 堀山 貴史
情報ネットワーク論 第4回 ー n進法(3) 8進法と16進法 ー.
第1章 場合の数と確率 第1節 場合の数  3  順列 (第3回).
コンピュータープログラミング(C言語)(2) 1.文字列出力と四則演算 (復習) 2.関数と分割コンパイル
情報処理 第12回.
香川大学工学部 富永浩之 情報数学1 第1-1章 除法定理と整除演算 香川大学工学部 富永浩之
香川大学工学部 富永浩之 情報数学1 第1-1章 除法定理と整除演算 香川大学工学部 富永浩之
演算、整数型と浮動小数点型 第3回目 [4月27日、H.16(‘04)] 本日のメニュー 1)前回の課題・宿題 2)ファイルサーバの利用
反応ギブズエネルギー  ΔrxnG (p. 128).
Ⅰ.電卓キーの基本的機能 00 0 1 2 3 6 ⑤ 4 9 8 7 M- MR MC + × % M+ - = ÷ C √ +/- GT
アナログとディジタル 五感 視覚、聴覚、味覚、臭覚、触覚 埼玉県立越ヶ谷高等学校・情報科.
5個の数字0,1,2,3,4から異なる3個を選んで3桁の整数を作る。
図形描画の基本図形(四角)を組み合わせて、家の形を作ります。
演算、整数型と浮動小数点型 第3回[平成16年4月27日(火)]:PN04ー03.ppt 今日の内容 1 復習 2 加減・乗除演算子
有効数字 有効数字の利用を考える.
半田利弘 鹿児島大学 大学院理工学研究科 物理・宇宙専攻
計測工学 -測定の誤差と精度1- 計測工学 2009年4月21日 Ⅱ限目.
コンピュータリテラシ (1) 学習目標(到達目標) ・計算機実習室を正しく利用できる。 ・文書作成ソフトの利用方法を学び、報告作成が
情報処理Ⅱ 2005年12月9日(金).
学年 名列 名前 福井工業大学 工学部 環境生命化学科 原 道寛 名列番号___ 氏名__________
情報処理 第10回.
情報処理 第10回.
コンピュータリテラシー 広島工業大学 知的情報システム工学科 張 暁華 2003年.
計測工学 -測定の誤差と精度2- 計測工学 2009年5月17日 Ⅰ限目.
目標工賃達成加算の算定要件の緩和 「工賃倍増5か年計画」を積極的に推進するため、目標工賃達成加算が、工賃水準の引上げにより一層有効なものとなるよう、新たに「目標工賃達成加算(Ⅱ)」を設ける。  1.対象事業所  就労継続支援B型事業所  2.算定要件   ①前年度に、当該事業所の利用者に対して支払った工賃の平均額が、次のいずれにも該当すること。
円 周 率 物 語.
情報処理 第5回 Excelの基本操作.
コンピュータプラクティス I 時間の測定 水野嘉明
28 PICマイコンを用いた能動騒音制御系の制御性能
「計算誤差と有効数字」 情報電子工学演習Ⅰ 工学基礎演習(2) Ⅰ. スケジュールの確認 5/30 概要説明
岩村雅一 知能情報工学演習I 第8回(C言語第2回) 岩村雅一
Excel 2002,2003基本9 演算誤差.
情報とコンピュータ 静岡大学工学部 安藤和敏
ゴルフ場における バッテリー経費削減提案。
第4回 統計処理(1) 表計算ソフトの基本操作 塩浦 昭義 東北大学全学教育科目 情報基礎 A 1セメスター 木曜1,3講時
知能情報工学演習I 第8回( C言語第2回) 課題の回答
Ibaraki Univ. Dept of Electrical & Electronic Eng.
Ibaraki Univ. Dept of Electrical & Electronic Eng.
第3章 演算装置.
すべてのレポートの提出期限 1月22日 火曜日 これ以降は特殊な理由が無い限り レポートを受け取りません!
計測工学 -誤差、演習問題 計測工学(第6回) 2009年5月26日 Ⅱ限目.
情報電子工学演習Ⅴ(ハードウェア実技演習) PICマイコンによる光学式テルミンの製作
各 階 平 面 図 家 屋 番 号 建 物 図 面 建物の所在 A市B町一丁目30番地
岩村雅一 知能情報工学演習I 第9回(後半第3回) 岩村雅一
計測での注意事項 計測では、重さか厚さのどちらか1つを選択すること。 計測では誤差が生じますが、なるべく誤差が少なくなるように工夫すること。
データの表現 2進数 0と1を使う。 基数(基準になる数)が2. 101(2) かっこで2進数と示すことがある。
基礎プログラミング演習 第6回.
鉄筋コンクリートとは? 鉄筋とコンクリートという異なる2種類の材料が双方の短所を補うことにより,一体となって外力に抵抗するもの.
「計算誤差と有効数字」 情報電子工学演習Ⅰ 工学基礎演習(2) Ⅰ. スケジュールの確認 5/27 概要説明
計測工学 -測定の誤差と精度1- 計測工学 2010年5月10日 Ⅰ限目.
Ibaraki Univ. Dept of Electrical & Electronic Eng.
円 周 率 物 語.
「計算誤差と有効数字」 情報電子工学演習Ⅰ 工学基礎演習(2) Ⅰ. スケジュールの確認 6/3 概要説明
知能情報工学演習I 第8回(後半第2回) 課題の回答
岩村雅一 知能情報工学演習I 第8回(後半第2回) 岩村雅一
岩村雅一 知能情報工学演習I 第8回(C言語第2回) 岩村雅一
プログラミング演習I 数値計算における計算精度と誤差
ハッピー数に関する擬似概念 白柳研究室  渡邉 侑.
情報処理Ⅱ 第2回 2004年10月12日(火).
香川大学創造工学部 富永浩之 情報数学1 第3-3章 多進法での四則演算 香川大学創造工学部 富永浩之
岩村雅一 知能情報工学演習I 第13回(後半第7回) 岩村雅一
Presentation transcript:

「計算誤差と有効数字」 情報電子工学演習Ⅰ 工学基礎演習(2) Ⅰ. スケジュールの確認 5/28 概要説明 情報電子工学演習Ⅰ 工学基礎演習(2) 「計算誤差と有効数字」 Ⅰ. スケジュールの確認 5/28 概要説明 6/4 演 習         [計算機実習室] 6/11 14:40-15:05 助言ルーム[助言グループ別]   15:10~ 考 察  [S2-11] 6/18 レポートチェック    [チェックグループ別]

Ⅱ.概要説明 1.目的  コンピュータにおける数の表現方法と 計算による誤差の発生について学ぶ。

Ⅱ.概要説明 1.目的  コンピュータにおける数の表現方法と 計算による誤差の発生について学ぶ。 ・コンピュータによる数値計算と数学の違い  ⇒ コンピュータは有限の数を使い、   数学は無限の数を使っている 1/3 → 0.33333 333333333……. 小数点以下5桁まで 0.33333×3 = 0.99999 ≠ 1

まずは電卓で… ソニー製 SOBAX ICC-500W 1967年発売 世界初ポータブル電卓(充電池接続) トランジスタ1000個使用 26万(大卒初任給4万) ソニー製 SOBAX ICC-500W  1967年発売 (出典:電卓博物館 http://www.dentaku-museum.com/)

カシオ製 Casio Mini 1972年発売 価格:12,800円 10ケ月で100万台,3年で600万台の売上を記録 価格:12,800円  10ケ月で100万台,3年で600万台の売上を記録 (出典:電卓博物館 http://www.dentaku-museum.com/)

2.電卓ソフトの利用 <特徴> ・7桁までの計算 ・メモリーキー ・平方根計算 ・HSPで開発 「Dentakun 2号」

<メモリーキー> MC(メモリークリア) :メモリー計算結果を消去 MR(メモリーリコール):メモリー計算結果を呼び出し 例1)100×2+50×5の計算

例2)

例2) =0.064283

例2) ー 0.064283

例2) 小数点以下6位まで の7桁の数字 ー 0.064283 小数点以下6位まで の5桁の数字

0.064283 例2) ー 有効数字-測定値や計算値を表すのに信頼できる 意味のある数字 (先頭の0や1を除く) 小数点以下6位まで の7桁の数字 ー 0.064283 小数点以下6位まで の5桁の数字 有効数字-測定値や計算値を表すのに信頼できる      意味のある数字 (先頭の0や1を除く)

0.064283 例2) ー 有効数字-測定値や計算値を表すのに信頼できる 意味のある数字 (先頭の0や1を除く) 小数点以下6位まで の7桁の数字 ー 0.064283 小数点以下6位まで の5桁の数字 有効数字-測定値や計算値を表すのに信頼できる      意味のある数字 (先頭の0や1を除く) 計算によって有効数字の桁が少なくなった      →「桁落ち」の発生

※注意(誤解しやすい点) 7.745966 と 0.064283 は、共に表示桁が7桁で小数点以下6桁 (0.000001精度)で表された数字である。 しかし、 7.745966 は有効数字7桁      0.064283 は有効数字5桁 の数字です。 有効数字-測定値や計算値を表すのに信頼できる      意味のある数字 (先頭の0や1を除く)

※有効数字に関する補足 0.14 と 0.140 の有効数字は、何桁? 0.14 は1桁、0.140 は2桁 0.14 は、0.137や0.142が小数点以下3桁目で 四捨五入され、0.14となった可能性がある。 0.140 は、小数点以下3桁目が0であること を明示している。