Download presentation
1
名古屋大学工学部電気電子・情報工学科電気電子工学コース
確率論・数値解析及び演習 ─ 数値解析 ─ (補足資料)
2
符号なし整数表現 符号付き整数表現 unsigned char 1バイト = 8ビット (8桁の0,1の並び)
unsigned short 2バイト = 16ビット (16桁の〃) unsigned int バイト = 32ビット (32桁の〃) unsigned long バイト = 64ビット (64桁の〃) 符号付き整数表現 char バイト = 8ビット (8桁の0,1の並び) short 2バイト = 16ビット (16桁の〃) int バイト = 32ビット (32桁の〃) long バイト = 64ビット (64桁の〃)
3
２の補数表現の例 (4ビットの場合) 0 : 0000 1 : 0001 2 : 0010 3 : 0011 4 : 0100
-8～7 の2の補数表現 負の数の「2 の補数」は その絶対値の二進数 の 0 と1 を反転させて 1 を加えたものである 0 : 0000 1 : 0001 2 : 0010 3 : 0011 4 : 0100 5 : 0101 6 : 0110 7 : 0111 −1 : 1111 −2 : 1110 −3 : 1101 −4 : 1100 −5 : 1011 −6 : 1010 −7 : 1001 −8 : 1000 ＜-3 の2の補数の求め方＞ 0011 (3の二進数) ↓ 0,1反転 1100 ↓ 1を足す 1101 (-3の2の補数)
4
浮動小数点表現 0 00100…0 01001000000000000…00 符号部 1ビット 仮数部 指数部 float: 8ビット
double バイト = 64ビット (64桁の0,1の並び) 符号部 1ビット … …00 指数部 float: 8ビット double: 11ビット 仮数部 float: 23ビット double: 52ビット
5
浮動小数点表現の例 (float型の場合)
符号部 1ビット (＋は0, －は1で表現) 仮数部 23ビット 指数部 8ビット (-127～128 の範囲を表現できるが， 実際は127 (ゲタ) が足されて 0～255 で表わされている)
6
浮動小数点表現の例 (float型の場合)
符号部 1ビット (＋は0, －は1で表現) 仮数部 23ビット 指数部 8ビット (-127～128 の範囲を表現できるが， 実際は127 (ゲタ) が足されて 0～255 で表わされている) ：指数部が全て0の場合は非正規化数，零を表すので正規化数の表現に使えない ：指数部がすべて1の場合は無限大，非数を表すので正規化数の表現に使えない 絶対値が最小の場合， 指数部，仮数部：00…01, 00…00 絶対値が最大の場合， 指数部，仮数部：11….10, 11…11
7
浮動小数点表現の例 (double型の場合)
符号部 1ビット (＋は0, －は1で表現) … …00 仮数部 52ビット 指数部 11ビット (-1023～1024の範囲を表現できるが 実際は1023 (ゲタ) が足されて 0～2047 で表わされている)
8
浮動小数点表現の例 (double型の場合)
符号部 1ビット (＋は0, －は1で表現) … …00 仮数部 52ビット 指数部 11ビット (-1023～1024の範囲を表現できるが 実際は1023 (ゲタ) が足されて 0～2047 で表わされている) ：指数部が全て0の場合は非正規化数，零を表すので正規化数の表現に使えない ：指数部がすべて1の場合は無限大，非数を表すので正規化数の表現に使えない 絶対値が最小の場合， 指数部：00…01, 00…00 絶対値が最大の場合， 指数部：11….10, 11…11
9
浮動小数点表現 (float 型) の例 指数部 ゲタ
10
浮動小数点表現 (float 型) の例 指数部 ゲタ
11
浮動小数点表現 (float 型) の例 指数部 ゲタ
12
-32768を浮動小数点 float型 (4バイト)で表現
同じ-32768を整数 int型 (4バイト)で表現 同じ数字を同じバイト数 (桁数)で表現しても 型によって0,1の並びが異なる.
