先進的データ分析法2017 - Advanced Data Analysis 2107 - 東京工科大学大学院 バイオニクス・情報メディア学専攻科 担当： 亀田 弘之
先週の復習 データ分析に挑戦！ (先週のパワポの残りの説明から始めます。) 東京工科大学 コンピュータサイエンス学部 2017
練習問題（１） 次のことを真似してやってください。 （Rの基本的な使い方の練習） キーボードからの読み込み Clipboardからの読み込み ファイルからの読み込み 平均を求める(mean関数) ヒストグラム作成（hist関数） 箱ひげ図作成(boxplot関数) 東京工科大学 コンピュータサイエンス学部 2017
練習問題（２） 陸上競技データ ファイル（csv形式）の読み込み データの構造確認（str） 数値要約の表示（summary） 練習問題（２） 陸上競技データ ファイル（csv形式）の読み込み データの構造確認（str） 数値要約の表示（summary） 散布図作成（開催年と記録の関係） ヒストグラム作成 東京工科大学 コンピュータサイエンス学部 2017
復習問題 新生児の体重データに対して、以下の操作をしなさい。 数値要約（summary）を求める。 ヒストグラムを作成する。 平均、最小値、最大値、中央値(Q2)、第１四分位数（Q1）、第３四分位数（Q3） ヒストグラムを作成する。 箱ひげ図を作成する。 東京工科大学 コンピュータサイエンス学部 2017
ＤＭ Methodology (注) DM: Data Mining (データマイニング) Methodology: 方法論 東京工科大学 コンピュータサイエンス学部 2017
ＤＭ Methodology Exploratory data analysis （探索的データ解析） Computational data mining （計算論的データマイニング） Statistical data mining （統計的データマイニング） 東京工科大学 コンピュータサイエンス学部 2017
ＤＭ Methodology Exploratory data analysis （探索的データ解析） Computational data mining （計算論的データマイニング） Statistical data mining （統計的データマイニング） 東京工科大学 コンピュータサイエンス学部 2017
１．Exploratory data analysis 統計的データ解析(SDA) 探索的データ解析(EDA) 東京工科大学 コンピュータサイエンス学部 2017
統計的データ解析(EDAの基礎) 視覚的分析 数値的分析 表： 度数分布表(frequency table) 図： ヒストグラム(histogram) 数値的分析 代表値： 平均 (mean) 中央値 (median) モード (mode,最頻値） ばらつき度：分散(variance) 平均偏差(mean deviation; MD) 標準偏差(standard deviation) 範囲(range = 最大値ー最小値) その他 四分位数(quartile,第一・二・三） 外れ値 東京工科大学 コンピュータサイエンス学部 2017
統計的データ解析(EDAの基礎) 視覚的分析 数値的分析 表： 度数分布表(frequency table) 図： ヒストグラム(histogram) 数値的分析 代表値： 平均 (mean) 中央値 (median) モード (mode,最頻値） ばらつき度：分散(variance) 平均偏差(mean deviation; MD) 標準偏差(standard deviation) 範囲(range = 最大値ー最小値) その他 四分位数(quartile,第一・二・三） 外れ値（outlier） 東京工科大学 コンピュータサイエンス学部 2017
探索的データ解析(EDA) 幹葉表示(stem-and-leaf display) 要約値(letter value display) 箱ヒゲ図(box-whisker plots) Ｘ－Ｙ表示(X-Y plotting) 抵抗性のある直線回帰(registant line) 中央値分散分析(median polish) 時系列データのならし(smoothing) 東京工科大学 コンピュータサイエンス学部 2017
探索的データ解析(EDA) 幹葉表示(stem-and-leaf display) ヒストグラムに代わる手法 要約値(letter value display) 平均値・標準偏差に代わるもの 箱ヒゲ図(box-whisker plots) 分布の形と外れ値の図的表示 東京工科大学 コンピュータサイエンス学部 2017
ＤＭ Methodology Exploratory data analysis （探索的データ解析） Computational data mining （計算論的データマイニング） Statistical data mining （統計的データマイニング） 東京工科大学 コンピュータサイエンス学部 2017
３．Statistical data mining Statistic models（統計モデル） Statistic inference（統計的推論） Non-parametric model General linear model Log-linear model Graphical model etc. 東京工科大学 コンピュータサイエンス学部 2017
ＤＭ Methodology Exploratory data analysis （探索的データ解析） Computational data mining （計算論的データマイニング） Statistical data mining （統計的データマイニング） 東京工科大学 コンピュータサイエンス学部 2017
２．Computational data mining Cluster analysis（クラスター分析） Tree models（木モデル） Linear regression（線形回帰） Logistic regression（ロジスティック回帰） Neural networks（ニューラルネットワーク） ILP(Inductive Logic Programming; 帰納論理プログラミング） SVM(support vector machines) etc. 東京工科大学 コンピュータサイエンス学部 2017
２．Computational data mining Tree models（木モデル） Cluster analysis（クラスター分析） Linear regression（線形回帰） Logistic regression（ロジスティック回帰） Neural networks（ニューラルネットワーク） ILP(Inductive Logic Programming; 帰納論理プログラミング） etc. 東京工科大学 コンピュータサイエンス学部 2017
a．クラスター分析 Hierarchical methods（階層型法） Non-hierarchical methods（非階層型法） 東京工科大学 コンピュータサイエンス学部 2017
a．クラスター分析（２） 基本的考え方： 近いデータをかき集めてグループを作る。 近いグループ同士をかき集めて新たなグループを作る。 これの繰り返し。 東京工科大学 コンピュータサイエンス学部 2017
クラスター分析（例） 東京工科大学 コンピュータサイエンス学部 2017
クラスター分析（例） 東京工科大学 コンピュータサイエンス学部 2017
クラスター分析（例） 東京工科大学 コンピュータサイエンス学部 2017
クラスター分析（例） 東京工科大学 コンピュータサイエンス学部 2017
クラスター分析（例） 東京工科大学 コンピュータサイエンス学部 2017
クラスター分析（２） 基本的考え方： 近いデータをかき集めてグループを作る。 近いグループ同士をかき集めて新たなグループを作る。 近い ＝＞ 距離(distance)が主要な役割を果たす 東京工科大学 コンピュータサイエンス学部 2017
距離って何だっけ？ 東京工科大学 コンピュータサイエンス学部 2017
距離(distance) 空間Ｓの任意の２点x,yの間に、１つの実数d(x,y)が定義されていて、これが次の４つの条件を満たしているとき、d(x,y)を２点x,y間の距離という。 東京工科大学 コンピュータサイエンス学部 2017
東京工科大学 コンピュータサイエンス学部 2017
２点間の距離 空間Ｓ x ２点間の距離d(x,y) y 東京工科大学 コンピュータサイエンス学部 2017
２グループ間の距離は？ 東京工科大学 コンピュータサイエンス学部 2017
２グループ間の距離は？ グループA グループＢ 東京工科大学 コンピュータサイエンス学部 2017
２グループ間の距離 グループA グループＢ 距離d(A,B) 東京工科大学 コンピュータサイエンス学部 2017
２グループ間の距離 グループA 平均値・中央値 グループＢ 距離d(A,B) 東京工科大学 コンピュータサイエンス学部 2017
２グループ間の距離 代表値間の距離 グループA 平均値・中央値 グループＢ 距離d(A,B) 東京工科大学 コンピュータサイエンス学部 2017
クラスター分析法の種類 最短距離法 最長距離法 群平均法 重心法 ウォード法 東京工科大学 コンピュータサイエンス学部 2017
いろいろな距離（関数） 東京工科大学 コンピュータサイエンス学部 2017
いろいろな距離（関数）（２） Euclidean distance（ユークリッド距離） Mahalanobis disntance（マハラノビス距離） Edit distance（エディト距離） etc. 東京工科大学 コンピュータサイエンス学部 2017
b．木モデル 決定木(decision tree) 東京工科大学 コンピュータサイエンス学部 2017
次回の予定 ここまでの総復習 決定木(decision tree)の話 決定木作成・解釈の演習 （特に予習は必要ありません。） （特に予習は必要ありません。） 東京工科大学 コンピュータサイエンス学部 2017
決定木の用途 分類問題 診断問題 予測問題 制御問題 パターン認識問題 etc. 東京工科大学 コンピュータサイエンス学部 2017
その前に、ちょっと確認 東京工科大学 コンピュータサイエンス学部 2017
木とは？ 東京工科大学 コンピュータサイエンス学部 2017
東京工科大学 コンピュータサイエンス学部 2017
東京工科大学 コンピュータサイエンス学部 2017
東京工科大学 コンピュータサイエンス学部 2017
これらをひっくり返すると… 東京工科大学 コンピュータサイエンス学部 2017
東京工科大学 コンピュータサイエンス学部 2017
これらを抽象化すると… 東京工科大学 コンピュータサイエンス学部 2017
木とは 東京工科大学 コンピュータサイエンス学部 2017
木とは（２） 枝(branch) 東京工科大学 コンピュータサイエンス学部 2017
木とは 根(root) 節(node) 東京工科大学 コンピュータサイエンス学部 2017
木とは 根(root) 葉(leaf) 節(node) 東京工科大学 コンピュータサイエンス学部 2017
決定木の例(その１) クレジット利用者 1000人 適切利用者 700人 負債あり 500人 負債なし 200人 不適切利用者 300人 ブラックリスト者 10人 非ブラックリスト者 290人 利用状況 負債状況 履歴状況 東京工科大学 コンピュータサイエンス学部 2017
決定木作成のための生データ 東京工科大学 コンピュータサイエンス学部 2017
決定木の例(その２) あり 白 なし 白黒 赤 大 中 小 サイレン 車体の色 車体の大きさ 大型トラック 普通自動車 消防車 パトカー 救急車 軽自動車 なし 白黒 赤 大 中 小 東京工科大学 コンピュータサイエンス学部 2017
決定木の作成（学習） 決定木の作成 大量の例 決定木 東京工科大学 コンピュータサイエンス学部 2017
決定木の作成（学習） 決定木の作成 大量の例 決定木 分類問題の解 東京工科大学 コンピュータサイエンス学部 2017
予習 決定木について調べてきなさい 情報エントロピーについて調べてきなさい。 東京工科大学 コンピュータサイエンス学部 2017