Introduction to Neural Networks

Presentation on theme: "Introduction to Neural Networks"— Presentation transcript:

1 Introduction to Neural Networks
適応システム理論 ガイダンス Introduction to Neural Networks Kenji Nakayama Kanazawa University, JAPAN

2 PPTファイルの入手方法 http://leo. ec. t. kanazawa-u. ac
PPTファイルの入手方法 Education 授業科目　Lecture Subjects 適応システム理論 平成２０年度　ガイダンスPPTファイル

3 Neural Networks Network Structures Multi-layer Network
　Recurrent Network Learning Algorithms 　Supervised Learning 　Unsupervised Learning Functions 　Pattern Mapping and Classification 　Estimation and Prediction 　Associative Memory 　Optimization and Minimization

4 Multi-Layer Neural Networks

5 Artificial Neuron Model

6 Activation (Nonlinear) Function of Neuron
Active Inactive Space Separation

7 Pattern Classification by Single Neuron

8 Linearly Inseparable Problem

9 Two Layer Neural Network

10 Pattern Classification by Two-Layer NN - Region Separation by Hidden Units-

11 Pattern Classification by Two-Layer NN - Class Separation by Output Unit -

12 Learning of Connection Weights in Single-Layer NN
Gradient Method is minimized

13 Learning of Connection Weights in Multi-Layer NN - Error Back Propagation Algorithm -
Gradient Method Chain Rule in Derivative

14 Learning Process (Initial State)
u=0

15 Learning Process (Middle State)
u=0

16 Learning Process (Middle State)
u=0

17 Learning Process (Convergence)
u=0

18 Training and Testing for Pattern Classification

19 Prediction of Fog Occurrence
Application 1 Prediction of Fog Occurrence

20 Number of Fog Occurrence
Fog is observed every 30 minutes

21 Neural Network for Prediction

22 Weather Data ･Temperature ･Atmospheric Pressure ･Humidity
･Force of Wind ･Direction of Wind ･Cloud Condition ･Past Fog Occurrence 　･････ 20 kinds of weather data are used

23 Connection Weights from Input to Hidden Unit

24 Connection Weights from Hidden to Output
Fog will occur Fog won’t occur

25 FFT of Connection Weights Used for Predicting Fog
Input→Hidden Unit #6 Input→Hidden Unit #10

26 FFT of Connection Weights for Predicting No Fog
Input→Hidden Unit #3 Input→Hidden Unit #14

27 Prediction Accuracy of Fog and No Fog

28 Nonlinear Time Series Prediction
Application 2 Nonlinear Time Series Prediction

29 Examples of Nonlinear Time Series
Sunspot Lake Level Chaotic Series

30 Nonlinear Predictor Combining NN and Linear Filter

31 Prediction Accuracy by Several Methods

32 Prediction of Machine Deformation
Application 3 Prediction of Machine Deformation

33 Numerically Controlled Cutting Machine
Cutting Tool Objective

34 Deformation of Cutting by Temperature Change

35 Machine Temperature Change in Time

36 Deviation of Cutting by Temperature Change
Tolerance

37 Mean Squared Error Reduction by Learning NN

38 Prediction of Deformation Using NN
Tolerance

39 応用４ ニューラルネットワークによる タンパク質二次構造予測
応用４ ニューラルネットワークによる タンパク質二次構造予測

40 タンパク質はアミノ酸配列が立体的に 折り畳まれることによって生じる 立体構造がタンパク質の機能性を決定
ＩＪＣＮＮ‘２００２ Ｒ．Ｐｏｌｌｏｃｋ，Ｔ．Ｌａｎｅ，Ｍ．Ｗａｔｔｓ 立体構造の中に部分的に存在する規則構造 タンパク質二次構造 タンパク質二次構造予測は タンパク質構造解析において非常に有用

41 データの操作 ・１個のアミノ酸の二次構造を予測するため 前後４個（計９個）のアミノ酸の情報を使用 ・１個のアミノ酸に２２個の入力ユニット
　前後４個（計９個）のアミノ酸の情報を使用 ・１個のアミノ酸に２２個の入力ユニット 　（各アミノ酸種２０個、スペーサ１個、不変重み１個） ・入力ユニット２２＊９個、出力ユニット３個

42 従来法との比較 ７０

43 応用５ ニューラルネットワークによる ブレイン・コンピュータ・インターフェイス
応用５ ニューラルネットワークによる ブレイン・コンピュータ・インターフェイス

44 ブレイン・コンピュータ・インタフェイスとは
人間とコンピュータのインタフェースとして、現在、さまざまなものが使用されている 近年、脳波を解析して行う手法に注目 （ブレイン・コンピュータ・インタフェース：ＢＣＩ） 重度の運動障害を抱える患者が機器を操作するのを助ける、といった応用が期待されている

45 ＢＣＩの処理の流れ ユーザがやりたいことを想像し、そのときの脳波を測定する ・メンタルタスク（想像する課題）を使用
脳波を解析し、ユーザの意図を推定する 推定結果に基づいて、機器を操作する ○○ したい 対応する タスクを 想像 脳波 特徴量 特徴抽出 脳波の測定 タスク 特徴分類 分類器 機器の操作 脳波の測定 特徴抽出 特徴分類 機器の操作

46 ＢＣＩの方式 特徴量 　・ 周波数スペクトル 　・ ＡＲ係数 分類方法 　・ ニューラルネットワーク 　・ 隠れマルコフモデル 　・ 線形分類

47 本研究で用いた手法 特徴量 　フーリエ変換の振幅 分類方法 　ニューラルネットワーク 脳波データ 　コロラド州立大学が公開しているデータ

48 メンタルタスク ５種類のメンタルタスク： Ｂ ： できるだけリラックス Ｍ： 掛け算を暗算で行う（49×78など） Ｌ ： 手紙の文を考える
　５種類のメンタルタスク： Ｂ ： できるだけリラックス Ｍ： 掛け算を暗算で行う（49×78など） Ｌ ： 手紙の文を考える Ｒ ： 回転する3次元物体を想像する Ｃ ： 数字を順番に書くことを想像する

49 脳波の測定 脳波を測定する電極の数は、７個 C3, C4, P3, P4, O1, O2, EOG（まばたき検出）
１回の測定は、 10 秒間 250Hzで、サンプリング →１チャネルあたり、2500サンプル

50 脳波のサンプル 250 Hz × 10 秒 ＝ 2500 サンプル C3 C4 P3 P4 O1 O2 EOG １チャネル分の脳波データ
このような波形が、７チャネル分ある

51 特徴抽出 セグメント分割 フーリエ変換の振幅 サンプル数の低減 データの非線形正規化 セグメント 分割 フーリエ 変換振幅 サンプル 平均化
脳波 入力 データ

52 セグメント分割 セグメントごとに フーリエ変換 10 秒のデータを 0.5 秒のセグメントに分割
0.25 秒ごとに、分類結果を出す（上の↓） 0.5 秒 0.5 秒 0.5 秒 0.5 秒 ・・・ セグメントごとに フーリエ変換 ・・・

53 フーリエ変換の振幅 サンプル数１２５

54 サンプル数の低減 連続する複数サンプルで 平均することにより、サンプル数を低減 サンプル数１２５ サンプル数２０

55 データの非線形正規化 データの分布を広げるために正規化を行う

56 ７チャネル分並べたものが、入力データとなる（10×7=70サンプル）
データの非線形正規化 振幅は、対称なので半分だけ用いる 正規化 ７チャネル分並べたものが、入力データとなる（10×7=70サンプル）

57 ニューラルネットワークによる分類 隠れ層１層の２層形ネットワーク 学習：バックプロパゲーション 活性化関数：シグモイド関数
出力ユニット： ５種類のタスクに対応して、５個用いる 学習の際の目標出力は、 　１：該当するタスクに対応する出力ユニット 　０：その他の出力ユニット

58 ニューラルネットワークによる分類 最も大きな値を持つ出力ユニットに対応するタスクを分類結果とする
出力が全体的に小さい値のときは、 リジェクト（判定不能）とする ・・ 1 2 3 4 5 ・・ 1 2 3 4 5 0.3 0.9 0.1 0.0 0.2 0.1 0.2 0.0 分類結果は、タスク２ リジェクト（判定不能）

59 シミュレーション ５種類のメンタルタスクに対して、 １０回ずつ測定を行ったので、合計５０個のデータセットがある
このうち、４０個を学習に、残りの１０個を テストに用いる テストに用いるデータを変えて、５回シミュレーションを行い、その平均値で、結果を評価する

60 シミュレーション ２人の被験者の脳波を用いて、それぞれ シミュレーションを行った 隠れ層のユニット数： 20 学習係数： 0.2
隠れ層のユニット数：　20 学習係数：　0.2 結合重みの初期値：　±0.2の範囲でランダム 学習回数：　5000 リジェクトのための閾値：　0.8

61 学習・テストデータに対する正答率 被験者１ 被験者２

62 被験者１・２の正答率と誤答率 学習データ テストデータ 被験者 正 誤 比 １ 99.7 0.1 0.99 79.7 10.5 0.88 ２ 95.5 0.8 45.5 33.7 0.57

63 被験者１の テストデータに対する正答・誤答表
B M L R C リジェクト 正答率 誤答率 326 11 12 2 39 83.6 6.4 18 328 8 9 27 84.1 9.0 23 258 14 34 59 66.2 18.7 1 26 4 31 8.5 33 7.4 B:リラックス　M:掛け算　L:手紙の文　R:回転する物体　C:数字を書く

64 被験者２の テストデータに対する正答・誤答表
B M L R C リジェクト 正答率 誤答率 217 40 29 14 8 82 55.6 23.3 65 106 31 44 45 99 27.2 47.4 48 23 223 16 49 57.2 30.3 155 83 39.7 39.0 21 10 205 62 52.6 31.5 B:リラックス　M:掛け算　L:手紙の文　R:回転する物体　C:数字を書く

65 脳磁計を用いたBCI

66 ＭＥＧ（Magnetoencephalograph）
脳の電気的な活動に伴って生じる磁場（脳磁）をSQUID（超伝導量子干渉素子）を用いて検出 仰臥して計測→被験者の負担が小さい 空間解像度が高い（mm～） 時間解像度が高い（ms～） ＭＥＧとは脳の電気的な活動に伴って生じる磁場（脳磁）をSQUIDという特殊なセンサを用いて観測するものである 今回の脳磁計測システムは仰臥して計測することが可能であり、被験者の負担を極力抑えることができる また、従来からＢＣＩでよく用いられてきた脳波（ＥＥＧ）に比べ、空間解像度が高く（ｍｍ～）、脳内の限局的な活動を推定することができる 時間解像度も脳内の活動を観察するという意味で、医療機関などで用いられるＭＲＩやＣＴなどよりも高い性能を有する

67 センサと頭部の対応付け 脳磁計のマーカ測定とMRI画像との位置合わせにより，チャネル位置を推定
ＭＥＧのマーカ測定とＭＲＩ画との位置合わせにより、頭部とセンサ位置の対応付けをとる これにより頭部のどの部分にセンサが位置しているかおおまかにわかる

68 チャネル選択 前頭葉・頭頂葉・側頭頂・後頭葉から2chずつ，合計8ch選択
各部位とセンサ位置の対応付けを決定し，各部位の中心・両半球のセンサを選択 具体的なチャネルの選択法について 大脳生理学的に大脳皮質の各部位を4つに分け、それぞれの部位から2チャネルずつ、合計8チャネル選択 前述のＭＲＩ画像との位置あわせから各部位との対応付けを決定し、経験的にチャネル選択 タスクによって活発に活動が計測される部位もあれば、ほとんど活動していない部位もあると考えられる そこで脳の各部位から代表して２ｃｈずつ選択することで全てのメンタルタスクをカバーする 初期状態として各部位（前頭葉・頭頂葉・側頭葉・後頭葉）の中心、左右両半球の対称位置にチャネルを選択する

69 メンタルタスク 4種類のメンタルタスクを用いる Baseline：何も考えずリラックス
Multiplication：3桁×１桁の暗算（例：456×8） Sports：体を動かす様を想像 Rotation：回転する3次元物体を想像 　　　　　　　（物体の形状は被験者に任意） 今回提案するメンタルタスクは以下の4種類とする まずは何も考えず安静閉眼状態 暗算課題を行っているとき 被験者が体を動かしている様をイメージしているとき 最後に被験者に具体的な3次元物体をイメージしてもらい、その物体が回転している様子をイメージする これらのメンタルタスクを選んだ理由として、できるだけ各タスクでイメージしていることがかぶらないようにタスクを選択した 例えば掛け算と体の動きのイメージでは脳の活発に働く部位が違うのではないかと考えられる

70 脳磁波形（時系列波形） 被験者1　リラックス　trial1 時系列波形8チャネル分 →等磁場線図

71 チャネル位置の最適化 初期状態 最適化後

72 性能評価 5種類の特徴分類の平均値で正答率を評価 脳磁データ 4メンタルタスク×10 trial 学習データ ↓ 32セット 40セット
ニューラルネットワークによる特徴分類の性能評価について説明する 今回は脳磁データを4つのメンタルタスクについて10 trial測定したので、合計で40セットのデータセットがある このうち学習に32セット、テストに8セットのデータを用いて特徴分類を行う この学習：テストのデータセットの組み合わせを5種類用意する これは1種類の学習：テストだけでは偶然そのデータセットのときに良好な分類性能が得られたかもしれず、複数の組み合わせを試す ことで、ある程度信頼のおける分類結果を得ることができる テストデータ 8セット 5種類の特徴分類の平均値で正答率を評価

73 各被験者の分類性能 分類性能/被験者 被験者1 被験者2 被験者3 初期状態 [%] 90.0/10.0 82.5/17.5
正答率/誤答率 分類性能/被験者 被験者1 被験者2 被験者3 初期状態　[%] 90.0/10.0 82.5/17.5 57.5/42.5 最適化後　[%] 97.5/2.5 85.0/15.0 72.5/27.5

74 Recurrent Neural Networks

75 Recurrent Neural Network

76 Hopfield Neural Network
･Symmetrical Connections ･No Self-loop ･One neuron randomly selected is updated. ･The energy function always decrease 　or stay at the same value. ･Memory Capacity is about 15% of Neurons

77 Associative Memory (1) 4x4=16 Neuron RNN
6 Random Patterns {pi} are Stored Connection Weights ★Demonstration 　Association from another random patterns

78 Traveling Salesman Problem
Active Neuron Inactive Neuron (5×5 Neurons)

79 Associative Memory (2) ･Error Correction Learning with Hysteresis
･Adaptive Hysteresis Threshold for Association ･51 Alphabet Letters and 10 Digits are Stored in 16x16=256 Neuron RNN. 25% of Neurons

80 Association of ‘M’ from Its Noisy Pattern

81 Association of ‘M’ from Its Right Half Pattern

82 Association of ‘M’ from Its Upper Half Pattern

83 Competitive Learning

84 Lateral Inhibition Model

85 END OF THIS LECTURE THANK YOU