ニューラルネットワークの 工学的応用に関する研究 2006年9月 中間報告

Presentation on theme: "ニューラルネットワークの 工学的応用に関する研究 2006年9月 中間報告"— Presentation transcript:

1 ニューラルネットワークの 工学的応用に関する研究 2006年9月 中間報告
ニューラルネットワークの 工学的応用に関する研究 2006年9月　中間報告 06TA537B　菅原和人

2 研究動機 大学時代、卒業論文テーマとして音声信号の線形予測分析についての研究を
していました．この研究に取り組んでいる課程において、ニューラルネットワーク の存在を初めて知ることになりました． 私自身は会社員としてこれまで、工場内で使用する生産設備の設計・開発業務 に従事してきました．働きながら学ぶ社会人学生としては、実務とリンクする研 究内容が望ましいと考えています．そういった観点からは、ニューラルネットワー クを工学的に応用する技術的研究が生産的ではないかと考えました． 現時点での研究テーマはまだマクロ的であるため、今後更に研究をすすめて ターゲットを絞り込んでから修士論文にふさわしい研究テーマへ変更したいと 考えています．

3 ニューラルネットワークについて ニューラルネットワークは、人間の脳機能に見られるいくつかの特性を計算機上
のシミュレーションによって表現することを目指した数学モデルです．生物学や 神経科学との区別のため、人工ニューラルネットワークとも呼ばれています． ニューラルネットワークには、「学習能力」、「非線形性」、「並列処理」といった 特徴があります．このような特徴を生かし、実際人間の脳が行う高度で複雑な 情報処理機能を実現しようという研究が盛んに行われています．

4 ニューラルネットワークの特徴 学習能力 非線形性 並列処理 豊富な事例を学習させることによって従来のコンピュータが不得意な
問題を解決することができます． 非線形性 学習により、定式化が困難な複雑な写像関係でさえ容易に構築 することができます． 並列処理 入力された信号は結合を通して様々なニューロンへと送られ、並列的に 処理されていきます．そのため、高速な処理が可能になります．

5 ニューラルネットワークの応用分野 １ パターン認識 制御 診断 文字認識、音声認識、画像認識
ニューラルネットワークの応用分野　１ パターン認識 文字認識、音声認識、画像認識 制御 アーム制御、最適制御、自律ロボット、ネットワーク制御 診断 故障診断、医療診断、製品検査

6 ニューラルネットワークの応用分野 ２ 予測・予知 最適化 信号処理 電力需要予測、システムの異常検知、株価予測
ニューラルネットワークの応用分野　２ 予測・予知 電力需要予測、システムの異常検知、株価予測 最適化 部品配置、意思決定、投資のポートフォリオ 信号処理 情報圧縮、信号前処理、画像復元

7 ニューラルネットワーク研究の歴史 １ 生物学とニューラルネットの流れ
ニューラルネットワーク研究の歴史　１ 生物学とニューラルネットの流れ 生物学 1943　　ニューロンの最初のモデル化 （マカロック、ピッツ） 1949　　ニューロン間結合の学習方法の提案 （ヘッブ） 1953　　DNA二重らせんモデル提唱 （ワトソン、クリック） 1958 1962　　特徴抽出細胞発見 （ヒューベル、ウィーゼル） 1969 ニューラルネットワーク 最初のニューラルネットワークモデル パーセプトロンの提案（ローゼンブラット） パーセプトロン限界説の指摘 （ミンスキー、パパート）

8 ニューラルネットワーク研究の歴史 ２ 生物学とニューラルネットの流れ
ニューラルネットワーク研究の歴史　２ 生物学とニューラルネットの流れ 生物学 1972 1973　　遺伝子組み替え成功 　（コーエン、ボイヤー） 1975 1982 1983 ニューラルネットワーク 自己組織化ニューラルネットワーク （甘利俊一） 連想記憶モデル　アソシアトロン （コホーネン、中野馨） 生物学に基づく文字認識ニューラルネッ トワーク　コグニトロン（福島邦彦） エネルギー関数を取り入れたポップフィールド ネットの発表（ポップフィールド） ボルツマンマシンの提案 （ヒントン、セノフスキー）

9 ニューラルネットワーク研究の歴史 ３ 生物学とニューラルネットの流れ
ニューラルネットワーク研究の歴史　３ 生物学とニューラルネットの流れ 生物学 1986 1987 ニューラルネットワーク 誤差逆伝播法　バックプロパゲーションの提案 （ラメルハート） 対向伝搬法　カウンタープロパゲーション （ニールセン）

10 代表的なニューラルネットワーク ① ネットワーク名称 応用分野 特徴 ホップフィールドネット アソシアトロン 連想記憶モデル
代表的なニューラルネットワーク　① ネットワーク名称 応用分野 特徴 ホップフィールドネット アソシアトロン 連想記憶モデル VLSI化に向く 双方向連想メモリ（ＢＡＭ） 多方向連想メモリ（MAM） 多くの記憶項目の組み合わせ可能．VLSI化に向いている． 緩和法を用いたBAMとMAM 連想記憶 エピソード記憶 記憶容量が大きく多くの記憶項目の組み合わせが可能．VLSI化に向いている． ボルツマンマシン 組み合わせ最適化問題 パターン認識 平均近似学習マシン （ボルツマンマシンの簡易化） バックプロパゲーション ニューラルネットワークの中で最も代表的なアルゴリズム．

11 代表的なニューラルネットワーク ② ネットワーク名称 応用分野 特徴 RBFネット（放射状基関ネット） パターン認識
代表的なニューラルネットワーク　② ネットワーク名称 応用分野 特徴 RBFネット（放射状基関ネット） パターン認識 学習は早いが、高次の問題には向かない． 自己組織化特徴マップ 入力データのクラスタリング 特徴抽出 生理学的な根拠がある 学習ベクトル量子化 ベクトル量子化 パターン分類に秀でている ファジー・アートマップ 構造が複雑ではあるが、特性は良い． ネオコグニトロン 手書き文字認識 文字の拡大縮小・回転に強い．

12 ニューラルネットワークと融合可能な技術 ファジィ 遺伝的アルゴリズム ノウハウなどの経験的な知識をルールとして記述しやすく、その管理も
比較的容易です．知識（ルール）のみが与えられる場合に有効です． 遺伝的アルゴリズム 多くの組み合わせの中から選択能力に優れています． ニューラルネットワークは数値データを用いた処理に強く、ファジィは言葉で表す ルールの処理に強い、遺伝的アルゴリズムは多くの組み合わせの中からの選 択能力に優れている、などの特徴があります．融合化の目的は、利点はそのま まにして、欠点を小さくすることです．それぞれの長所が効果的に結びつくように 融合化を検討する必要性があります．

13 ニューラルネットワーク研究の３つのレベル ① 脳・神経系の情報処理を調べる実験的研究 ② 情報処理の基本原理を抽出する理論的研究
①　脳・神経系の情報処理を調べる実験的研究 生理学・医学的でかつ基礎的なもので、治療などの医学的な応用もあります． ②　情報処理の基本原理を抽出する理論的研究 理論的研究が主であり数学や物理学、情報工学など、多くの分野 からのアプローチが行われています． ③　基本原理を工学的に実現する技術的研究 実際の製品作りに役立てようとする応用指向の研究です． 今回の研究テーマとしては、③にあるニューラルネットワークを工学的に応用 した技術的研究をしようと考えています．

14 ニューラルネットワーク研究のテーマ選定 生産設備制御への応用に関する研究 将棋への応用
実際の業務に関連する内容であるため最も望ましいテーマですが、コストと 研究場所の確保、時間的な問題等があり、企業側からの協力が必要となり ます．現段階での実現性はきわめて低い状況です． 将棋への応用 最近はあまりやってませんが、趣味でよく将棋を指します．コスト的な面では ＰＣとソフトがあれば研究が可能であり、研究場所も自宅でできるため、 かなり現実的なテーマだと考えています． 現段階では、上記２つのうちのいずれかをテーマに選定したいと考えて います．

15 ここまでのまとめ 研究動機 ニューラルネットワークについての概要 ニューラルネットワークの特徴 ニューラルネットワークの応用分野
ニューラルネットワーク研究の歴史 代表的なニューラルネットワーク ニューラルネットワーク研究の３つのレベル ニューラルネットワーク研究のテーマ選定

16 参考文献 1. ニューロ・ファジィ・遺伝的アルゴリズム 産業図書 萩原将文著 1994
1.　ニューロ・ファジィ・遺伝的アルゴリズム　産業図書　萩原将文著　1994 2.　NEWROSIM/Lによるニューラルネットワーク 　　日刊工業新聞社　田辺和俊著　2003 3.　学習とニューラルネットワーク　森北出版　熊沢逸夫著　1998 4.　CAIディジタル信号処理　コロナ社　小畑秀文・幹　康共著　1998 5.　 6.