並列分散遺伝的アルゴリズムの有効 性 学績番号 36980705 畠中 一幸 知的システムデザイン研究室 Intelligent Systems Design Laboratory.

Slides:



Advertisements
Similar presentations
多目的GAに対する パレート最適個体の分布制御 九州大学大学院工学府知能機械システム専攻徳井 宏司.
Advertisements

情報基盤アルゴリズムとして のメタヒューリスティクスの 研究 茨木俊秀、巳波弘佳、藤原洋志、 千葉英史、関口良行(関西学院大 学)、 藤重悟(京都大学)、 柳浦睦憲(名古屋大学)、 野々部宏司(法政大学)、 梅谷俊治(電気通信大学)
シミュレーション論Ⅰ 第 12 回 様々なシミュレーション手法. 第11回のレポート回答例 (例) 講義に出席するかどうかのシミュレーション ・セルオートマトン法を用いて、ある講義の出席人数をシ ミュレーションする ・各セルを受講者とし、隣接するセルを各自の友人と考え、 「自分の友人のうち半数がサボったら自分も講義を休む」
三木 光範 (同志社大学工学部) 廣安 知之 (同志社大学工学部) 花田 良子 (同志社大学工学部学部 生) 水田 伯典 (同志社大学大学院) ジョブショップスケジューリング問 題への 分散遺伝的アルゴリズムの適用 Distributed Genetic Algorithm for Job-shop.
MicroAVS 超入門 赤塚浩太. MicroAVS とは Visualization Tool Excel Java 膨大,高度なデータ処理が困難 高度なプログラミング能力必要 誰でも簡単に可視化できるツールの必要性 Micro AVS.
福岡工業大学 情報工学部 情報工学科 種田研究室 情報工学科 種田研究室 樽美 澄香 [C8] 対話型遺伝的アルゴリズム( IGA )による 色弱者向けの Web ページ配色最適化システム 2009 年 2 月 20 日.
世帯マイクロデータの適合度評価における 重みの決定手法
遺伝的アルゴリズムにおける ランドスケープによる問題のクラス分類
リフレッシュ型分散遺伝的アルゴリズムの 組み合わせ最適化問題への適用
グローバルコンピューティング環境における遺伝的アルゴリズムの検討
超並列計算研究会 PCクラスタにおける ベンチマークと並列ツールの紹介 廣安 知之 三木 光範 大向 一輝 吉田 純一.
遺伝的アルゴリズム  新川 大貴.
対話型遺伝的アルゴリズムを用いた室内レイアウトシステムの開発
研究集会 「超大規模行列の数理的諸問題とその高速解法」 2007 年 3 月 7 日 完全パイプライン化シフト QR 法による 実対称三重対角行列の 固有値並列計算 宮田 考史  山本 有作  張 紹良   名古屋大学 大学院工学研究科 計算理工学専攻.
遺伝的アルゴリズム概説 An Outline of Parallel Distributed Genetic Algorithms
PCクラスタにおける2個体分散遺伝的アルゴリズムの高速化
谷村 勇輔 (同志社大学大学院) 廣安 知之 (同志社大学) 三木 光範 (同志社大学) 青井 桂子 (同志社大学大学院)
遺伝的アルゴリズムによる離散最適化とその応用に関する研究
モード付き並列機械における オンラインスケジューリング
遺伝アルゴリズムによる NQueen解法 ~遺伝補修飾を用いた解探索の性能評価~
分散遺伝的アルゴリズムによる各種クラスタのベンチマーク
対話型遺伝的アルゴリズムにおける ユーザ負担軽減と多様性維持の検討
各種PC クラスタの性能評価 同志社大学 工学部 廣安 知之 三木 光範 谷村 勇輔.
分散確率モデル遺伝的アルゴリズムにおける解探索メカニズムの検討
マイクロシミュレーションにおける 可変属性セル問題と解法
制約条件の確率的選択に基づく 資源追加削減法の改良 三木 光範(同志社大工) 廣安 知之(同志社大工) ○小林 繁(同志社大院)
情報工学科 05A2301 樽美 澄香 (Tarumi Sumika)
Doshisha Univ., Kyoto Japan
ネットワーク性能に合わせた 分散遺伝的アルゴリズムにおける 最適な移住についての検討
MPIによる行列積計算 情報論理工学研究室 渡邉伊織 情報論理工学研究室 渡邉伊織です。
京都大学大学院医学研究科 画像応用治療学・放射線腫瘍学 石原 佳知
EMO分野における最近の動向 立命館大学 情報理工学部 知能情報学科 渡邉 真也
並列計算技術によるタンパク質の構造解析 IBM RS/6000SPを用いた研究 同志社大学大学院 小掠真貴 同志社大学工学部 廣安知之
MPIを用いた並列処理 ~GAによるTSPの解法~
遺伝的アルゴリズムへの 統計力学的アプローチ 大阪大学 大学院理学研究科 鈴木譲 CISJ2005 於早稲田大学理工学部
正規分布における ベーテ近似の解析解と数値解 東京工業大学総合理工学研究科 知能システム科学専攻 渡辺研究室    西山 悠, 渡辺澄夫.
米山研究室紹介 -システム制御工学研究室-
多目的最適化の進化的計算手法によるアプローチ
モデルの逆解析 明治大学 理工学部 応用化学科 データ化学工学研究室 金子 弘昌.
遺伝的アルゴリズムを用いた 構造物の最適形状探索の プログラムの作成
進化的計算手法の並列計算機への実装 三木 光範
遺伝的交叉を用いた 並列シミュレーテッドアニーリング 同志社大学工学部/大学院 廣安知之,三木光範,○小掠真貴
連続領域におけるファジィ制約充足問題の 反復改善アルゴリズムによる解法 Solving by heuristic repair Algorithm of the Fuzzy Constraint Satisfaction Problems with Continuous Domains 北海道大学.
Genetic Algorithm-based Partial Least Squares GAPLS Genetic Algorithm-based Support Vector Regression GASVR 明治大学 理工学部 応用化学科 データ化学工学研究室 金子 弘昌.
適応的近傍を持つ シミュレーテッドアニーリングの性能
知識科学研究科 知識システム構築論講座 林研究室 佛明 智
情報論理工学 研究室 研究テーマ 並列アルゴリズム.
第4章 識別部の設計 4-5 識別部の最適化 発表日:2003年5月16日 発表者:時田 陽一
ベイズ最適化 Bayesian Optimization BO
Data Clustering: A Review
Introduction to Soft Computing
Data Clustering: A Review
Q3 On the value of user preferences in search-based software engineering: a case study in software product lines Abdel Salam Sayyad (West Virginia University,
遺伝的交叉を用いた 並列シミュレーテッドアニーリングによる タンパク質立体構造予測
遺伝アルゴリズムによる NQueen解法 ~問題特性に着目した突然変異方法の改善~
遺伝的アルゴリズム (GA) を活用した スペクトルの波長選択および時系列 データにおけるプロセス変数かつその時間 遅れ (ダイナミクス) の選択 明治大学 理工学部 応用化学科 データ化学工学研究室 金子 弘昌.
ビット空間における GAの解探索モニタリングシステム
``Exponentiated Gradient Algorithms for Log-Linear Structured Prediction’’ A.Globerson, T.Y.Koo, X.Carreras, M.Collins を読んで 渡辺一帆(東大・新領域)
環境分散遺伝的アルゴリズムの 多目的最適化問題への適用
表紙 分散遺伝的アルゴリズムのための 新しい交叉法.
BSPモデルを用いた 並列計算の有用性の検証
半正定値計画問題(SDP)の 工学的応用について
情報工学科 05A2301 樽美 澄香 (Tarumi Sumika)
コストのついたグラフの探索 分枝限定法 A*アルゴリズム.
分散遺伝的アルゴリズムにおけるパラメータの検討
BSPモデルを用いた 最小スパニング木 情報論理工学研究室 02-1-47-134 小林洋亮.
渡邉 真也, 廣安 知之, 三木 光範 同志社大学 工学部 Faculty of Engineering,Doshisha Univ
各種荷重を受ける 中空押出形成材の構造最適化
遺伝的交叉を用いた 並列シミュレーテッドアニーリングの検討 小掠 真貴 廣安 知之 三木 光範 角 美智子 岡本 祐幸 同志社大学大学院
Presentation transcript:

並列分散遺伝的アルゴリズムの有効 性 学績番号 畠中 一幸 知的システムデザイン研究室 Intelligent Systems Design Laboratory

Intelligent Systems Design Laboratory,Doshisha University 講演内容 最適化と遺伝的アルゴリズム 最適化と遺伝的アルゴリズム 並列分散遺伝的アルゴリズム 並列分散遺伝的アルゴリズム 計算時間の短縮 計算時間の短縮 解探索過程の比較 解探索過程の比較 環境分散遺伝的アルゴリズム 環境分散遺伝的アルゴリズム 結論 結論

Intelligent Systems Design Laboratory,Doshisha University 最適化とは 問題解決のために,選択肢の中から 最も良いと思われる方法を選ぶこと Ex. 携帯電話の料金プラン,最短経路 探索

Intelligent Systems Design Laboratory,Doshisha University 従来の手法による最適化 目的関数の 傾きを利用 頂点が増える 最適化困難

Intelligent Systems Design Laboratory,Doshisha University 生物の進化 遺伝子の コピーミスが 起こる 有性生殖により 生まれた子供は 両親の特徴を 併せ持つ 交叉 自然淘汰優れた個体ほど 子孫を残しやすい 突然変異 生物は長い年月を経るうちに, 環境に適合するように進化してきた.

Intelligent Systems Design Laboratory,Doshisha University GA による最適化 評価 選択 遺伝的操作

Intelligent Systems Design Laboratory,Doshisha University問題点 計算時間が膨大 局所解への収束 パラメータ設定 傾きを利用しない 確率的多点探索 GA の特徴 並列分散化 解決策

Intelligent Systems Design Laboratory,Doshisha University 従来の GA 並列分散 GA 速い 遅い

Intelligent Systems Design Laboratory,Doshisha University 並列分散 GA における移住 移住間隔 移住率 n 世代 2n 世代 1 世代 分割母集団間での個体の交換操作

Intelligent Systems Design Laboratory,Doshisha University 対象問題 節点 4 と6に 10 kNの水平荷重 目 的目 的目 的目 的 総体積の最小化 6番節点の変位が臨界値以内 各部材が座屈破壊を起こさない 引張応力が臨界値以内 制 約 条 件制 約 条 件制 約 条 件制 約 条 件 節点 1 と 2 は単純支持 5kN

Intelligent Systems Design Laboratory,Doshisha University 計算条件 個体数 320 個体 終了条件 500 世代 選択ルーレット選択+エリート保存 交叉方法一点交叉 交叉率 60 % 突然変異率遺伝子長の 1 分割数が 2 n 個の GA に対し, 10 試行の試行平均で比較. パラメータ 比較項目

Intelligent Systems Design Laboratory,Doshisha University 計算時間の短縮

Intelligent Systems Design Laboratory,Doshisha University 初期値依存性の減少

Intelligent Systems Design Laboratory,Doshisha University 移住の効果

Intelligent Systems Design Laboratory,Doshisha University 解探索過程の比較 初期母集団の個体は ランダムに生成されてい る 上位 8 個体の断面積分布( 0 世代) 同じ初期母集団に対し, 以下の GA を適用 SGA 移住なし PGA 隔移住あり PGA 移住間隔 50 世代 移住率 30% 解探索過程の比較を行う

Intelligent Systems Design Laboratory,Doshisha University 上位 8 個体の断面積分布(中間世代) PGA 各母集団毎に固有の 個体が生成されている SGA 単一母集団のため 個体の性質が似ている

Intelligent Systems Design Laboratory,Doshisha University 最終結果( SGA ) 1.875×10 -3 ( m 3 ) 最適解の 1.25 倍 変数の分布が最適解と異なり,個体同士の形状が類 似 =大域的最適解 → 最適解を得るには,多くの世代が必要

Intelligent Systems Design Laboratory,Doshisha University 最終結果( PGA :移住なし) 1.624×10 -3 ( m 3 ) 最適解の 1.08 倍 =大域的最適解 分割母集団 1 の解が最適解と類似 → しかし初期値依存性の問題は残る

Intelligent Systems Design Laboratory,Doshisha University 最終結果( PGA :移住あり) =大域的最適解 1.548×10 -3 ( m 3 ) 最適解の 1.02 倍 どの分割母集団においても 最適解に非常に類似した解が得られている

Intelligent Systems Design Laboratory,Doshisha University 環境分散遺伝的アルゴリズム 環境分散アルゴリズム を提案適切なパラメータ設定に関する問題 GA の探索パフォーマンスは, パラメータ設定に大きく影響される. 最適なパラメータ設定は問題によって異な る DGA,SGA, との比較により,有効性を検 証

Intelligent Systems Design Laboratory,Doshisha University パラメータ設定に関する予備実験 /L 1/L 0.1/L 1/L 10/L10/L 10/L 10/L 注) L は個体長 9 つのパラメータ設 定 を SGA と DGA に適 用 パラメータ設定が, 解探索に与える影響 をしらべる

Intelligent Systems Design Laboratory,Doshisha University 適合度の履歴( SGA )

Intelligent Systems Design Laboratory,Doshisha University 適合度の履歴( DGA )

Intelligent Systems Design Laboratory,Doshisha University 分散 GA の効果 パラメータ設定が等し ければ, DGA が良い しかしながら, パラメータ設定の 問題は残る

Intelligent Systems Design Laboratory,Doshisha University 環境分散遺伝的アルゴリズム 従来の DGA 環境分散 GA

Intelligent Systems Design Laboratory,Doshisha University Worst = 1.38 Avg Best = 1.74 Avg Best = 1.78 Worst = 1.58 環境分散 GA の効果 1.75

Intelligent Systems Design Laboratory,Doshisha University 結 論 並列処理を行うことにより,計算時間が短縮し た. 母集団を分割し移住を行うことで 解の品質と信頼性が向上した. 環境分散 GA は最適な交叉率, 突然変異率が不明な場合に有効 制約条件付き最適化問題に SGA と並列分散 GA を適用することにより, 以下のことがらが判明した.

Intelligent Systems Design Laboratory,Doshisha University 今後の課題 総個体数と分割数. – 効率的に探索を行うにはどうすれば良いのか. 適切な移住スキームの提案. – 「いつ」,「どこで」,「どのような個体」と行 うのか. 分割母集団での役割分担 – 選択方法や,交叉方法を各母集団で変化させる.

Intelligent Systems Design Laboratory,Doshisha University 論文リスト 1. 三木光範, 畠中一幸 : 分散並列 GA による計算時間の短縮と最適解の高品質化, 第 10 回 超並列計算研究会, (1998). 2. 三木光範, 畠中一幸 : 並列分散 GA による計算時間の短縮と解の高品質化, 日本機械学 会 [No.98-14], 第 3 回最適化シンポジウム講演論文集, pp , (1998). 3.Mitsunori MIKI, Tomoyuki HIROYASU and Kazuyuki HATANAKA: Parallel Genetic Algorithms with Distributed-Environment Multiple Population Scheme,Proc. 3rd World Congress of Structural and Multidisciplinary Optimization (WCSMO), Vol. 1, pp ,(1999). 4. 三木光範, 廣安知之, 金子美華, 畠中一幸 : 環境分散型並列遺伝的アルゴリズム, 電子情 報通信学会電子情報通信学会技術研究報告 AI99011~21, pp.87-94,(1999). 5. 畠中一幸, 三木光範, 廣安知之 : 分割母集団 GA における移住間隔の最適化, 日本機械学 会, (1999). 6. 畠中一幸 : 並列分散遺伝的アルゴリズム, 第 1 回 同志社大学工学部並列研究会, (1999). 7. 三木光範, 廣安知之, 金子美華, 畠中一幸 : 環境分散遺伝的アルゴリズムにおける探索メカ ニズム, 情報処理学会 99年度秋期全国大会, (1999). 8.Mitsunori MIKI, Tomoyuki HIROYASU, Mika KANEKO and Kazuyuki HATANAKA: A Parallel Genetic Algorithm with Distributed Environment Scheme,IEEE Proceedings of Systems, Man and Cybernetics Conference SMC'99, (1999), pp (1999).

Intelligent Systems Design Laboratory,Doshisha University Appendix 補 足 資 料

Intelligent Systems Design Laboratory,Doshisha University 最適化問題の定式化 目的関数 設計変数 制約条件

Intelligent Systems Design Laboratory,Doshisha University 従来の最適化手法 長所 : 高速 短所 : 勾配の評価,初期値依存性 線形計画法 非線形計画法

Intelligent Systems Design Laboratory,Doshisha University 遺伝的アルゴリズム シミュレーテッドアニー リング 確率的戦略 モンテカルロ 法 モンテカルロ 法 長所 : 初期値依存性が無い,勾配の評価が不要 短所 : 計算コストが高い ランダム 重点的

Intelligent Systems Design Laboratory,Doshisha University 進化的戦略 遺伝的アルゴリズム( Genetic Algorithms:GA ) 遺伝的プログラミング( Genetic Programming:GP ), 進化戦略( Evolutionary Strategy:ES ) 進化的プログラミング( Evolutionary Programming:EP ), クラシファイアシステム( Classify System ) ニューラルネットワーク( Neural Network:NN ), セルラーオートマトン( Cellar Automata:CA ), シミュレーテッドアニーリング (Simulated Annealing:SA )も, 進化戦略との類似性が高い. 生物の営みの一部を工学的にモデル化した手法 これらの方法を用いた最適化手法の特徴は, 目的関数の感度を用いない点である.

Intelligent Systems Design Laboratory,Doshisha University 遺伝的アルゴリズム 生物の進化を工学的にモデル化した手法 海外 1985 ICGA: International Conference on Genetic Algorithms 1990 PPSN: International Conference on Parallel Problem Solving from Nature 1994 ICEC: International Conference on Evolutionary Computation 1999 GECCO: 国内 人工知能学会,情報処理学会,日本ファジィ学会等 J.H.Holland : Adaptation In Natural and Artificial Systems, University of Michigan Press,(1975). D.E.Goldberg: Genetic Algorithms in Search Optimization and Machine Leraning. Addison-Wesley,Reading,Mass. (1989).

Intelligent Systems Design Laboratory,Doshisha University 単一母集団を使用 個体の評価を並列に行う 共有メモリ型の 並列計算機向き 大規模並列化モデル

Intelligent Systems Design Laboratory,Doshisha University 粗粒度並列化モデル 母集団を 複数のサブ母集団に分割 「移住」と言う解交換を 行う.

Intelligent Systems Design Laboratory,Doshisha University 細粒度並列化モデル プロセッサ 1 つに 1 つまたは比較的少数の個体 解交換は近傍のみ 計算効率は優れているが, 距離の離れたプロセッサ間で の 情報交換が行えない

Intelligent Systems Design Laboratory,Doshisha University Performance of DEGA

Intelligent Systems Design Laboratory,Doshisha University パラメータ設定の影響 (SGA) Mutation Rate 0.1/L1/L10/L

Intelligent Systems Design Laboratory,Doshisha University パラメータ設定の影響 (DGA) Mutation Rate 0.1/L1/L10/L

Intelligent Systems Design Laboratory,Doshisha University 環境分散遺伝的アルゴリズム 分割母集団毎に, 異なる突然変異率と, 交叉率を設定

Intelligent Systems Design Laboratory,Doshisha University 最適解の形状 5kN

Intelligent Systems Design Laboratory,Doshisha University 特徴 多峰性関数 依存関係が無い 設計変数間に依存関係が無い で最小値 0 となる Rastrigin 関数

Intelligent Systems Design Laboratory,Doshisha University Rosenbrock 関数 特徴 単峰性関数 強い依存関係 設計変数間に強い依存関係がある で最小値 0 となる

Intelligent Systems Design Laboratory,Doshisha University 移住間隔の最適化 初期段階 分離された母集団の 独立性を高めることが重要初期段階 分離された母集団の 独立性を高めることが重要移住間隔大移住間隔大 収束段階 分割母集団全体で 良好な解の交換が必要収束段階 分割母集団全体で 良好な解の交換が必要移住間隔小移住間隔小 解探索の進行と共に減少 移住間隔を解探索の進行と共に減少させる方法を提案

Intelligent Systems Design Laboratory,Doshisha University 提案手法の効果( Rastrigin )

Intelligent Systems Design Laboratory,Doshisha University 提案手法の効果( Rosenbrock )

Intelligent Systems Design Laboratory,Doshisha University 提案手法の効果(トラス構造物)

Intelligent Systems Design Laboratory,Doshisha University 適合度の履歴( SGA:pop.2430 )

Intelligent Systems Design Laboratory,Doshisha University