進化的計算手法の並列計算機への実装 三木 光範

Slides:



Advertisements
Similar presentations
HBSP モデル上での 行列積を求めるアルゴリ ム 情報論理工学 吉岡健太.
Advertisements

多目的GAに対する パレート最適個体の分布制御 九州大学大学院工学府知能機械システム専攻徳井 宏司.
情報基盤アルゴリズムとして のメタヒューリスティクスの 研究 茨木俊秀、巳波弘佳、藤原洋志、 千葉英史、関口良行(関西学院大 学)、 藤重悟(京都大学)、 柳浦睦憲(名古屋大学)、 野々部宏司(法政大学)、 梅谷俊治(電気通信大学)
並列分散遺伝的アルゴリズムの有効 性 学績番号 畠中 一幸 知的システムデザイン研究室 Intelligent Systems Design Laboratory.
三木 光範 (同志社大学工学部) 廣安 知之 (同志社大学工学部) 花田 良子 (同志社大学工学部学部 生) 水田 伯典 (同志社大学大学院) ジョブショップスケジューリング問 題への 分散遺伝的アルゴリズムの適用 Distributed Genetic Algorithm for Job-shop.
世帯マイクロデータの適合度評価における 重みの決定手法
遺伝的アルゴリズムにおける ランドスケープによる問題のクラス分類
リフレッシュ型分散遺伝的アルゴリズムの 組み合わせ最適化問題への適用
MPIを用いたグラフの並列計算 情報論理工学研究室 藤本 涼一.
グローバルコンピューティング環境における遺伝的アルゴリズムの検討
キャッシュ付PRAM上の 並列クィックソートと 並列マージソート
超並列計算研究会 PCクラスタにおける ベンチマークと並列ツールの紹介 廣安 知之 三木 光範 大向 一輝 吉田 純一.
遺伝的アルゴリズム  新川 大貴.
研究集会 「超大規模行列の数理的諸問題とその高速解法」 2007 年 3 月 7 日 完全パイプライン化シフト QR 法による 実対称三重対角行列の 固有値並列計算 宮田 考史  山本 有作  張 紹良   名古屋大学 大学院工学研究科 計算理工学専攻.
遺伝的アルゴリズム概説 An Outline of Parallel Distributed Genetic Algorithms
PCクラスタにおける2個体分散遺伝的アルゴリズムの高速化
谷村 勇輔 (同志社大学大学院) 廣安 知之 (同志社大学) 三木 光範 (同志社大学) 青井 桂子 (同志社大学大学院)
DNASシステム上のアプリケーション起動シーケンスのための基盤であるdsh部分の性能評価
モード付き並列機械における オンラインスケジューリング
P,Q比が変更可能なScaLAPACKの コスト見積もり関数の開発
分散遺伝的アルゴリズムによる各種クラスタのベンチマーク
各種PC クラスタの性能評価 同志社大学 工学部 廣安 知之 三木 光範 谷村 勇輔.
多数の遊休PC上での 分散ゲーム木探索 導入 ゲーム木探索 ⇒遊休PCを利用して高速化 例)コンピュータ将棋における次手の計算
分散確率モデル遺伝的アルゴリズムにおける解探索メカニズムの検討
「データ学習アルゴリズム」 第2章 学習と統計的推測 報告者 佐々木 稔 2003年5月21日 2.1 データと学習
制約条件の確率的選択に基づく 資源追加削減法の改良 三木 光範(同志社大工) 廣安 知之(同志社大工) ○小林 繁(同志社大院)
情報工学科 05A2301 樽美 澄香 (Tarumi Sumika)
ネットワーク性能に合わせた 分散遺伝的アルゴリズムにおける 最適な移住についての検討
MPIによる行列積計算 情報論理工学研究室 渡邉伊織 情報論理工学研究室 渡邉伊織です。
京都大学大学院医学研究科 画像応用治療学・放射線腫瘍学 石原 佳知
EMO分野における最近の動向 立命館大学 情報理工学部 知能情報学科 渡邉 真也
並列計算技術によるタンパク質の構造解析 IBM RS/6000SPを用いた研究 同志社大学大学院 小掠真貴 同志社大学工学部 廣安知之
MPIによるwavからmp3圧縮の検証 情報論理工学研究室 04‐1‐47‐200 木村 惇一.
MPIを用いた並列処理 ~GAによるTSPの解法~
高速剰余算アルゴリズムとそのハードウェア実装についての研究
遺伝的アルゴリズムへの 統計力学的アプローチ 大阪大学 大学院理学研究科 鈴木譲 CISJ2005 於早稲田大学理工学部
MPIとOpenMPを用いた Nクイーン問題の並列化
モデルの逆解析 明治大学 理工学部 応用化学科 データ化学工学研究室 金子 弘昌.
知的システムデザイン研究室 学籍番号: 笠井 誠之
遺伝的アルゴリズムを用いた 構造物の最適形状探索の プログラムの作成
通信機構合わせた最適化をおこなう並列化ンパイラ
グリッド向け実行環境Jojo を用いた遺伝的アルゴリズムによる蛋白質構造決定
遺伝的交叉を用いた 並列シミュレーテッドアニーリング 同志社大学工学部/大学院 廣安知之,三木光範,○小掠真貴
目的:高速QR分解ルーチンのGPUクラスタ実装
Genetic Algorithm-based Partial Least Squares GAPLS Genetic Algorithm-based Support Vector Regression GASVR 明治大学 理工学部 応用化学科 データ化学工学研究室 金子 弘昌.
適応的近傍を持つ シミュレーテッドアニーリングの性能
同志社大学工学研究科 知的システムデザイン研究室 修士2年 中尾昌広
知識科学研究科 知識システム構築論講座 林研究室 佛明 智
情報論理工学 研究室 研究テーマ 並列アルゴリズム.
Data Clustering: A Review
Introduction to Soft Computing
Data Clustering: A Review
遺伝的交叉を用いた 並列シミュレーテッドアニーリングによる タンパク質立体構造予測
遺伝アルゴリズムによる NQueen解法 ~問題特性に着目した突然変異方法の改善~
遺伝的アルゴリズム (GA) を活用した スペクトルの波長選択および時系列 データにおけるプロセス変数かつその時間 遅れ (ダイナミクス) の選択 明治大学 理工学部 応用化学科 データ化学工学研究室 金子 弘昌.
ビット空間における GAの解探索モニタリングシステム
全体ミーティング (5/23) 村田雅之.
環境分散遺伝的アルゴリズムの 多目的最適化問題への適用
表紙 分散遺伝的アルゴリズムのための 新しい交叉法.
理工学部情報学科 情報論理工学研究室 延山 周平
シミュレーテッドアニーリングにおける 重要温度領域に関する考察
情報工学科 05A2301 樽美 澄香 (Tarumi Sumika)
MPIを用いた並列処理計算 情報論理工学研究室 金久 英之
分散遺伝的アルゴリズムにおけるパラメータの検討
情報論理工学 研究室 第1回:並列とは.
BSPモデルを用いた 最小スパニング木 情報論理工学研究室 02-1-47-134 小林洋亮.
渡邉 真也, 廣安 知之, 三木 光範 同志社大学 工学部 Faculty of Engineering,Doshisha Univ
MPIを用いた 並列処理 情報論理工学研究室 06‐1‐037‐0246 杉所 拓也.
遺伝的交叉を用いた 並列シミュレーテッドアニーリングの検討 小掠 真貴 廣安 知之 三木 光範 角 美智子 岡本 祐幸 同志社大学大学院
Presentation transcript:

進化的計算手法の並列計算機への実装 三木 光範 日本機械学会2000年度年次大会先端技術フォーラム 進化的計算手法とその応用の新展開 進化的計算手法の並列計算機への実装 Implementation of Evolutionary Computation to Parallel Computers 同志社大学 工学部 三木 光範

進化的計算手法 生物の進化のプロセスを工学的なシステムの 最適化に利用 特徴 ・解の確率的摂動 ・適合度による選択

代表的な進化的計算手法 進化戦略 遺伝的アルゴリズム 遺伝的プログラミング シミュレーテッドアニーリング 複雑な実問題にも適用可能 Evolutional Strategy Genetic Algorithms Genetic Programming Simulated Annealing 複雑な実問題にも適用可能 良好な解が得られる

進化的計算手法の問題点 並列化 並列処理の利点 計算時間の短縮 計算モデルの変化に伴う解精度の向上 一般に,進化的計算手法では膨大な反復計算が必要 計算負荷が大きい 並列化 並列処理の利点 計算時間の短縮 計算モデルの変化に伴う解精度の向上

計算機の高速化 MHz CPUの開発競争 クロック周波数は 1GHz以上に 汎用PCの性能の 飛躍的向上

PC Cluster 複数の汎用PCをネットワークで接続(クラスタ化) 並列ライブラリを用いた並列処理 ネットワーク 並列ライブラリ Ethernet (100BASE-T, Myrinetなど) 並列ライブラリ MPI・PVM コストパフォーマンスの高い並列計算環境

PC Clusterのコストパフォーマンス PC Cluster   400 MFLOPS(8node) ¥ 1,000,000 ~ ¥ 1,600,000 Fujitsu VPP5000  4137.30 MFLOPS ¥ 4,400,000 (月額レンタル料)

並列計算機のネットワーク 専用並列計算機 PC Cluster 計算機の通信性能やネットワークトポロジ に適した計算モデルの設計が重要 高速なネットワーク・独自のトポロジ 計算モデルを最適化させればさらに高速に PC Cluster 低速なネットワーク・通信のオーバヘッド大 通信量の少ない計算モデルが適する 計算機の通信性能やネットワークトポロジ に適した計算モデルの設計が重要

GAの並列化 生物の進化の過程を工学的に応用した最適化手法 並列モデル 個体の評価の計算負荷が高い アルゴリズム自体に並列性が高い 粒度によって分類が可能 細粒度:マスタ-・スレーブモデル,セルラーモデル 粗粒度:島モデル

分散GA(島モデル) 母集団を複数のサブ母集団に分割 一定世代ごとに移住 各サブ母集団が独自の 領域を探索 サブ母集団を各プロセッサ に割り当て 一定世代ごとに移住 通信の頻度は低い 特徴 良好な解を速く求めることができる

マスタースレーブモデル(細粒度) 評価計算のみを並列化 評価 :スレーブで処理 PE master slave 評価以外 :マスターで処理 評価    :スレーブで処理 PE master Shared memory 評価 slave 評価以外 :マスターで処理 特徴 計算量は逐次モデルと等しい 1CPUがマスターとして必要 通信の頻度が高い

セルラーモデル(細粒度) 遺伝的操作を局所的に実行 各個体は空間上のある位置 に配置 近傍の個体との間のみで 交叉・選択を行う 特徴 局所的なルールだけで動作 を記述可能 同種のトポロジを持つ 超並列アーキテクチャに向く

GAの並列化のメリット 台数効果による高速化 アルゴリズム的高速化 並列計算機の計算パワーを利用 早熟収束問題の回避 並列分散モデルによる多様性の維持 島モデル・セルラーモデル

台数効果による高速化 分散GA(島モデル)における計算速度

アルゴリズム的高速化(分散の効果) 対象問題 単一母集団GA 分散GA 移住なし Rastrigin関数(4変数) 文献4)三木・廣安・金子 SP_0 Convergence ratio Generations SP_1 対象問題 SP_2 Rastrigin関数(4変数) SP_3 Convergence ratio Generations

アルゴリズム的高速化(移住の効果) 分散GA 移住なし 分散GA 移住あり 文献4)三木・廣安・金子 SP_0 SP_0 SP_1 SP_1 Convergence ratio Convergence ratio Generations Generations

アルゴリズム的高速化(適合度の推移) SGA - 400個体 早熟収束によって最適解は PDGA - 50個体 8サブ母集団  早熟収束によって最適解は  得られない PDGA - 50個体 8サブ母集団 ・各サブ母集団では局所探索 ・移住によって多様性を保つ   対象問題 :10変数Rastrigin関数 パラメータ: 交叉率 0.6,突然変異率 0.01, 移住率 0.3,移住間隔 5

シミュレーテッドアニーリング(SA) 金属の焼きなましを模擬した最適化法 温度パラメータによって解の摂動を制御 エネルギーと呼ばれる目的関数が増加する方向へ の解の推移を,確率的に許す.(改悪の受理) 高温時 低温時 Opt

SAの並列化 並列モデル SAはマルコフ連鎖をたどる 逐次性が強く並列化は困難 ・逐次SAを並列実行,解を交換 独立型並列SA 同期 SA 独立型並列SA 定期同期型並列SA 受理時同期型並列SA 温度並列SA ・温度の異なるSAを並列実行,解を交換

温度並列SA(TPSA) アルゴリズム 確率的に良質な解が低温PEに移動 特徴 ・通信量は少ない ・温度スケジュールの自動化 高温 低温 最低温 確率的に良質な解が低温PEに移動 解交換 最高温 特徴 ・通信量は少ない ・温度スケジュールの自動化

温度並列SAの利点 逐次SA 温度並列SA 温度スケジュールは 単調な減少 最適なスケジュール の決定は困難 Time T1 T2 T3 T4 T5 Initial Solution 温度スケジュールは 単調な減少 最適なスケジュール の決定は困難 温度並列SA Initial Solution Time T1 T2 T3 T4 T5 T6 PE1 PE2 PE3 PE4 PE5 PE6 解自身が自動的に温度スケジュールを決定

温度並列SAの性能 6.94E-04 6.08E-04 トラス構造物の最適化における 温度とトラスの総体積の履歴

まとめ 進化的計算手法は様々な実問題に有効 進化的計算手法は計算負荷が高く並列化は重要 安価な並列計算環境 PC Cluster 実装する並列計算機に応じた計算モデルの設計 台数効果による高速化とアルゴリズム的高速化