PCクラスタにおける2個体分散遺伝的アルゴリズムの高速化

Slides:



Advertisements
Similar presentations
HBSP モデル上での 行列積を求めるアルゴリ ム 情報論理工学 吉岡健太.
Advertisements

多目的GAに対する パレート最適個体の分布制御 九州大学大学院工学府知能機械システム専攻徳井 宏司.
並列分散遺伝的アルゴリズムの有効 性 学績番号 畠中 一幸 知的システムデザイン研究室 Intelligent Systems Design Laboratory.
三木 光範 (同志社大学工学部) 廣安 知之 (同志社大学工学部) 花田 良子 (同志社大学工学部学部 生) 水田 伯典 (同志社大学大学院) ジョブショップスケジューリング問 題への 分散遺伝的アルゴリズムの適用 Distributed Genetic Algorithm for Job-shop.
MicroAVS 超入門 赤塚浩太. MicroAVS とは Visualization Tool Excel Java 膨大,高度なデータ処理が困難 高度なプログラミング能力必要 誰でも簡単に可視化できるツールの必要性 Micro AVS.
福岡工業大学 情報工学部 情報工学科 種田研究室 情報工学科 種田研究室 樽美 澄香 [C8] 対話型遺伝的アルゴリズム( IGA )による 色弱者向けの Web ページ配色最適化システム 2009 年 2 月 20 日.
遺伝的アルゴリズムにおける ランドスケープによる問題のクラス分類
リフレッシュ型分散遺伝的アルゴリズムの 組み合わせ最適化問題への適用
MPIを用いたグラフの並列計算 情報論理工学研究室 藤本 涼一.
グローバルコンピューティング環境における遺伝的アルゴリズムの検討
連続系アルゴリズム演習 第2回 OpenMPによる課題.
ラベル付き区間グラフを列挙するBDDとその応用
超並列計算研究会 PCクラスタにおける ベンチマークと並列ツールの紹介 廣安 知之 三木 光範 大向 一輝 吉田 純一.
遺伝的アルゴリズム  新川 大貴.
対話型遺伝的アルゴリズムを用いた室内レイアウトシステムの開発
研究集会 「超大規模行列の数理的諸問題とその高速解法」 2007 年 3 月 7 日 完全パイプライン化シフト QR 法による 実対称三重対角行列の 固有値並列計算 宮田 考史  山本 有作  張 紹良   名古屋大学 大学院工学研究科 計算理工学専攻.
遺伝的アルゴリズム概説 An Outline of Parallel Distributed Genetic Algorithms
谷村 勇輔 (同志社大学大学院) 廣安 知之 (同志社大学) 三木 光範 (同志社大学) 青井 桂子 (同志社大学大学院)
遺伝的アルゴリズムによる離散最適化とその応用に関する研究
DNASシステム上のアプリケーション起動シーケンスのための基盤であるdsh部分の性能評価
対角マトリックスを用いた3次元剛塑性有限要素法の並列計算 対角マトリックスを用いた剛塑性有限要素法
AllReduce アルゴリズムによる QR 分解の精度について
時空間データからのオブジェクトベース知識発見
遺伝アルゴリズムによる NQueen解法 ~遺伝補修飾を用いた解探索の性能評価~
P,Q比が変更可能なScaLAPACKの コスト見積もり関数の開発
分散遺伝的アルゴリズムによる各種クラスタのベンチマーク
対話型遺伝的アルゴリズムにおける ユーザ負担軽減と多様性維持の検討
各種PC クラスタの性能評価 同志社大学 工学部 廣安 知之 三木 光範 谷村 勇輔.
分散確率モデル遺伝的アルゴリズムにおける解探索メカニズムの検討
制約条件の確率的選択に基づく 資源追加削減法の改良 三木 光範(同志社大工) 廣安 知之(同志社大工) ○小林 繁(同志社大院)
情報工学科 05A2301 樽美 澄香 (Tarumi Sumika)
Doshisha Univ., Kyoto Japan
ネットワーク性能に合わせた 分散遺伝的アルゴリズムにおける 最適な移住についての検討
MPIによる行列積計算 情報論理工学研究室 渡邉伊織 情報論理工学研究室 渡邉伊織です。
京都大学大学院医学研究科 画像応用治療学・放射線腫瘍学 石原 佳知
並列計算技術によるタンパク質の構造解析 IBM RS/6000SPを用いた研究 同志社大学大学院 小掠真貴 同志社大学工学部 廣安知之
型付きアセンブリ言語を用いた安全なカーネル拡張
MPIによるwavからmp3圧縮の検証 情報論理工学研究室 04‐1‐47‐200 木村 惇一.
MPIを用いた並列処理 ~GAによるTSPの解法~
蛋白質立体構造の進化的解析のための Ninf版並列MGGとその性能評価
MPIとOpenMPを用いた Nクイーン問題の並列化
遺伝的アルゴリズムを用いた 構造物の最適形状探索の プログラムの作成
通信機構合わせた最適化をおこなう並列化ンパイラ
進化的計算手法の並列計算機への実装 三木 光範
実行時情報を用いて通信を最適化するPCクラスタ上の並列化コンパイラ
グリッド向け実行環境Jojo を用いた遺伝的アルゴリズムによる蛋白質構造決定
遺伝的交叉を用いた 並列シミュレーテッドアニーリング 同志社大学工学部/大学院 廣安知之,三木光範,○小掠真貴
サポートベクターマシンを用いた タンパク質スレッディングの ためのスコア関数の学習 情報科学科4年 81025G 蓬来祐一郎.
Genetic Algorithm-based Partial Least Squares GAPLS Genetic Algorithm-based Support Vector Regression GASVR 明治大学 理工学部 応用化学科 データ化学工学研究室 金子 弘昌.
適応的近傍を持つ シミュレーテッドアニーリングの性能
VMが利用可能なCPU数の変化に対応した 並列アプリケーション実行の最適化
Peer-to-Peerシステムにおける動的な木構造の生成による検索の高速化
第5回 メモリ管理(2) オーバレイ方式 論理アドレスとプログラムの再配置 静的再配置と動的再配置 仮想記憶とメモリ階層 セグメンテーション
Data Clustering: A Review
遺伝的交叉を用いた 並列シミュレーテッドアニーリングによる タンパク質立体構造予測
遺伝アルゴリズムによる NQueen解法 ~問題特性に着目した突然変異方法の改善~
遺伝的アルゴリズム (GA) を活用した スペクトルの波長選択および時系列 データにおけるプロセス変数かつその時間 遅れ (ダイナミクス) の選択 明治大学 理工学部 応用化学科 データ化学工学研究室 金子 弘昌.
ビット空間における GAの解探索モニタリングシステム
環境分散遺伝的アルゴリズムの 多目的最適化問題への適用
表紙 分散遺伝的アルゴリズムのための 新しい交叉法.
BSPモデルを用いた 並列計算の有用性の検証
理工学部情報学科 情報論理工学研究室 延山 周平
遺伝的アルゴリズムを用いた特徴選択 によるパターン認識
情報工学科 05A2301 樽美 澄香 (Tarumi Sumika)
分散遺伝的アルゴリズムにおけるパラメータの検討
渡邉 真也, 廣安 知之, 三木 光範 同志社大学 工学部 Faculty of Engineering,Doshisha Univ
MPIを用いた 並列処理 情報論理工学研究室 06‐1‐037‐0246 杉所 拓也.
各種荷重を受ける 中空押出形成材の構造最適化
遺伝的交叉を用いた 並列シミュレーテッドアニーリングの検討 小掠 真貴 廣安 知之 三木 光範 角 美智子 岡本 祐幸 同志社大学大学院
Presentation transcript:

PCクラスタにおける2個体分散遺伝的アルゴリズムの高速化 - SWOPP 松山 2000 - PCクラスタにおける2個体分散遺伝的アルゴリズムの高速化 August 2 – 5, 2000, Matsuyama Summer United Workshops on Parallel, Distributed and Cooperative Processing ○ 谷村 勇輔 廣安 知之 三木 光範 同志社大学大学院 知的システムデザイン研究室

背 景 遺伝的アルゴリズム(GA) PCクラスタ 強力な最適化手法の1つ 計算負荷が高い Dual GAの並列モデル 普及しつつある 背 景 遺伝的アルゴリズム(GA) 強力な最適化手法の1つ 計算負荷が高い Dual GAの並列モデル PCクラスタ 普及しつつある 応用事例はそれほど多くない

遺伝的アルゴリズム(GA) 母集団 Start (初期化) 個体 突然変異 交叉 交 叉 突然変異 選 択 評 価 反復計算 確率的多点探索 終了 (解の発見) 良い解

並列GA 単純GA(SGA)の並列モデル 分散GA(DGA)の並列モデル 近傍GAの並列モデル 個体評価の計算のみを並列化する 分散GA(DGA)の並列モデル 母集団を複数のサブ母集団(島)に分割する 近傍GAの並列モデル 個体をあるトポロジに配置する 2個体分散遺伝的アルゴリズム (Dual Individual Distributed GA) 1島の個体数を2とした分散GA その並列モデル

Dual GA 島数 = 総個体数 / 2 交叉 : 同じ(ペアは一意に決まる) 選択 : エリートと優れた子個体 突然変異 : 他方と1ビットずらす 交叉 選択 エリート 遺伝子 変異

Dual GAの移住の仕組み(逐次) 並列モデル プロセス数 < 島数 1つのプロセスに複数の島を割り当てる プロセス内 個体移住 ランダムに形成されるリングトポロジ 個体交換の操作を行う 並列モデル プロセス数 < 島数 1つのプロセスに複数の島を割り当てる

Dual GAの移住の仕組み(並列) プロセス内 プロセス間 個体移住 島移住 1プロセス

Dual GAの利点 多様性を維持できる アルゴリズムの簡易化 並列化の粒度を柔軟に変更できる SGAやDGAに比べて,解の探索性能が良い アルゴリズムの簡易化 ソート,乱数の発生回数を減らせる 並列化の粒度を柔軟に変更できる Dual GAをPCクラスタ上で並列化し,その評価を行う

対象問題 4つのテスト関数を用いて検証する 関数名 形状 依存関係 F1 Rastrigin 多峰性 なし 関数名 形状 依存関係 F1 Rastrigin 多峰性 なし F2 Rosenbrock 単峰性 あり F3 Ridge 単峰性 あり F4 Griewank 多峰性 多少あり

基本的なパラメータ設定 島数 192島 プロセス数 任意 コーディング 10bit グレイコード 交叉手法 一点交叉 島数 192島 プロセス数 任意 コーディング 10bit グレイコード 交叉手法 一点交叉 突然変異率 1 / 遺伝子長 移住トポロジ リング状 プロセス内の移住間隔 5 プロセス間の移住間隔 5倍 プロセス間の移住率 0.1(最低1個体)

計算環境(PCクラスタのスペック) プロセッサ PentiumⅡ(Deschutes) CPUクロック 400MHz # プロセッサ数 1 × 16 メモリ容量 128Mbytes × 16 ネットワーク Fast Ethernet (100Mbps) プロセッサ間通信 TCP/IP, MPICH 1.1.2 OS Linux 2.2.12 コンパイラ gcc (egcs-2.91.61)

並列モデルの効果(F1) 30次元のRastrigin関数 (最適値 0)

並列モデルの効果(F2) 30次元のRosenbrock関数 (最適値 0)

並列実行(1) 移住間隔の影響 プロセス内の移住間隔とプロセス間の移住間隔による影響を調べる プロセス間通信はできるだけ,少なく済ませたい 「数値実験」 プロセス数は16,各プロセスあたりの島数は12 それぞれの組み合わせ(計4パターン)を調べる プロセス内の移住間隔 : 5 , 10 世代 プロセス間の移住間隔 : 50 , 100 世代

並列実行(1) 移住間隔の影響 30次元のRastrigin関数 (最適値 0)

並列実行(1) 移住間隔の影響 30次元のRosenbrock関数 (最適値 0)

プロセス数と島数 プロセス数 < 島数 各プロセスに対して島をどう割り当てるか? 最も高速に解を求めるには? 最も効率よくプロセッサを使うには? 192島を均質に割り当てて実験を行う

並列実行(2) 島の割り当て 30次元のRastrigin関数 (最適値 0)

並列実行(2) 島の割り当て 30次元のRosenbrock関数 (最適値 0)

考 察 プロセスに対して,どう島を割り当てるか? 解の探索性能を見る 対象問題に依存 通信負荷の割合を見る 対象問題,および計算機環境に依存 実行前に予測するのは困難

シミュレーション例 (方法) 通信負荷の割合を事前に調べる 計算負荷 S 逐次モデル 100世代 並列モデル 100世代 P オーバーヘッド 並列モデル 100世代 通信(移住) P 実行時間の短縮率 = P / S

シミュレーション例 (結果) 逐次モデル100世代を並列モデルで行った結果

結 論 Dual GAの並列モデル 逐次モデルより解の探索性能が良い PCクラスタにおいて十分に高速化可能 移住間隔は適切に設定する必要がある プロセスに島をどう割り当てるかは経験的に決まる

あ い