ビット空間における GAの解探索モニタリングシステム

Slides:



Advertisements
Similar presentations
多目的GAに対する パレート最適個体の分布制御 九州大学大学院工学府知能機械システム専攻徳井 宏司.
Advertisements

土木計画学 第3回:10月19日 調査データの統計処理と分析2 担当:榊原 弘之. 標本調査において,母集団の平均や分散などを直接知ることは できない. 母集団の平均値(母平均) 母集団の分散(母分散) 母集団中のある値の比率(母比率) p Sample 標本平均 標本分散(不偏分散) 標本中の比率.
並列分散遺伝的アルゴリズムの有効 性 学績番号 畠中 一幸 知的システムデザイン研究室 Intelligent Systems Design Laboratory.
三木 光範 (同志社大学工学部) 廣安 知之 (同志社大学工学部) 花田 良子 (同志社大学工学部学部 生) 水田 伯典 (同志社大学大学院) ジョブショップスケジューリング問 題への 分散遺伝的アルゴリズムの適用 Distributed Genetic Algorithm for Job-shop.
MicroAVS 超入門 赤塚浩太. MicroAVS とは Visualization Tool Excel Java 膨大,高度なデータ処理が困難 高度なプログラミング能力必要 誰でも簡単に可視化できるツールの必要性 Micro AVS.
福岡工業大学 情報工学部 情報工学科 種田研究室 情報工学科 種田研究室 樽美 澄香 [C8] 対話型遺伝的アルゴリズム( IGA )による 色弱者向けの Web ページ配色最適化システム 2009 年 2 月 20 日.
●母集団と標本 母集団 標本 母数 母平均、母分散 無作為抽出 標本データの分析(記述統計学) 母集団における状態の推測(推測統計学)
世帯マイクロデータの適合度評価における 重みの決定手法
白井ゼミ 豊田秀樹(2008)『データマイニング入門』 (東京図書)。4章
遺伝的アルゴリズムにおける ランドスケープによる問題のクラス分類
リフレッシュ型分散遺伝的アルゴリズムの 組み合わせ最適化問題への適用
グローバルコンピューティング環境における遺伝的アルゴリズムの検討
点対応の外れ値除去の最適化によるカメラの動的校正手法の精度向上
超並列計算研究会 PCクラスタにおける ベンチマークと並列ツールの紹介 廣安 知之 三木 光範 大向 一輝 吉田 純一.
遺伝的アルゴリズム  新川 大貴.
対話型遺伝的アルゴリズムを用いた室内レイアウトシステムの開発
Finger patternのブロック化による 陰的wavelet近似逆行列前処理の 高速化
遺伝的アルゴリズム概説 An Outline of Parallel Distributed Genetic Algorithms
PCクラスタにおける2個体分散遺伝的アルゴリズムの高速化
谷村 勇輔 (同志社大学大学院) 廣安 知之 (同志社大学) 三木 光範 (同志社大学) 青井 桂子 (同志社大学大学院)
遺伝的アルゴリズムによる離散最適化とその応用に関する研究
神奈川大学大学院工学研究科 電気電子情報工学専攻
モード付き並列機械における オンラインスケジューリング
遺伝アルゴリズムによる NQueen解法 ~遺伝補修飾を用いた解探索の性能評価~
分散遺伝的アルゴリズムによる各種クラスタのベンチマーク
対話型遺伝的アルゴリズムにおける ユーザ負担軽減と多様性維持の検討
情報工学科 05A2301 樽美 澄香 (Tarumi Sumika)
分散確率モデル遺伝的アルゴリズムにおける解探索メカニズムの検討
マイクロシミュレーションにおける 可変属性セル問題と解法
制約条件の確率的選択に基づく 資源追加削減法の改良 三木 光範(同志社大工) 廣安 知之(同志社大工) ○小林 繁(同志社大院)
情報工学科 05A2301 樽美 澄香 (Tarumi Sumika)
Doshisha Univ., Kyoto Japan
ネットワーク性能に合わせた 分散遺伝的アルゴリズムにおける 最適な移住についての検討
並列計算技術によるタンパク質の構造解析 IBM RS/6000SPを用いた研究 同志社大学大学院 小掠真貴 同志社大学工学部 廣安知之
ソースコードの変更履歴における メトリクス値の変化を用いた ソフトウェアの特性分析
MPIを用いた並列処理 ~GAによるTSPの解法~
遺伝的アルゴリズムへの 統計力学的アプローチ 大阪大学 大学院理学研究科 鈴木譲 CISJ2005 於早稲田大学理工学部
ベイジアンネット混合モデルによる 強化学習エージェントの方策改善
確率的学習アルゴリズムを用いた有限状態オートマトンの抽出に関する研究
モデルの逆解析 明治大学 理工学部 応用化学科 データ化学工学研究室 金子 弘昌.
確率論の基礎 「ロジスティクス工学」 第3章 鞭効果 第4章 確率的在庫モデル 補助資料
第14章 モデルの結合 修士2年 山川佳洋.
確率的学習アルゴリズムを用いた有限状態オートマトンの抽出に関する研究
Internet広域分散協調サーチロボット の研究開発
遺伝的アルゴリズムを用いた 構造物の最適形状探索の プログラムの作成
通信機構合わせた最適化をおこなう並列化ンパイラ
進化的計算手法の並列計算機への実装 三木 光範
予測に用いる数学 2004/05/07 ide.
ソースコードの特徴量を用いた機械学習による メソッド抽出リファクタリング推薦手法
遺伝的交叉を用いた 並列シミュレーテッドアニーリング 同志社大学工学部/大学院 廣安知之,三木光範,○小掠真貴
Data Clustering: A Review
Genetic Algorithm-based Partial Least Squares GAPLS Genetic Algorithm-based Support Vector Regression GASVR 明治大学 理工学部 応用化学科 データ化学工学研究室 金子 弘昌.
適応的近傍を持つ シミュレーテッドアニーリングの性能
知識科学研究科 知識システム構築論講座 林研究室 佛明 智
第4章 識別部の設計 4-5 識別部の最適化 発表日:2003年5月16日 発表者:時田 陽一
ベイズ最適化 Bayesian Optimization BO
Data Clustering: A Review
遺伝的交叉を用いた 並列シミュレーテッドアニーリングによる タンパク質立体構造予測
遺伝アルゴリズムによる NQueen解法 ~問題特性に着目した突然変異方法の改善~
遺伝的アルゴリズム (GA) を活用した スペクトルの波長選択および時系列 データにおけるプロセス変数かつその時間 遅れ (ダイナミクス) の選択 明治大学 理工学部 応用化学科 データ化学工学研究室 金子 弘昌.
環境分散遺伝的アルゴリズムの 多目的最適化問題への適用
表紙 分散遺伝的アルゴリズムのための 新しい交叉法.
半正定値計画問題(SDP)の 工学的応用について
情報工学科 05A2301 樽美 澄香 (Tarumi Sumika)
分散遺伝的アルゴリズムにおけるパラメータの検討
渡邉 真也, 廣安 知之, 三木 光範 同志社大学 工学部 Faculty of Engineering,Doshisha Univ
実都市を対象とした初期マイクロデータの 推定手法の適用と検証
各種荷重を受ける 中空押出形成材の構造最適化
遺伝的交叉を用いた 並列シミュレーテッドアニーリングの検討 小掠 真貴 廣安 知之 三木 光範 角 美智子 岡本 祐幸 同志社大学大学院
Presentation transcript:

ビット空間における GAの解探索モニタリングシステム Monitoring System of Searching History of GA in a Bit Space † ‡ ‡ ○赤塚浩太,廣安知之,三木光範 † 同志社大学大学院工学研究科 ‡ 同志社大学工学部知識工学科

遺伝的アルゴリズム 生物の進化を模倣 数多くの問題に適用可能 多点探索 遺伝的操作 選択 交叉 突然変異 適合度の 高い個体が 多く生き残る 母集団 個体間の 情報交換 交叉 個体情報の 変更 突然変異 個体

コーディング GAは一般的に対象問題の 設計変数値をコード化し利用 探索空間がなんらかの 影響を受ける可能性 1 1 1 対象問題 z y x 1 Decoding 1 Real Number Space Encoding 染色体 1 個体 Bit Space

? コーディングの影響 GAは対象問題の 設計変数値をコード化し利用 我々が把握している外観とは異なった空間を探索している可能性 実数値空間 ビット空間 Encoding 1 1

対象問題とGAの解探索能力 136 331 Rastrigin Rosenbrock Ridge Rotated Rastrigin 終了 世代 100,000以上 終了世代 終了 世代 100,000以上 終了世代 136 331 我々が把握している関数の外観と, GAによる探索の困難さはまったく異なっている. ※ すべて10設計変数,1設計変数あたり10bit ※ 640個体を用い100,000世代x10試行の探索結果

研究目的 GAが対象問題の解探索に有効か否か 対象問題の設計変数値による外観とは異なる コーディングにより,GAが探索している空間と 実数値による空間が異なる可能性 コーディング後のGAの探索過程  (適合度空間・ランドスケープ)を把握したい

探索過程を把握する手法 ハミング距離,適合度,頻度の3軸を用いる 離散的最適化問題向き 設計変数値を用いる手法 コーディング前の情報を利用 Ex.Stationary fitness-probability Landscape                          (内藤 ’94) 離散的最適化問題向き コーディング前の情報を利用 設計変数値を用いる手法 Ex.適合度空間のランドスケープ可視化と ユーザーの能動的探索による進化計算の高速化                      (林田,高木 ’01) Ex.ラディアルベーシス関数ネットワークと領域適応型 遺伝的アルゴリズムを用いた最適設計                      (荒川ら ’99)

解探索モニタリングシステムの提案 連続最適化問題において,コーディング後の ビット空間のランドスケープを把握するシステム 提案システム 視覚化 実数値空間 ビット空間 1 1 1 Encoding 情報抽出

提案システムの概観 初期化時(Parameter入力) 探索時 (いくつかの View mode がある)

提案システムの構成(出力) 提案システム GA部 Analyze部 GUI部 通常の GAを行う ビット空間を 把握する手法 (染色体から 情報を抽出) ユーザーから     の入力 出力情報    の視覚化

提案システムの構成(出力) 提案システム GA部 Analyze部 GUI部 ビット空間 情報抽出 視覚化 Hamming Distance 1 1 1 Topology 実数値空間

染色体情報の抽出手法:Analyze部 Hamming Distance Analyze部 情報抽出 Hamming Distance Topology Analyze部 情報抽出 Hamming Distance Topology

染色体情報の抽出手法:Analyze部 Hamming Distance 1 遺伝子座ごとに2個体を 比較し,異なる遺伝子座の数 Topology 1 遺伝子座ごとに2個体を 比較し,異なる遺伝子座の数 Hamming Distance = 3 同じ遺伝子が連続する 部分を1つのグループとし, そのグループ数 1 Topology = 4

染色体情報の抽出手法:Analyze部 Hamming Distance ハミング距離と 突然変異の回数に関係有り Topologyが近い個体同士が交叉すると, Topologyが近い個体が生まれやすい Topology Topology = 4 Topology = 4 1 1 1 1 1 1 Topology = 5 Topology = 5

提案システムの構成(出力) 提案システム GA部 Analyze部 GUI部 ビット空間 情報抽出 視覚化 Hamming Distance 1 1 1 Topology 実数値空間

提案システムの構成:GUI部 実数値空間による表示 GUI部 対象問題の設計変数値を利用 視覚化 ビット空間による表示 Analyze部で抽出したTopology, Hamming Distanceを利用 探索履歴を用いた表示 過去の探索点を元に Topologyの分散を利用

GUI部:実数値空間による表示 対象問題の設計変数値を利用 Dim3 コーディング前の情報を用いる 3設計変数を抜き出して表示する Dim1 GAが探索している空間を 把握するには不向きだと考えられる

GUI部:実数値空間による表示 対象問題の設計変数値を利用 設計変数1 設計変数2 設計変数3 個体群

GUI部:ビット空間による表示 Analyze部からの,染色体から抽出した情報を利用 コーディング後の情報を用いる Topology Evaluation Value GAが探索している空間を把握する のに比較的有効だと考えられる Hamming Distance 個体群 楕円(体) 密集した個体群の傾向を 把握するため,共分散を もとにした楕円体を用いる

GUI部:ビット空間による表示 Analyze部からの,染色体から抽出した情報を利用 ・島毎に色分け ・楕円体表示 Topology 個体群 Hamming Distance Topology Evaluation Value 個体群 真の解

GUI部:探索履歴を用いた表示 Topologyに注目,過去100世代に渡って探索点を記憶 n世代 n+1世代 過去100世代を記録 … 適合度順にソート … グループに分割 全個体の Topologyを計算 … 2,3,1 5,9,8 Variance of Topology Fitness グループ毎に Topologyの分散を計算 … 4.24 1.33

GUI部:探索履歴を用いた表示 Topologyに注目,過去100世代に渡って探索点を記憶 Variance of Topology (High) Fitness (Low)

提案システムの特徴 ビット空間による表示 コーディング後の情報を 用いて視覚化を行うため よりGAの探索に近い情報が把握可能 楕円体による 1 ビット空間による表示 コーディング後の情報を 用いて視覚化を行うため よりGAの探索に近い情報が把握可能 楕円体による 個体群の傾向 を把握 複数母集団の 色分け表示 GA部はGUI部や Analyze部と独立 Ana-lyze GA GUI

数値実験 1: 遺伝的操作がGAの個体群に与える影響 分散GAの移住操作により個体群に どのような傾向が出るか検討         どのような傾向が出るか検討 2: GAの探索履歴による対象問題の分類 数学的テスト関数とトラス構造物を対象に, その解探索の難易度別に分類できるか検討

分散遺伝的アルゴリズム 並列モデルの1種 サブ母集団 個体 母集団を複数に分割 移住操作により分割母集団間で個体を交換 母集団

数値実験 1: 遺伝的操作がGAの個体群に与える影響 移住操作により個体群に どのような傾向が出るか検討         どのような傾向が出るか検討 2: GAの探索履歴による対象問題の分類 数学的テスト関数とトラス構造物を対象に, その解探索の難易度別に分類できるか検討

数値実験1:遺伝的操作が与える影響 遺伝的操作がGAの個体群に与える影響 移住操作により個体群に どのような傾向が出るか検討         どのような傾向が出るか検討 Dim1 Dim3 Dim2 実数値空間 Hamming Distance Topology Evaluation Value ビット空間 Rastrigin DGA 4島 200個体 移住有り,移住無しで比較

数値実験1:実数値空間による表示  移住有り   移住無し Generation 100 I S D L

数値実験1:ビット空間による表示  移住有り   移住無し Generation 100 I S D L

数値実験2:探索履歴による対象問題分類 GAの探索履歴による対象問題の分類 数学的テスト関数とトラス構造物を対象に, その解探索の難易度別に分類できるか検討 Variance of Topology Fitness 履歴による表示 Rastrigin,Rosenbrock Ridge,Rotated Rastrigin Truss A,Truss B SGA 200個体 10bit/1設計変数 10設計変数

数値実験2:数学的テスト関数の結果 Rastrigin Rosenbrock R Rastrigin Ridge Fitness Variance of Topology low high Rastrigin Rosenbrock R Rastrigin Ridge Generation 200 I S D L

数値実験2:探索履歴による対象問題分類 トラス構造物最適化問題 対象: 6接点10部材トラス構造物最適化問題 目的: 制約条件内で,総体積の最小化 設計変数: 各部材の体積 部材 1kN Truss A Truss B 変位 座屈 応力 制約条件 変位 制約条件

数値実験2:探索履歴による表示 Truss B Truss A Fitness Variance of Topology low high High Fitness Low High Fitness Low Truss B Generation 200 I S D L

数値実験2:探索履歴による対象問題分類 実験結果 GAによる探索結果 Rastrigin 136世代 331世代 Ridge 100,000 世代以上 Rosenbrock R Rastrigin 制約条件の数 Truss A 3つ Truss B 1つ 適合度の高いグループの分散値と, 問題の難易度に関係がある

数値実験2:探索履歴による対象問題分類 考察 適合度の高いグループの分散値と,問題の 難易度に関係がある High High 分散大 分散小 Fitness Fitness Low Low Topology Topology 解探索容易 解探索困難

結論 GAの探索過程を把握するシステムを構築 移住無しと移住有りでは それぞれ探索の様子が異なる事を把握可能. 分類することが可能. 提案システムはコーディング後のビット空間や GAの探索過程を把握するのに有効.

それぞれ探索の様子が異なる事を把握可能. 作成したシステム GAによる解探索が容易な問題と, 困難な問題を分類することが可能. 移住無しと移住有りでは それぞれ探索の様子が異なる事を把握可能.

数値実験1:GAの個体群に与える影響 対象問題がGAの個体群に与える影響 実数値空間とビット空間で比較し, 関数の違いが判別できるか検討 Dim1 Dim3 Dim2 実数値空間 Hamming Distance Topology Evaluation Value ビット空間 Rastrigin Rosenbrock SGA 200個体

数値実験1:実数値空間による表示 Rastrigin Rosenbrock Generation 200 I S D L

数値実験1:実数値空間による表示 Rastrigin Rosenbrock Generation 200 I S D L

数値実験1:実数値空間による表示 Rastrigin Rosenbrock Generation 200 I S D L

コーディングの影響 コーディング前 関数の設計変数値 による外観 コーディング後 染色体をもとに,真の解から n回の突然変異で到達する点の 平均評価値 0 1  2  3 (n) 3210 平 均 評 価 値 突然変異回数 0 1 2 3 4 5 6 7 3210 評 価 値 設計変数値 単峰性で比較的簡単 真の解に近いと評価値悪い

コーディングの影響 コーディングの影響 コーディング前 関数の設計変数値 による外観 コーディング後 染色体をもとに,真の解から n回の突然変異で到達する点の 平均評価値 0 1 2 3 4 5 6 7 3210 設計変数値 評 価 値 0 1  2  3 (n) 3210 平 均 評 価 値 突然変異回数 多峰性で比較的複雑 真の解に向かって単調減少

コーディングの影響 GAは対象問題の 設計変数値をコード化し利用 設計変数値 真の解からの距離 (実数値) 真の解の変数値 4 3210 4 評 価 値 4 3 3 距離 評価値 真の解に近いほど 良い解 1 4 1 3 0 1 2 3 4 設計 変数値 評価値 1 3 設計変数値

コーディングの影響 GAは対象問題の 設計変数値をコード化し利用 真の解からの距離 (突然変異) 3210 0 1 2 3 4 染色体 3210 評 価 値 0 1 2 3 4 染色体 評価値 1 3 1 設計変数値 1 3 評価値 距離 真の解に近いほど 悪い解 1 Coding

関数の外観とGAによる探索 数値実験(1) 目的:関数の外観とGAによる探索の困難さ  対象:Ratrigin, Rosenbrock, Ridge, Rotated Rastrigin  方法:DGAを用い最適解発見に要する世代数 DGAのパラメータ 総個体数 640 選択方法 Roulette + Ranking 島数 8 Elite保存 1 移住間隔 5 交叉方法 1点 突然変異 0.01 Coding Gray 交叉率 1.0 移住率 0.3 試行回数 10

トラスの解の形状

内藤の手法 ハミング距離,フィットネス,頻度の3軸を用いる Ex.Stationary fitness-probability Landscape                           (内藤’94) 対象問題として組み合わせ最適化問題 最適解との ハミング距離 小(<L/8) 大(>L/8) frequency fitness value 連続最適化問題では,適合度値の最大と最小の差が 影響し,そのままでは利用できない

林田,高木の手法 適合度空間のランドスケープ可視化とユーザーの能動的探索による進化計算の高速化(2001) SOMを用いてデータ間の関係性を保持したまま写像 n-D searching space 2D コーディング前の設計変数値を用いているため, ビット空間の適合度空間を把握できない可能性がある

荒川らの手法 ラディアルベーシス関数ネットワークと領域適応型遺伝的アルゴリズムを用いた最適設計(2001) RBFを用いて目的関数を探索点から近似し,良好な近似大局解を求める コーディング前の設計変数値を用いているため, ビット空間の適合度空間を把握できない可能性がある

その他の検討手法(Analyze) ビルディング ブロックの エントロピー ビットの偏り

その他の検討手法(GUI) Histogram