<最適化の概念> 最適化すべき問 題 数学モデル 変数,数式 数理計画法 定められた計算手 順を用いて解くた めの方法論.

Slides:



Advertisements
Similar presentations
授業展開#12 コンピュータの扱いにくい問 題. 扱いにくい問題  処理時間がかかる。  メモリを大量に必要とする。  プログラムの優劣、アルゴリズムの優劣 を比較するためには、標準的なコン ピュータで比較する必要がある。  処理時間を計るのに、コンピュータのモ デルとして、チューリングマシンを考え、
Advertisements

1 線形代数学. 2 履修にあたって 電子情報システム学科 必修 2005 年度1セメスタ開講 担当 草苅良至 (電子情報システム学科) 教官室: G I 511 内線: 2095 質問等は上記のいずれかに行なうこと。 注意計算用のノートを準備すること。
2016 年度 計量経済学 講義内容 担当者: 河田 正樹
陰関数定理と比較静学 モデルの連立方程式体系で表されるとき パラメータが変化したとき 如何に変数が変化するか 至るところに出てくる.
0章 数学基礎.
Probabilistic Method 7.7
      ベクトル空間   実数体 体:数の集合で四則がその中で行えるもの 例)有理数全体、実数全体、複素数全体 R:実数体     C:複素数体  ベクトル空間
第6回 線形計画法の解法(4) 混合最小値問題 山梨大学.
ネットワーク理論講義補助資料 Text. 組合せ最適化とアルゴリズム 4.5 節 主・双対法 pp
豊中高校土曜講座「数学セミナー2003」 プラトン多面体の数学 なぜ正多面体は5種類しかないのか 大阪府立豊中高等学校 深川 久.
「基礎OR」/「OR演習」 第2回 10/06/2009 森戸 晋.
第八回  シンプレックス表の経済的解釈 山梨大学.
近似アルゴリズム 第10章 終了時刻最小化スケジューリング
Finger patternのブロック化による 陰的wavelet近似逆行列前処理の 高速化
第三回 線形計画法の解法(1) 標準最大値問題 山梨大学.
第四回 線形計画法(2) 混合最大値問題 山梨大学.
データ構造と アルゴリズム 理工学部 情報システム工学科 新田直也.
スペクトル法による数値計算の原理 -一次元線形・非線形移流問題の場合-
Extremal Combinatorics 14.1 ~ 14.2
土木計画学 第11回(12月21日) 土木計画と説明責任 計画における代替案の作成1 担当:榊原 弘之.
論理式の表現を数学的に取り扱いやすくするために代数学の助けを借りる.
「基礎OR」/「OR演習」 第3回 10/13/2009 森戸 晋.
整数計画法を用いた ペグソリティアの解法 ver. 2.1
データ構造と アルゴリズム 第二回 知能情報学部 新田直也.
第二回 連立1次方程式の解法 内容 目標 連立1次方程式の掃出し法 初期基底を求める 連立1次方程式を掃出し法を用いてExcelで解析する
線形代数学 4.行列式 吉村 裕一.
第5回 双対問題 テキストp 内容 双対問題の導出 式を足しあわせる方法 Lagrange緩和 相補性条件 双対辞書
データ構造と アルゴリズム 知能情報学部 新田直也.
第 七 回 双対問題とその解法 山梨大学.
1章前半.
第九回 問題の定式化練習と 自主研究課題 山梨大学.
Probabilistic Method 6-3,4
      線形写像  線形写像 U,V:R上のベクトル空間 T:UからVへの写像 (1)T(u+v)=T(u)+T(v)  (u,v∈U),
A path to combinatorics 第6章前半(最初-Ex6.5)
Selfish Routing and the Price of Anarchy 第2回
計算量理論輪講 岩間研究室 照山順一.
ネットワーク理論講義補助資料 Text. 組合せ最適化とアルゴリズム 4.3 節 Lagrange緩和 pp
第6章 カーネル法 修士2年 藤井 敬士.
Linear Relaxation for Hub Network Design Problems
サポートベクターマシン によるパターン認識
情報学研究科 通信情報システム専攻 小野寺研究室 M1 奥村 佳弘
数学 ---> 抽象化、一般化 より複雑な関係ー>解析学 一次関数 y=ax+b より多くの要素ー>線形代数 x y f(x) y1 x1
3. 可制御性・可観測性.
第25章 単一始点最短路 3節 Bellman-Fordのアルゴリズム
Basic Tools B4  八田 直樹.
線 形 代 数 (linear algebra) linear ・・・ line(直線)の形容詞形 直線的な、線形の、一次の
第7章 疎な解を持つカーネルマシン 修士2年 山川佳洋.
25. Randomized Algorithms
計算量理論輪講 chap5-3 M1 高井唯史.
A First Course in Combinatorial Optimization Chapter
多変量解析 ~主成分分析~ 1.主成分解析とは 2.適用例と解析の目的 3.解析の流れ 4.変数が2個の場合の主成分分析
連続領域におけるファジィ制約充足問題の 反復改善アルゴリズムによる解法 Solving by heuristic repair Algorithm of the Fuzzy Constraint Satisfaction Problems with Continuous Domains 北海道大学.
第4回 線形計画 2000年11月 第4回 線形計画.
中学数学1年 3章 方程式 §1 方程式とその解き方 (6時間).
9.通信路符号化手法1 (誤り検出と誤り訂正の原理)
プロセスデータ解析学5 -主成分分析- 担当:長谷部伸治     金 尚弘.
知識科学研究科 知識システム構築論講座 林研究室 佛明 智
4. システムの安定性.
「データ学習アルゴリズム」 第3章 複雑な学習モデル 報告者 佐々木 稔 2003年6月25日 3.1 関数近似モデル
ナップサック問題 クマさん人形をめぐる熱いドラマの結末.
第3章 線形回帰モデル 修士1年 山田 孝太郎.
サプライ・チェイン最適化について 研究者・実務家が知っておくべきこと
第16章 動的計画法 アルゴリズムイントロダクション.
第9章 学習アルゴリズムとベイズ決定側 〔3〕最小2乗法とベイズ決定側 発表:2003年7月4日 時田 陽一
土木計画学 第12回(1月14日) 計画における代替案の作成2 担当:榊原 弘之.
構造方程式ゼミナール 2012年11月14日-11月21日 構造方程式モデルの作成.
コストのついたグラフの探索 分枝限定法 A*アルゴリズム.
パターン認識特論 カーネル主成分分析 和田俊和.
各種荷重を受ける 中空押出形成材の構造最適化
Time Reversal E-Text: pp.80-83(PDF: pp.49-50) FM08002 太神 諭
Presentation transcript:

<最適化の概念> 最適化すべき問 題 数学モデル 変数,数式 数理計画法 定められた計算手 順を用いて解くた めの方法論

<数理計画> 対象とする数理モデルが現 実のどのような問題を定式 化したものであるかにかか わらず、数学的構造がおな じであれば共通の方法が適 用できる。

<数理計画モデル> ・線形計画問題 ・ネットワーク計画問題 ・非線形計画問題 ・組合せ計画問題

線形計画モデル < 生産計画問題> 4種類の原料A,B,C,Dを用いて、3種 類の製品 I,II,III を生産している工場が、最大 の利益をあげるにはどのような生産計画をた てればよいか。 変数:各製品 I,II,III の生産量 x 1, x 2, x 3

製品を1単位生産するごとに得られる利 益 製品 I,II,III : 70 万円、 120 万円、 30 万円 各製品を x 1, x 2, x 3 単位づつ生産したと きの総利益 70x 1 + 120x 2 + 30x 3 (万 円) 最大化 目的関数

I II III A B C D 生産計画問題のデー タ 原料の利用可能量 A : 80 単 位 B : 50 単位 C : 100 単 位 D : 70 単 位 5x 1 + 6x 3 ≦ 80 2x 2 + 8x 3 ≦ 50 7x 1 + 15x 3 ≦ 100 3x 1 + 11x 2 ≦ 70 x 1 ≧ 0, x 2 ≧ 0, x 3 ≧ 0 制約条件

目的関数: 70x 1 + 120x 2 + 30x 3 最 大 < 線形計画問題> 制約条件: 5x 1 + 6x 3 ≦ 80 2x 2 + 8x 3 ≦ 50 7x 1 + 15x 3 ≦ 100 3x 1 + 11x 2 ≦ 70 x 1 ≧ 0, x 2 ≧ 0, x 3 ≧ 0

x = x1x1 x2x2 x3x3 A = b = c = 目的関数: c T x 最大 制約条件: Ax ≦ b, x ≧ 0

数理計画法 目的関数: f(x)=f(x 1, x 2 ・・・x n ) ->最小化 制約条件: g 1 (x)≦0 g 2 (x)≦0 ・・・・・・ g m (x)≦0 f(x),gi(x)が線 形(一次式) ->線形計画問題 f(x)またはgi(x) が非線形 ->非線形計画問題 変数 x =(x 1 ,x 2 ,・ ・・x n ) の値が整数値(離散量) ->整数計画問題 (離散的最適化問題 組合せ最適化問題)

線形計画問題 目的関数: c T x 最小 制約条件: Ax = b, x ≧ 0 <標準形> いくつかの1次不等式や等式で表 される制約条件のもとで,1次関数 を最大あるいは最小にする問題.

目的関数: - 2x 1 + 5x 2 最大 制約条件: 4x 1 - 6x 2 = 30 2x 1 + 8x 2 ≦ 50 7x 1 + 5x 2 ≧ 10 x 1 ≧ 0, x 2 は符号制約なし

<標準形との相違点> (1)目的関数を最大化 (2)変数 x 2 には符号の制約がない (3)2番目と3番目の制約条件が不 等式 (1)目的関数に-1を掛ける (2) x 2 = x’ 2 - x” 2, x’ 2 ≧ 0, x” 2 ≧ 0 (3)新しい非負変数 x 4, x 5 を導入(スラッ ク変数)

目的関数: 2x 1 - 5x 2 + 5x 3 最小 制約条件: 4x 1 - 6x 2 + 6x 3 = 30 2x 1 + 8x 2 - 8x 3 + x 4 = 50 7x 1 + 5x 2 - 5x 3 - x 5 = 10 x 1 ≧ 0, x 2 ≧ 0, x 3 ≧ 0, x 4 ≧ 0, x 5 ≧ 0

目的関数: - x 1 - x 2 最小 制約条件: 3x 1 + 2x 2 ≦ 12 x 1 + 2x 2 ≦ 8 x 1 ≧ 0, x 2 ≧ 0 基底解と最適解

x x 2 = 8 0 x1x1 x2x2 最適解 810 3x x 2 = 12 実行可能領域 目的関数の等高線 - x 1 - x 2 = - z

<2変数の線形計画問題> 実行可能領域:平面上の凸多角形 目的関数の等高線:平行な直 線 最適解:凸多角形の境界上に存在 <一般の線形計画問題> 実行可能領域:空間 R n 上の凸多面体 最適解:凸多面体の頂点のなかに存 在 シンプレックス法(単体法): G.B.Dantzig (1947)

目的関数: - x 1 - x 2 最小 制約条件: 3x 1 + 2x 2 + x 3 = 12 x 1 + 2x 2 + x 4 = 8 x 1 ≧ 0, x 2 ≧ 0, x 3 ≧ 0, x 4 ≧ 0 <標準形>

2つの変数を適当に選んでそれらを0と おけば、残りの2つの変数は一意的に定 まる。 基底解 基底解のうち x ≧ 0 を満たすもの 実行可能基底解 基底解を定める際に 0 とおいた変 数 非基底変数 x N それ以外の変数 基底変数 x B

(a) x = (2,3,0,0) T :基底変数 x B = (x 1,x 2 ) T , 非基底変数 x N = (x 3,x 4 ) T (b) x = (8,0,-12,0) T : x B = (x 1,x 3 ) T , x N = (x 2,x 4 ) T (c) x = (4,0,0,4) T : x B = (x 1,x 4 ) T , x N = (x 2,x 3 ) T (d) x = (0,4,4,0) T : x B = (x 2,x 3 ) T , x N = (x 1,x 4 ) T (e) x = (0,6,0,-4) T : x B = (x 2,x 4 ) T , x N = (x 1,x 3 ) T (f) x = (0,0,12,8) T : x B = (x 3,x 4 ) T , x N = (x 1,x 2 ) T

x1x1 x2x2 810 (a) (c)(b) (e) (d) (f) x 3 =0 x 4 =0 x 2 =0 x 1 =0 基底解と実行可能基底 解

<一般の標準形問題の制約条件> Ax = b, x ≧ 0 A : m×n 行列 m < n かつ rank A = m とする 変数 n 個,基底変数 m 個,非基底変数 n - m 個 x B : m 次元基底変数ベクト ル x N : (n - m) 次元非基底変数ベクト ル

行列 A の n 本の列を,基底変数に対応す る m 本の列と非基底変数に対応する n - m 本の列に分割する. 基底変数に対応する m×n 行列 B: 基底行列 非基底変数に対応する m×(n - m) 行列 N : 非基底行列 A = (B, N)

A = (B, N) とする。 Ax =bAx =b Bx B + Nx N = b B が正則ならば ,非基底変数の値を0と おくことにより ,基底解が得られる. x B = B -1 b , x N = 0 B -1 b ≧ 0 のとき,実行可能基底解

実行可能 基底解 実行可能領域 (凸多面体)の頂 点 対応 1組の基底変数と非 基底変数の入れ替え 1つの頂点から隣 り合う別の頂点に 移動 ピボット操 作

<最適性の判定> A = (B, N) Ax =bAx =b Bx B + Nx N = b x B = B -1 ( b - Nx N ) Bx B = b - Nx N x B = B -1 b - B -1 Nx N

目的関数に代入 c T x = c T B x B + c T N x N x B = B -1 b - B -1 Nx N = c T B ( B -1 b - B -1 Nx N ) + c T N x N = c T B B -1 b + ( c T N - c T B B -1 N ) x N π = (B T ) -1 c B とする( π :シンプレックス乗 数) c T N - π T N = c T N - c T B B -1 N ≧ 0 が成り立つならば最適解

c T N - π T N = c T N - c T B B -1 N ≧ 0 最適性の判定条件 すべての実行可能解 x N ≧ 0 の中で目的関数 は x N = 0 のとき最小値をとる. c T x = c T B B -1 b ( = π T b ) 実行可能解 ( x B , x N )=( B -1 b , 0 ) は最適解

例 (a) の実行可能基底解 c B = ( -1 , -1 ) T , c N = ( 0 , 0 ) T π = ( -1/4 , -1/4 ) T c T N - π T N = ( 0 , 0 ) T - ( -1/4 , - 1/4 ) T N = ( 1/4 , 1/4 ) 最適解 c N - N T π の各要素: x N の相対コスト係 数

シンプレックス 法 c T N - π T N = c T N - c T B B -1 N ≧ 0 最適性の条件 が成立していない場合、負の要素が少 なくとも一つ存在する。 x k x B = B -1 b - B -1 a k x k x B = B -1 b - B -1 Nx N x k を増加させれば目的関数の値を減少でき る

b = B -1 b , y = B -1 a k Δ = min {b i / y i | y i >0 (i=1,…,m)} 非基底変数 x k を最大 Δ まで増大させても 非負条件 x ≧ 0 は満たされる。 x k の値を Δ まで増やしたとき Δ = b i / y i を満たす i に対応する基底変数の値は 0

<シンプレックス法> (0) 初期実行可能基底解( x B , x N )=( B -1 b , 0 ) を選ぶ。 b = B -1 b とおく。 (1) シンプレックス乗数 π = (B T ) -1 c B を計 算 (2) 非基底変数の相対コスト係数 c j - π T a j がすべて0以上なら、最適基底解。計算終 了。 そうでなければ、 c k - π T a k < 0 である非基 底変数 x k を1つ選ぶ。

(3) ベクトル y = B -1 a k を計算 (4) ベクトル y に正の要素がなければ、問 題 は有界でない。計算終了。 そうでなければ、 Δ = min {b i / y i | y i >0 (i=1,…,m)} (5) 非基底変数の値を Δ 、それ以外の非基 底変数の値を 0 とおく。 x B = b - Δy 非基底変数 x k を基底変数とし、ステップ (4) で求めた i に対応する基底変数を非基底 変数とする。ステップ (1) に戻る。

シンプレックス・タ ブロー 相対コスト係数 c T N - π T N= c T N - c T B B -1 N B -1 A B -1 b - ( 目的関数値 ) x3x3 x4x4 =- c T B B -1 b

0 -1/3 1/ /3 1/ /3 -1/3 1 4 x1x1 x4x /4 1/ /2 -1/ /4 3/4 3 x1x1 x2x2

双対性 目的関数: c T x 最 小 制約条件: Ax = b, x ≧ 0 目的関数: b T w 最 大 制約条件: A T w ≦ c <主問題> <双対問題>

目的関数: c T x 最 小 制約条件: Ax ≧ b, x ≧ 0 目的関数: b T w 最 大 制約条件: A T w ≦ c, w ≧ 0 <主問題> <双対問題>

主問題 (primal problem) : (P) 双対問題 (dual problem) : (D) (P) と (D) それぞれの任意の実行可能 解 x , w に対して,常に不等式 c T x ≧ b T w が成り立つ. <弱双対定理> c T x ≧ ( A T w) T x = w T b Ax = b, x ≧ 0 および A T w ≦ c よ り [ 証明 ]

(P) または (D) の一方が最適解をもてば 他方も最適解をもち, (P) の最小値と (D) の最大値は等しい . <双対定理> c T x ≧ (D) の最大値 ( x : (P) の実行可能 解 ) b T w ≦ (P) の最小値 ( x : (D) の実行可能 解 ) c T x = b T w ならば x , w は最適 解

材料 ビタミン C ビタミン D 値段 R 1 a 11 mg / g a 21 mg / g c 1 円/ g R 2 a 12 mg / g a 22 mg / g c 2 円/ g R 3 a 13 mg / g a 23 mg / g c 3 円/ g ビタミン C , D を b 1 mg , b 2 mg 以上含む料 理

目的関数: c 1 x 1 + c 2 x 2 + c 3 x 3 最 小 制約条件: a 11 x 1 + a 12 x 2 + a 13 x 3 ≧ b 1 x 1 ≧ 0, x 2 ≧ 0, x 3 ≧ 0 a 21 x 1 + a 22 x 2 + a 23 x 3 ≧ b 2 x j :材料 R j の量

ビタミン C , D の1 mg あたりの価格: w 1 円,w 2 円 目的関数: b 1 w 1 + b 2 w 2 最大 制約条件: a 11 w 1 + a 21 w 2 ≦ c 1 w 1 ≧ 0, w 2 ≧ 0 a 12 w 1 + a 22 w 2 ≦ c 2 a 13 w 1 + a 23 w 2 ≦ c 3 双対問題の最適解 w * :主問題の潜在価格 (シャドウ・プラ イス)

多項式時間アルゴリズ ム シンプレックス法の反復回 数: 制約条件の数の 1.5 倍から 3 倍程 度 多項式時間アルゴリズムではない <内点法> 多項式時間アルゴリズム 大規模な問題ではシンプレックス法より効 率的