「基礎OR」/「OR演習」 第3回 10/13/2009 森戸 晋.

Slides:



Advertisements
Similar presentations
<最適化の概念> 最適化すべき問 題 数学モデル 変数,数式 数理計画法 定められた計算手 順を用いて解くた めの方法論.
Advertisements

数理統計学(第七回) 線形模型とは? 浜田知久馬 数理統計学第7回.
      ベクトル空間   実数体 体:数の集合で四則がその中で行えるもの 例)有理数全体、実数全体、複素数全体 R:実数体     C:複素数体  ベクトル空間
第6回 線形計画法の解法(4) 混合最小値問題 山梨大学.
数理統計学(第四回) 分散の性質と重要な法則
( ) ( ) 行 列 式 置 換 n文字の置換σ: n個の文字{1,2,・・・,n}から自分自身への1対1の写像 1 2 ・・・ n
ネットワーク理論講義補助資料 Text. 組合せ最適化とアルゴリズム 4.5 節 主・双対法 pp
det(tA)=Σ sgn(σ)aσ(1)1aσ(2)2・・・aσ(n)n
「基礎OR」/「OR演習」 第2回 10/06/2009 森戸 晋.
第八回  シンプレックス表の経済的解釈 山梨大学.
近似アルゴリズム 第10章 終了時刻最小化スケジューリング
「基礎OR」/「OR演習」 第1回 09/29/2009 森戸 晋.
第三回 線形計画法の解法(1) 標準最大値問題 山梨大学.
ネットワーク理論 Text. Part 3 pp 最短路問題 pp 最大流問題 pp.85-94
第四回 線形計画法(2) 混合最大値問題 山梨大学.
充足不能性と導出原理 充足不能性の証明 スコーレム標準形 エルブラン解釈 導出原理 基礎節に対する導出 導出原理の完全性と健全性.
授業展開#11 コンピュータは 何ができるか、できないか.
上坂吉則 尾関和彦 文一総合出版 宮崎大輔2003年6月28日(土)
土木計画学 第11回(12月21日) 土木計画と説明責任 計画における代替案の作成1 担当:榊原 弘之.
論理式の表現を数学的に取り扱いやすくするために代数学の助けを借りる.
第二回 連立1次方程式の解法 内容 目標 連立1次方程式の掃出し法 初期基底を求める 連立1次方程式を掃出し法を用いてExcelで解析する
多変数関数の積分(6/3~24) 重積分(2重積分) 第6章(§5は除く) 重積分の定義 「連続関数は積分可能」
第5回 双対問題 テキストp 内容 双対問題の導出 式を足しあわせる方法 Lagrange緩和 相補性条件 双対辞書
データ構造と アルゴリズム 知能情報学部 新田直也.
第 七 回 双対問題とその解法 山梨大学.
1章前半.
第九回 問題の定式化練習と 自主研究課題 山梨大学.
      線形写像  線形写像 U,V:R上のベクトル空間 T:UからVへの写像 (1)T(u+v)=T(u)+T(v)  (u,v∈U),
ネットワーク理論講義補助資料 Text. 組合せ最適化とアルゴリズム 4.3 節 Lagrange緩和 pp
Linear Relaxation for Hub Network Design Problems
サポートベクターマシン によるパターン認識
© Yukiko Abe 2014 All rights reserved
第8章 気楽に「線形計画法」を覚えよう 1.最適化問題 経済行動:制約→最適化行動 最適化行動:売上高→最大化 生産費→最小化
数学 ---> 抽象化、一般化 より複雑な関係ー>解析学 一次関数 y=ax+b より多くの要素ー>線形代数 x y f(x) y1 x1
6.大人数クラスの運営法 ゲーム理論 出席の取り方 まわし方(4通り) →出席表を2回まわす 1回目10:50~ 2回目11:20~
3. 可制御性・可観測性.
第25章 単一始点最短路 3節 Bellman-Fordのアルゴリズム
ネットワーク理論 Text. Part 3 pp 最短路問題 pp 最大流問題 pp.85-94
形式言語の理論 5. 文脈依存言語.
第9章 混合モデルとEM 修士2年 北川直樹.
独立成分分析 5 アルゴリズムの安定性と効率 2007/10/24   名雪 勲.
第7章 疎な解を持つカーネルマシン 修士2年 山川佳洋.
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
A First Course in Combinatorial Optimization Chapter
多変量解析 ~主成分分析~ 1.主成分解析とは 2.適用例と解析の目的 3.解析の流れ 4.変数が2個の場合の主成分分析
変換されても変換されない頑固ベクトル どうしたら頑固になれるか 頑固なベクトルは何に使える?
第4回 線形計画 2000年11月 第4回 線形計画.
公共経営研究科 「シミュレーション」森戸担当分 概要(12/02/05)
パターン認識特論 担当:和田 俊和 部屋 A513 主成分分析
9.通信路符号化手法1 (誤り検出と誤り訂正の原理)
プロセスデータ解析学5 -主成分分析- 担当:長谷部伸治     金 尚弘.
知識科学研究科 知識システム構築論講座 林研究室 佛明 智
4. システムの安定性.
ナップサック問題 クマさん人形をめぐる熱いドラマの結末.
論理回路 第4回
B03 量子論理回路の 最適化に関する研究 西野哲朗,垂井淳,太田和夫,國廣昇 電気通信大学 情報通信工学科.
サプライ・チェイン最適化について 研究者・実務家が知っておくべきこと
行列式 方程式の解 Cramerの公式 余因数展開.
第14回 前半:ラムダ計算(演習付) 後半:小テスト
土木計画学 第12回(1月14日) 計画における代替案の作成2 担当:榊原 弘之.
``Exponentiated Gradient Algorithms for Log-Linear Structured Prediction’’ A.Globerson, T.Y.Koo, X.Carreras, M.Collins を読んで 渡辺一帆(東大・新領域)
本時の目標 同じパターンの式の展開を乗法の公式としてまとめ、その公式を使って式の展開ができるようにする。
人工知能特論II 第8回 二宮 崇.
論理回路 第5回
行列 一次変換,とくに直交変換.
4.プッシュダウンオートマトンと 文脈自由文法の等価性
Cプログラミング演習 ニュートン法による方程式の求解.
割り当て問題(assignment problem)
プログラミング基礎a 第5回 C言語によるプログラミング入門 配列と文字列
東京工業大学情報理工学研究科 小島政和 第1回横幹連合コンファレンス 2005年11月25,26日 JA 長野県ビル
Presentation transcript:

「基礎OR」/「OR演習」 第3回 10/13/2009 森戸 晋

「基礎OR」/「OR演習」 10/13/09の内容 退化・巡回と単体法の有限収束性 コンピュータ出力と単体表の情報との関係 「双対問題」の導出 双対定理(弱双対定理、強双対定理、相補性定理) (時間があれば)前回宿題に関連して 鉄鉱石配合問題のΣjxj=1の双対価格の解釈

単体法計算のチェックリスト 右辺定数(目的関数値を除く)が非負か? (右辺定数が負はおかしい) 単位行列が隠れている 目的関数値が改善されている (「退化」(後で解説)していなければ,単調に改善していくはず)

前回(第2回)学んだ 基本概念/基本用語 基底解、可能基底解(bfs) 非基底変数、基底変数 基底形式、可能基底形式 単体表、単体法 軸演算(掃き出し演算) 軸の列、軸の行、軸 実行可能領域(許容領域)、端点(頂点)

線形計画問題の可能領域 LPの実行可能領域=  凸多面体  凸集合 端点⇒可能基底解に対応 実行不可能基底解

退化、巡回 単体法の有限収束性

演習課題3・1   単体法の計算1

演習課題3.1 単体法の計算2

退化した可能基底解 No.1

退化と巡回 退化 No.1やNo.2の単体表のように、(可能)基底解において、基底変数の値が0になること 巡回 退化を起こしている場合に、一度使われた基底集合が再び出現し、以後その同じ基底変換が無限に繰り返される現象  

定理1 単体法の有限収束性 「非退化」の仮定の下での簡易証明 定理1 単体法の有限収束性 「非退化」の仮定の下での簡易証明 1)可能基底解の選び方は明らかに有限個しかない(変数n個、制約m本では、異なる可能基底解の個数は高々 nCm 個で抑えられる) 2)非退化の仮定の下では、反復(=軸演算)毎に目的関数値が改善する 3)よって同じ可能基底解が繰り返されることはなく、有限回の反復の後、単体法は終了する

コンピュータ結果出力の情報と(最適)単体表との関係 限界コスト(被約費用) 潜在価格(双対価格) (最適)単体表に現れている!

コンピュータ結果出力の情報と (最適)単体表との関係 被約費用、限界コスト(reduced cost)=   第0行(目的関数行)の係数 潜在価格(shadow price)、双対価格(dual price)、単体乗数(simplex multiplier)=   第0行(目的関数行)の初期基底変数(スラック変数)の目的関数の係数 (いずれも、単体表の書き方やソフトによっては符号が逆転している可能性があるので、意味を考えること)

限界コスト(=被約費用) 潜在価格(=双対価格)

被約費用と潜在価格 z=22ーx3ーx4-x5 z=22ーx3-(x4-1)-x5  =23-x3-x4ーx5 スラック変数の被約費用=ースラック変数に対応する制約条件の潜在価格

黒板で説明 1)ラグランジュ緩和による導出 2)式の足し合わせによる導出(テキストを読むこと) 3)機械的(公式的)な導出 「双対問題」の導出 黒板で説明 1)ラグランジュ緩和による導出 2)式の足し合わせによる導出(テキストを読むこと) 3)機械的(公式的)な導出

宿題3.1 主問題と双対問題 制約 4x1+ 6x2 + 3 x3 ≦ 24 (P1) 最大化 z = x1+12x2+10 x3 宿題3.1 主問題と双対問題 (P1) 最大化 z = x1+12x2+10 x3        制約   4x1+ 6x2 + 3 x3 ≦ 24 2x1+ 3x2 + 6x3 ≦ 24 3x1+ x2 ≦ 12 x1, x2, x3≧ 0 y1 y2 y3 (P2) 最小化 w = 24y1+24y2+12 y3      制約  4y1+ 2y2 + 3 y3 ≧ 1 6y1+ 3y2 + 1 y3 ≧ 12 3y1+ 6y2 ≧ 10 y1, y2, y3≧ 0 x1 x2 x3

主問題と双対問題のソルバー結果の比較

双対問題の「機械的」作り方 1.最大化(最小化)問題ならば、右開き(左開き)の不等式制約、または等式制約の問題に変換する 2.主問題が最大化(最小化)問題ならば、双対問題は最小化(最大化)問題にする 3.基本的に、行と列を入れかえる 4.制約条件が不等式(等式)→対応する双対変数は非負条件あり(なし) 5.変数に非負条件あり(なし)→対応する制約条件は不等式(不等式;不等号の向きは、最小化なら左開き、最大化なら右開き)

双対問題の導出 次の問題(P)の双対問題を示せ (P) 最大化 z=4x1-2x2 制約 2x1+3x2 ≦ 4 -5x1+ x2 =-5     制約     2x1+3x2 ≦ 4           -5x1+ x2 =-5              x1-3x2 ≧ 3              x1≧0

双対問題の導出(2) (P’) 最大化 z=4x1-2x2 制約 2x1+3x2 ≦ 4 y1 -5x1+ x2 =-5 y2     制約     2x1+3x2 ≦ 4   y1           -5x1+ x2 =-5   y2            ー x1+3x2 ≦ ー3   y3              x1≧0 (x2は符号条件無) (D) 最小化 w=4y1ー5y2-3y3     制約     2y1-5y2 ーy3 ≧ 4             3y1+ y2+3y3 =-2            y1,y3≧0 (y2は符号条件無)

双対性と相補性

「主」問題と「双対」問題 (P) Max z = c1x1+c2x2 y1 a21x1+a22x2 ≦ b2 y2      s.t.     a11x1+a12x2 ≦ b1           a21x1+a22x2 ≦ b2           a31x1+a32x2 ≦ b3              x1≧0, x2≧0 (D)  Min  w =b1y1+b2y2+b3y3      s.t.    a11y1+a21y2+a31y3 ≧c1            a12y1+a22y2+a32y3 ≧c2              y1≧0, y2≧0,y3≧0 y1 y2 y3 双対変数は(P)の制約に対応

A A= 主問題のベクトル・行列表現 c1c2 c = x1x2 x = b1 b2b3 b = Max z = ctx (P)  Max  z = c1x1+c2x2       s.t.     a11x1+a12x2 ≦ b1           a21x1+a22x2 ≦ b2           a31x1+a32x2 ≦ b3              x1≧0, x2≧0 (注)ベクトルはすべて列ベクトルと仮定し,必要に応じて転置する c1c2 c = A x1x2 x = b1 b2b3 b = A= Max  z = ctx s.t.     A x ≦ b        x ≧ 0 a11 a12 a21 a22 a31 a32

A= At 双対問題のベクトル・行列表現 c1c2 c = b1 b2b3 b = Min w =bty (=ytb ) (D)Min w =b1y1+b2y2+b3y3    s.t.    a11y1+a21y2+a31y3 ≧c1         a12y1+a22y2+a32y3 ≧c2           y1≧0, y2≧0,y3≧0 c = At b1 b2b3 b = A= a11 a12 a21 a22 a31 a32 Min w =bty (=ytb )  s.t.  Aty ≧ c  (ytA≧ct) y ≧ 0

双対問題(対称型) (P) Max z = ctx s.t. A x ≦ b x ≧ 0 (D) Min w = ytb (w = bty)     s.t.     ytA ≧ ct  (Aty ≧ c)             y ≧ 0

双対問題(非対称型) (P) Max z = ctx s.t. A x = b x ≧ 0 (D)  Min  w = ytb (w = bty)     s.t.     ytA ≧ ct  (Aty ≧ c)             y の符号条件なし

定理2 (弱双対定理) (P)(最大化問題)の可能解x (D)(最小化問題)の可能解y z = ctx ≦ w = ytb 定理2 (弱双対定理) (P)(最大化問題)の可能解x (D)(最小化問題)の可能解y   z = ctx ≦ w  = ytb  主問題/双対問題の対を考えたとき,最小化問題の可能解の目的関数値は最大化問題の可能解の目的関数値以上

系3 (P)の可能解x;(D)の可能解y z = ctx = w = ytb → x は(P)の最適解 y は(D)の最適解 系3  (P)の可能解x;(D)の可能解y    z = ctx = w = ytb → x は(P)の最適解                 y は(D)の最適解 (P)の可能解の目的関数値と(D)の可能解の目的関数値が一致したならば,それらの解は各問題の最適解

定理4 (強双対定理) 最適解あり 下に有界 でない 実行不可能 (D)   最小化 (P)    最大化 ① 最適値一致 × ② ○ 上に有界

主問題と双対問題 制約 4x1+ 6x2 + 3 x3 ≦ 24 (P1) 最大化 z = x1+12x2+10 x3 (P2) 最小化 w = 24y1+24y2+12 y3      制約  4y1+ 2y2 + 3 y3 ≧ 1 6y1+ 3y2 + 1 y3 ≧ 12 3y1+ 6y2 ≧ 10 y1, y2, y3≧ 0

主問題と双対問題のソルバー結果の比較 主問題 双対問題

対称型の双対問題と相補性 (P) Max z = c tx s.t. A x ≦ b x ≧ 0 (P’) Max z = c tx (D) Min  w =y tb     s.t.   y tA ≧ c t               y ≧ 0     (D’) Min w = y tb         s.t.    ytA – μt= ct                   y ≧0, μ≧0

定理5 相補性定理 (P‘)の可能解 (x,λ) (D’) ″ (y,μ) に対して (x,λ) μtx =0 (y,μ) 最適 ytλ=0 定理5 相補性定理 (P‘)の可能解 (x,λ) (D’)   ″   (y,μ) に対して (x,λ) (y,μ) μtx =0 最適 ytλ=0 主問題の最適解において,ある制約のスラック変数が正ならば対応する双対問題の変数は0(相補スラック条件);相補スラック条件を満たす主問題・双対問題の可能解は最適

主問題と双対問題 制約 4x1+ 6x2 + 3 x3 ≦ 24 (P1) 最大化 z = x1+12x2+10 x3 (P2) 最小化 w = 24y1+24y2+12 y3      制約  4y1+ 2y2 + 3 y3 ≧ 1 6y1+ 3y2 + 1 y3 ≧ 12 3y1+ 6y2 ≧ 10 y1, y2, y3≧ 0

相補性をソルバー結果で見る 演習課題3.3の主/双対問題(P1)と(P2)に対して