第4回  推 論(2).

Slides:



Advertisements
Similar presentations
PRML読書会第11回 8.4 グラフィカルモデルによる推論 SUHARA YOSHIHIKO (id:sleepy_yoshi)
Advertisements

1 小暮研究会2 第1章ベイジアンアルゴリズ ム 2値選択 ベルヌーイ試行 尤度原理 同一性 交換可能性 尤度についてのまとめ 環境情報学部3年 渡邊洋一.
立命館大学 情報理工学部 知能情報学科 谷口忠大. Information このスライドは「イラ ストで学ぶ人工知能概 論」を講義で活用した り,勉強会で利用した りするために提供され ているスライドです.イラ ストで学ぶ人工知能概 論.
一階述語論理 (first-order predicate logic) 一階述語論理入門 構文論(論理式の文 法) 意味論(論理式の解 釈) 認知システム論 知識と推論(4) 知識と論理でを組み合わせて問題を解決する.
プログラミング言語論 第10回(演習) 情報工学科 木村昌臣   篠埜 功.
人工知能特論2011 No.4 東京工科大学大学院 担当教員:亀田弘之.
第1回 確率変数、確率分布 確率・統計Ⅰ ここです! 確率変数と確率分布 確率変数の同時分布、独立性 確率変数の平均 確率変数の分散
人工知能特論2007 No.4 東京工科大学大学院 担当教員:亀田弘之.
白井 良明 立命館大学情報理工学部 知能情報学科
離散数学入門 (集合論、ベン図) 情報システム学科 中田豊久.
融合原理による推論 (resolution)
確率・統計Ⅰ 第11回 i.i.d.の和と大数の法則 ここです! 確率論とは 確率変数、確率分布 確率変数の独立性 / 確率変数の平均
ファジィ論理と ファジィ構造モデリング 北海道工業大学 情報デザイン学科 三田村 保.
節集合 (set of clauses) 認知システム論 知識と推論(5) 一階述語論理による知識表現の技法 節集合への変換
充足不能性と導出原理 充足不能性の証明 スコーレム標準形 エルブラン解釈 導出原理 基礎節に対する導出 導出原理の完全性と健全性.
論理式の表現を数学的に取り扱いやすくするために代数学の助けを借りる.
第2回  知識表現 第2回  知識表現.
人工知能特論2011 資料No.6 東京工科大学大学院 担当教員 亀田弘之.
香川大学工学部 富永浩之 情報数学1 第5-2章 命題論理式の 同値変形とカルノー表 香川大学工学部 富永浩之
立命館大学 情報理工学部 知能情報学科 谷口忠大
人工知能特論2011 No.3 東京工科大学大学院 担当教員:亀田弘之.
「データ学習アルゴリズム」 第2章 学習と統計的推測 報告者 佐々木 稔 2003年5月21日 2.1 データと学習
数理論理学 第1回 茨城大学工学部情報工学科 佐々木 稔.
9.NP完全問題とNP困難問題.
Probabilistic Method 6-3,4
エージェントアプローチ 人工知能 7章・8章 B4 片渕 08/07/18.
(ラプラス変換の復習) 教科書には相当する章はない
表現系工学特論 項書換え系(4) 完備化 1.語問題と等式証明 2.合流性とチャーチ・ロッサ性 3.完備化手続き.
【小暮研究会2】 「ベイズのアルゴリズム」:序章 【1,2:計量経済分析と統計分析】 【 3:ベイズ定理】
充足可能性問題SAT (Satisfiability Problem)
数理論理学 第11回 茨城大学工学部情報工学科 佐々木 稔.
自動定理証明と応用 (automated theorem proving and its application)
命題論理 (Propositional Logic)
寄せられた質問: 演習問題について この講義の範囲に含まれる適切な演習問題が載っている参考書がありますか? できれば解答や解説が付いているものがあると良いのですが… 第3回の授業の中で、演習問題に取り組む方法を説明します.
不完全な知識 不完全な知識に基づく問題解決 フレーム問題 制約条件記述問題 非単調推論 極小限定 常識の定式化 並列極小限定.
第4章 組合せ論理回路 (4) Quine McCluskeyの方法.
プログラミング言語論プログラミング言語論 プログラムの意味論 水野嘉明
述語論理と∀(全称)∃(存在) 3回の講義の概観: 命題論理 (真理値) (公理と推論規則) 述語論理 (モデルと解釈)
述語論理と∀(全称)∃(存在) 3回の講義の概観: 命題論理 (真理値) (公理と推論規則) 述語論理 (モデルと解釈)
人工知能概論 第14回 言語と論理(3) 証明と質問応答
形式言語の理論 5. 文脈依存言語.
7.4 Two General Settings D3 杉原堅也.
数理論理学 第3回 茨城大学工学部情報工学科 佐々木 稔.
Prolog入門 ーIT中級者用ー.
6. ラプラス変換.
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
予測に用いる数学 2004/05/07 ide.
 型推論1(単相型) 2007.
論理と推論 命題論理 推論 命題論理体系の健全性と完全性 構文と意味 → 同値関係と標準形(節形式) 決定問題と意味木 推論規則
計算機科学概論(応用編) 数理論理学を用いた自動証明
論理プログラミング 導出の効率化 論理プログラム ホーン節 ホーン集合に対する導出戦略 論理式の手続き的解釈 Prolog
(1)序論 人工知能とは 歴史 方法論 人工知能の基礎 問題解決 探索 推論 知識.
知能情報システム特論 Introduction
数理論理学 第12回 茨城大学工学部情報工学科 佐々木 稔.
融合原理 (resolution) 人工知能 論理と推論(2) 論理的帰結 節形式 融合原理 知識を組み合わせて知識を生み出す
ベイジアンネットワーク概説 Loopy Belief Propagation 茨城大学工学部 佐々木稔
 型推論3(MLの多相型).
論理回路 第4回
上のURLはシラバスに掲載されている (念のために次ページに拡大表示します)
経営学研究科 M1年 学籍番号 speedster
アルゴリズムと数式の表現 コンピュータの推論
第7回  命題論理.
論理回路 第5回
数理論理学 第9回 茨城大学工学部情報工学科 佐々木 稔.
述語論理式の構文と意味 一階述語論理式の構文 一階述語論理式の意味 述語,限量記号 自然言語文の述語論理式表現 解釈 妥当,充足不能
矛盾した知識 デフォルト推論 仮説を用いた推論 準無矛盾推論 デフォルト規則 デフォルト理論の拡張 → デフォルト証明 シナリオ
4.プッシュダウンオートマトンと 文脈自由文法の等価性
香川大学工学部 富永浩之 情報数学1 第5-2章 命題論理式の 同値変形とカルノー表 香川大学工学部 富永浩之
数理論理学 最終回 茨城大学工学部情報工学科 佐々木 稔.
立命館大学 情報理工学部 知能情報学科 谷口忠大
Presentation transcript:

第4回  推 論(2)

知識表現の種類と特徴-7(再) 述語論理(predicate calculus, logic) 知識表現の種類と特徴-7(再)   述語論理(predicate calculus, logic) 種々の知識を表現するための形式的言語 ~ 第1階述語論理 知識を記号の式として数学的に表現 cf)述語: 真偽判定可能な叙述 例) (∀X)(elephant(X) → color(X, gray)) 理論的基盤が保証されている 導出原理(resolution principle)による推論 人間の持つ曖昧性を組み込むことが困難

述語論理表現に用いる記号 定数 変数 関数記号: plus(X, Y) 述語記号: red(X)、study(x, school, English) 論理結合子:  -連言(conjunction): ∧ 選言(disjunction): ∨ -否定(negation): ¬   含意(implication): → 束縛(量)記号: -全称記号: ∀ 存在記号: ∃

融合法(背理法) 一階述語論理の論理式が充足不能(恒偽)かどうかを判定する部分的決定手続き 冠頭標準形への変換 Skolem標準形への変換 融合の実行 代入 単一化 融合節の生成 空節の導出 ~ 矛盾生成

融合法(背理法)の原理 対象領域D, 論理式M[x]に対し, 一方, ∀x [M[x]]が真であることを示すのは困難 ∃a∈Dに対し, M[a]が偽であることを示せば  恒偽式であることは示せる

節形式 素(原子)命題: 述語記号と項から構成される命題 リテラル(literal): 素命題、または素命題の否定 素(原子)命題: 述語記号と項から構成される命題 リテラル(literal): 素命題、または素命題の否定 節(clause): リテラル、またはリテラルの選言 節形式命題:  (∀x1) (∀x2) ・・ (∀xn)[C1∧C2 ∧ ・・∧Cm] []内: 母式(matrix)

節形式への変換-1 冠頭標準形:論理式F: (Q1x1)・・・(Qnxn)α (Q1x1)・・・(Qnxn):冠頭部α:本体 Qi:束縛子 P → Qを¬P∨Qに、 A≡Bを( ¬A∨B)∧( ¬B∨A)に変換 否定記号の括り出し: ¬(¬A)=A ¬(A∧B)= ( ¬A∨¬B) ¬(A∨B)= ( ¬A∧¬B) ¬ ((∀x)α)= (∃x)(¬α) ¬ ((∃x)α)= (∀x)(¬α)

節形式への変換 -2 Skolem標準形への変換 連言標準形へ変換 存在記号∃の除去: (∀x) (∃y)P(x,y) = (∀x) P(x, f(x))     f(x): Skolem関数 存在記号を含む変数を引数とする新しい関数で置き換えたもの

節形式への変換 -3 分配法則を用いて、母式を 選言の連言結合形に変換: (A∧B)∨(B∧C)=(A∨B)∧ (B∨C)∧B∧(A∨C) 第9回  一階述語論理 mutty@ics.kagoshima-u.ac.jp 節形式への変換 -3 分配法則を用いて、母式を 選言の連言結合形に変換: (A∧B)∨(B∧C)=(A∨B)∧ (B∨C)∧B∧(A∨C) P∨(Q∧R)=(P∨Q)∧(P∨R) P∧(Q ∨ R)=(P∧Q)∨(P∧R) 2.節集合への変換:  P ∨ Q ∨ ¬ R  ⇒  {P, Q, ¬ R}  (A∨B)∧ (B∨C)∧B∧(A∨C) ⇒ {{A,B}, {B,C}, {B}, {A,C}}

融合法による推論-1 節の統合 ~ 節集合に変換する前 基本:(P, P→Q)⇒Q (P→Q, Q→R)⇒ P→R 節の統合 ~ 節集合に変換する前 基本:(P, P→Q)⇒Q  (P→Q, Q→R)⇒ P→R 例: C1 = L∨M1∨M2 ・・ ∨Mk   C2 = ¬L∨N1∨ N2 ・・ ∨Nl の統合 (¬M1∧ ~M2∧ ・・ ∧ ~Mk) → L 及び L → (N1∨ N2 ・・ ∨Nl ) ⇒  (¬M1∧ ¬M2∧ ・・ ∧ ¬Mk) → (N1∨ N2 ・・ ∨Nl ) ⇒  M1∨M2 ・・ ∨Mk∨ N1∨ N2 ・・ ∨Nl = C3

融合法による推論-2 単一化(unification) 複数のリテラルの変数に適当な項を置換・代入することにより、全てのリテラルを同一化すること 置換(substitution) s=P/Q: 変数QをPで置換える こと ← 全称記号∀のみなのでOK 例)P(y, f(x))とP(a,z)の単一化  s1=a/y: P(y, f(x)) ⇒ P(a, f(x)), P(a,z)不変 s2=f(x)/z: P(a, z) ⇒ P(a, f(x)) で一致

融合法による推論-3 融合節の生成・空節の導出 ← 導出原理(resolution principle) 目標の否定を前提に加えた節の集合から導出・単一化を繰り返すことにより、矛盾(空節)を導く

融合法による推論例 前提S: A(x, b, c)∨B(x) ¬A(g(a), y, z) ¬B(v)∨ C(y, f(u)) 目標: C(b, f(h(y))) [解法] 目標の否定¬C(b, f(h(y)))を前提Sに加えて  NILを導出: 一通りとは限らない

融合法による推論の例(結果) ¬ P∧¬P=空 ¬ ¬

不確実な事実・知識による推論 例外(非単調性)に起因する不確実性: - サーカムスクリプション - デフォルト推論 曖昧さに起因する不確実性: - 信頼性係数(CF:Certainty Factor) - ファジィ理論 - Dempster-Shafer(DS)理論

非単調論理による推論 論理体系の単調性:  A⊂B ならば Th(A) ⊂Th(B) X: 矛盾の無い命題(公理)の集合 Th(X): Xから証明される定理の集合 *拡張: 公理系に推論規則を適用することにより 論理式の集合(定理群)を得ること 非単調論理(non-monotonic logic): 単調性が成立しない論理体系  ←例外を含む知識(常識・・)が存在、・・  

例外への対処 知識の適用対象を限定することによる 古典(述語)論理への帰着: - サーカムスクリプション 様相記号の導入による古典論理の拡張: - デフォルト推論

閉世界仮説とサーカムスクリプション 閉世界仮説(closed world assumption): ¬P(x)が証明できなければP(x)は真とする ~ 実世界では不成立、人間の通常の推論過程 サーカムスクリプション(極小限定) : 述語P(x)に関する命題A(P)が成立している場合A(φ)∧(∀x)[{φ(x)∧ ¬E(φ)} → P(x)] → (∀x) [P(x) →φ(x)] E:例外

閉世界仮説とサーカムスクリプションの例 P≡BLOCK: (∀x)[BLOCK(x)→(x=a∨x=b∨x=c)]:閉世界仮説 A(φ)∧(∀x)[φ(x) → BLOCK(x)] → (∀x) [BLOCK(x) →φ(x)] ここでφ(x) ≡ (x=a ∨x=b ∨ x=c)とすれば、 (∀x)[(x=a ∨x=b ∨ x=c) → BLOCK(x)] →  (∀x)→[BLOCK(x)(x=a ∨x=b ∨ x=c)] φ(x)≡RED (x)とすれば、 [RED(a)∧RED(b)∧RED(c)] ∧(∀x)[RED(x) → BLOCK(x)] →(∀x) [BLOCK(x) →RED(x)]

デフォルト推論 Pが成立ち、¬Qが証明されていなければ、 Rが成立つ; P:MQ R P:前提 Q:仮定 R:帰結 M:様相記号  Rが成立つ;  P:MQ            R  P:前提 Q:仮定 R:帰結 M:様相記号 正規デフォルト規則: P:MQ             Q 拡張: 公理系に推論規則を適用することにより 論理式の集合(定理群)を得ること  - 多重拡張 ~ 拡張結果が複数通り出現 - 演繹結果が規則の適用順序に依存

デフォルト推論の例 哺乳類(x) → ゆったり(x) 鯨(x) → 脊椎動物(x) 鯨(x) → ¬翼がある(x) 鯨(x) → 水棲(x)

信頼性係数による推論 血液感染症診断支援・MYCINで最初に導入 後向き推論の効率化に有効 理論的裏付けに乏しい 更新規則:前件(左辺)C1*C2 ・・、 後件(右辺)A CF(右辺)= CF(左辺) CF(規則) CF(C1∧C2 ・・ ∧Ck)=min(CF(Ci ) ) CF(C1∨C2 ・・ ∨Ck)=max(CF(Ci ) ) ~当初  その後は、  =CF(C1)+CF(C2)(1-CF(C1))・・

MYCINにおける知識の例 事実型: ・培養基の場所は血液である(1.0) ・培養基の菌は好気性である(0.25) ・培養基の菌は大腸菌である(0.75) (): 確信度 プロダクションルール型: もし  感染症の種類が一次敗血症であり、  培養基の場所が無菌の場所であり、  培養された菌の入口が胃腸管と推定される ならば、  その菌はバクテロイドである兆候がある(0.7)

MYCINにおける推論の例 0.4+0.54(1.0-0.4)=0.72 後向き推論: 結論を仮定して、 ルールの前件部を チェックすることにより、 結論の確からしさを チェック 0.5+0.8(1.0-0.5)=0.9

ベイズネットワークにおける確率推論 ベイズの定理に基づく不確実な情報に 基づく推論 第12回   不確実性の取り扱い mutty@ics.kagoshima-u.ac.jp ベイズネットワークにおける確率推論 ベイズの定理に基づく不確実な情報に 基づく推論 確率変数間の依存関係に関する知識を グラフとして保持・更新 ・ノード: 確率変数 ・アーク: ノード間の因果関係の存在

確率集合関数 コルモゴロフの公理系 P(E)≧0 P(Ω) =1 Ω:基礎空間(事象の全体集合) Fi が互いに独立(素)の時 第12回   不確実性の取り扱い mutty@ics.kagoshima-u.ac.jp 確率集合関数 コルモゴロフの公理系 P(E)≧0 P(Ω) =1    Ω:基礎空間(事象の全体集合) Fi が互いに独立(素)の時   P(F1∪F2 ∪・・ ∪Fk) = P(F1) + P(F2 ) +・・ +P(Fk)

基本的な性質 P(φ)= 0 φ:空集合 E⊇Fの時 P(E)≧P(F) P(Ec)=1 - P(E) Ec :Eの補集合≡Ω- E 第12回   不確実性の取り扱い mutty@ics.kagoshima-u.ac.jp 基本的な性質 P(φ)= 0 φ:空集合 E⊇Fの時 P(E)≧P(F) P(Ec)=1 - P(E)   Ec :Eの補集合≡Ω- E P(E∪F)=P(E)+P(F)- P(E∩F): 確率の加法公式

条件付確率と乗法定理 事象E,Fに関して, 条件付確率: P(E/F) = P(E∩F)/P(F) 第12回   不確実性の取り扱い mutty@ics.kagoshima-u.ac.jp 条件付確率と乗法定理 事象E,Fに関して, 条件付確率: P(E/F) = P(E∩F)/P(F) 確率の乗法公式: P(E∩F)= P(F) P(E/F) = P(E) P(F/E) ●E,Fが独立の時, P(E∩F)= P(E) P(F)

第12回   不確実性の取り扱い mutty@ics.kagoshima-u.ac.jp ベイズの定理 Fi が互いに独立(素),かつ F1∪F2 ∪・・ ∪Fk= Ω P(E) = P(E/F1)P(F1)+ P(E/F2)P(F2) +・・・      + P(E/Fk)P(Fk) ベイズの定理: P(Fi/E) = P(E/Fi)・P(Fi) / P(E) = P(E/Fi)・P(Fi) / {P(E/F1)P(F1)+   P(E/F2)P(F2) +・・・+ P(E/Fk)P(Fk) }

ベイジアンネットの性質 ネットワークにおける全ての変数に対し,その親に条件付けされた各ノードの結合確率を規定するだけでOK 第12回   不確実性の取り扱い mutty@ics.kagoshima-u.ac.jp ベイジアンネットの性質 ネットワークにおける全ての変数に対し,その親に条件付けされた各ノードの結合確率を規定するだけでOK 以上で規定された条件付き確率は大域的に無矛盾であることが保証 各ノードにおける条件付き確率の集合は ネットワークにおける全てのノードの唯一の結合確率分布を規定 確率変数:{真,偽}

第12回   不確実性の取り扱い mutty@ics.kagoshima-u.ac.jp ベイズネットワークの例 「ボーナス」-「収入」: ボーナスが真のとき,  収入が真の確率0.8   偽の確率0.2 ボーナスが偽のとき,  収入が真の確率0.3   偽の確率0.7

ベイズネットワークのアルゴリズム 観測された変数の値をノードにセット 親ノードも観測値も持たないノードには 事前確率分布を付与 第12回   不確実性の取り扱い mutty@ics.kagoshima-u.ac.jp ベイズネットワークのアルゴリズム 観測された変数の値をノードにセット 親ノードも観測値も持たないノードには 事前確率分布を付与 確率を伝播し,知りたい対象の変数Xの事後確率を計算

P(旅行)=P(旅行/収入)・P(収入)+ P(旅行/¬収入)・P(¬収入) =0.2・0.6 + 0.5・(1.0-0.6) = 0.32 第12回   不確実性の取り扱い mutty@ics.kagoshima-u.ac.jp ベイズネットワークの例:確率計算 P(収入)=P(収入/ボーナス)・P(ボーナス)+ P(収入/¬ボーナス)・P(¬ボーナス) =0.8・0.6 + 0.3・(1.0-0.6) = 0.6 P(旅行)=P(旅行/収入)・P(収入)+ P(旅行/¬収入)・P(¬収入) =0.2・0.6 + 0.5・(1.0-0.6) = 0.32

ファジイ理論による推論 米・L.A.Zadehが提案 (1965) 確からしさを0~1の実数値で表現:主観 membership(所属度)関数による連続表現 μ(f(x)∧g(y))=min{μ(f(x)), μ(g(y)) } μ(f(x)∨g(y))=max{μ(f(x)), μ(g(y)) }

推論の例(エアコンの制御) 温度30度のときの目盛? 快適 → 切る やや暑い → 弱にする 暑い → 強にする  

推論結果(エアコンの制御) 温度30度 大きい方を選択 (1x0.4+2x0.4+ 3x0.2+4x0.6+ 0.2+0.6+0.6) =3.3