東京工業大学 大学院総合理工学研究科 樺島祥介

Slides:



Advertisements
Similar presentations
1 宇宙は何からできてくるか ? 理学部 物理 森川雅博 宇宙を満たす未知のエネルギー:暗黒エネル ギー 局在する見えない未知の物質:暗黒物質 銀河・星・ガス 何からできているか … 2006/7/25.
Advertisements

効率的に計算可能な 加法的誤りの訂正可能性 安永 憲司 九州先端科学技術研究所 SITA 2012 @ 別府湾ロイヤルホテル
1 関西大学 サマーキャンパス 2004 関西大学 物理学教室 齊 藤 正 関大への物理 求められる関大生像 高校物理と大学物理 その違いとつながり.
ベイズの定理と ベイズ統計学 東京工業大学大学院 社会理工学研究科 前川眞一. 2 Coffe or Tea 珈琲と紅茶のどちらが好きかと聞いた場合、 Star Trek のファンの 60% が紅茶を好む。 Star Wars のファンの 95% が珈琲を好む。 ある人が紅茶を好むと分かったとき、その人が.
入門B・ミクロ基礎 (第4回) 第2章 2014年10月13日 2014/10/13.
第1回 確率変数、確率分布 確率・統計Ⅰ ここです! 確率変数と確率分布 確率変数の同時分布、独立性 確率変数の平均 確率変数の分散
自己重力多体系の 1次元シミュレーション 物理学科4年 宇宙物理学研究室  丸山典宏.
菊池自由エネルギーに対する CCCPアルゴリズムの拡張
確率・統計Ⅰ 第11回 i.i.d.の和と大数の法則 ここです! 確率論とは 確率変数、確率分布 確率変数の独立性 / 確率変数の平均
エージェントモデル シミュレーション.
統計解析 第9回 第9章 正規分布、第11章 理論分布.
単一分子接合の電子輸送特性の実験的検証 東京工業大学 理工学研究科  化学専攻 木口学.
アルゴリズムイントロダクション第5章( ) 確率論的解析
早稲田大学大学院 理工学研究科情報科学専攻 後藤滋樹研究室 1年 渡辺裕太
社会心理学のStudy -集団を媒介とする適応- (仮)
身近にある曲線や曲面の数理的構造に興味を持ったら,
初級ミクロ経済学 -ゲーム理論入門- 2014年12月15日 古川徹也 2014年12月15日 初級ミクロ経済学.
学年 名列 名前 福井工業大学 工学部 環境生命化学科 原 道寛
第1回応用物理学科セミナー 日時: 5月19日(月) 15:00ー 場所:葛飾キャンパス研究棟8F第2セミナー室 Speaker:鹿野豊氏
「データ学習アルゴリズム」 第2章 学習と統計的推測 報告者 佐々木 稔 2003年5月21日 2.1 データと学習
クラスター変分法と確率的情報処理 --Belief Propagation と画像処理アルゴリズム--
確率モデルによる 画像処理技術入門 --- ベイズ統計と確率的画像処理 ---
統計力学と情報処理 ---自由エネルギーの生み出す新しい情報処理技術--- 2003年8月12日前半
流体のラグランジアンカオスとカオス混合 1.ラグランジアンカオス 定常流や時間周期流のような層流の下での流体の微小部分のカオス的運動
重力レンズ効果を想定した回転する ブラックホールの周りの粒子の軌道
3次元剛体運動の理論と シミュレーション技法
数値相対論の展望        柴田 大 (東大総合文化:1月から京大基研).
課題研究 Q11 凝縮系の理論  教授  川上則雄 講師 R. Peters 准教授 池田隆介  助教 手塚真樹  准教授 柳瀬陽一.
原子核物理学 第8講 核力.
Statistical Physics and Singularity Theory
正規分布における ベーテ近似の解析解と数値解 東京工業大学総合理工学研究科 知能システム科学専攻 渡辺研究室    西山 悠, 渡辺澄夫.
奈良女子大集中講義 バイオインフォマティクス (9) 相互作用推定
確率・統計Ⅰ 第3回 確率変数の独立性 / 確率変数の平均 ここです! 確率論とは 確率変数、確率分布 確率変数の独立性 / 確率変数の平均
はじめに: 平均場理論を用いた情報処理の最近の動向
センサーネットワークでも 「More is different」
NTTコミュニケーション科学基礎研究所 村山 立人
物理学者でない人 のための統計力学 東京工業大学 渡辺澄夫 DEX-SMI 1/1/2019.
人工知能特論 9.パーセプトロン 北陸先端科学技術大学院大学 鶴岡 慶雅.
P3-12 教師が真の教師のまわりをまわる場合のオンライン学習 三好 誠司(P)(神戸高専) 岡田 真人(東大,理研,さきがけ)
あらまし アンサンブル学習の大きな特徴として,多数決などで生徒を組み合わせることにより,単一の生徒では表現できない入出力関係を実現できることがあげられる.その意味で,教師が生徒のモデル空間内にない場合のアンサンブル学習の解析は非常に興味深い.そこで本研究では,教師がコミティマシンであり生徒が単純パーセプトロンである場合のアンサンブル学習を統計力学的なオンライン学習の枠組みで議論する.メトロポリス法により汎化誤差を計算した結果,ヘブ学習ではすべての生徒は教師中間層の中央に漸近すること,パーセプトロン学習では
確率伝搬法と量子系の平均場理論 田中和之 東北大学大学院情報科学研究科
独立成分分析 5 アルゴリズムの安定性と効率 2007/10/24   名雪 勲.
原子で書いた文字「PEACE ’91 HCRL」.白い丸はMoS2結晶上の硫黄原子.走査型トンネル顕微鏡写真.
課題演習A5 自然における対称性 理論: 菅沼 秀夫 (内3830)
(昨年度のオープンコースウェア) 10/17 組み合わせと確率 10/24 確率変数と確率分布 10/31 代表的な確率分布
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
様々な情報源(4章).
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
若手研究者・学生向けに,最新技術をわかりやすく紹介する講演会 確率的情報処理としての移動体通信技術
経営学研究科 M1年 学籍番号 speedster
最尤推定・最尤法 明治大学 理工学部 応用化学科 データ化学工学研究室 金子 弘昌.
これらの原稿は、原子物理学の講義を受講している
確率モデルを用いた 情報通信技術入門 ー誤り訂正符号を中心にー
Massive Gravityの基礎と宇宙論
ベイズ音声合成における 事前分布とモデル構造の話者間共有
JNNS-DEX-SMI-玉川 公開講座 「交換モンテカルロ法とその応用」
α decay of nucleus and Gamow penetration factor ~原子核のα崩壊とGamowの透過因子~
ポッツスピン型隠れ変数による画像領域分割
原子核物理学 第7講 殻模型.
ガウス分布における ベーテ近似の理論解析 東京工業大学総合理工学研究科 知能システム科学専攻 渡辺研究室    西山 悠, 渡辺澄夫.
東北大学 大学院情報科学研究科 応用情報科学専攻 田中 和之(Kazuyuki Tanaka)
北大MMCセミナー 第68回 附属社会創造数学センター主催 Date: 2017年6月15日(木) 16:30~18:00
文部科学省・科学研究費補助金「特定領域研究」 「情報統計力学の深化と展開」
媒質中でのカイラル摂動論を用いた カイラル凝縮の解析
確率的フィルタリングを用いた アンサンブル学習の統計力学 三好 誠司 岡田 真人 神 戸 高 専 東 大, 理 研
Massive Gravityの基礎と宇宙論
Q状態イジング模型を用いた多値画像修復における 周辺尤度最大化によるハイパパラメータ推定
確率的フィルタリングを用いた アンサンブル学習の統計力学 三好 誠司 岡田 真人 神 戸 高 専 東 大, 理 研
北大MMCセミナー 第94回 附属社会創造数学センター主催 Date: 2019年1月25日(金) 16:30~18:00
教師がコミティマシンの場合のアンサンブル学習 三好 誠司(神戸高専) 原 一之(都立高専) 岡田 真人(東大,理研,さきがけ)
Presentation transcript:

東京工業大学 大学院総合理工学研究科 樺島祥介 “More is different”の話 東京工業大学 大学院総合理工学研究科 樺島祥介 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ TexPoint fonts used in EMF: AAAAAAAAAAA

概要 More is different というモノの見方 モノにおける More is different P.W. Andersonの論文から モノにおける More is different 磁石のモデルを例として コトにおける More is different CDMAマルチユーザ復調問題を例として 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

More is different というモノの見方 P.W. AndersonのScience(1972)誌掲載の論文の題名 要素還元論一辺倒の当時の風潮への反論 複雑系科学の源流の一つ 自然の階層性(絶対的な事実として存在している) 素粒子⇒原子⇒分子⇒細胞⇒生物⇒社会⇒… 下位階層を支配する法則を明らかにしたところで,かならずしも上位階層にある集合体の振る舞いの理解にはつながらない 構成要素が沢山集まると予想もつかないことが起こる 予言力の高い法則は階層毎に異なり得る 下位⇒上位を導く研究も重要な基礎研究(構成的接近法) モノの科学には,量が増えれば(階層が上がれば)質が変わる, という身体的な感覚がある 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

例)アンモニアNH3 大学院時代のAnderson氏の混乱 矛盾しないか? 化学:アンモニアはピラミッド型をした極性分子 物理:定常状態においてアンモニアには極性はない 矛盾しないか?   N H - + (a) N H + - (b) 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

ダブルウエルポテンシャル 2つの配置はH3の面に関する反転に関してエネルギーが不変(対称性) N H - + (a) N H + - (b) 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

トンネル効果 古典系では障壁を越えることのできない低エネルギーでも量子系では「トンネル効果」ですり抜けることが可能 アンモニアの場合 反転運動 アンモニアの場合 3×1010回/秒 ものすごく頻繁 ⇒定常状態ではプラスとマイナスがキャンセル 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

見たい現象と意味のある理論 化学の講義の目的 物理の講義の目的 化学も物理も両方が正しい 反応現象の解説 瞬間が大切 簡単な系の解析で勘所をつかむ 定常状態が大切 化学も物理も両方が正しい 知りたいこと,やりたいことで実質的に意味のある理論,法則が変わる 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

分子量を増やしてみる PH3 アンモニアの約2倍の質量.トンネル効果の頻度は約1/10 PF3 アンモニアの約5倍の質量.トンネル効果は実験的に観測できない 量子力学による「極性はない」という結論は徐々にと意味がなくなる(対称性が実質的に破れる) →徐々に化学が基礎理論になってくる 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

分子量をもっと増やしてみる 量の増加に伴い現れる現象の理解には対称性への着眼が有用 糖 約40個の原子.生物が作るのは右手系ばかり. 超伝導 N無限大の極限で対称性が破れる(相転移) DNA,文章,映画 ある種の規則性があるが,情報を表現する個別性がある それ以上になると対称性の破れというより,複雑性の増大と呼んだほうが良い. 量の増加に伴い現れる対称性の破れに呼応して,有用な基礎理論が移り変わっていく 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

Anderson論文からの教訓 すべてのスケールに対し単一の理論で立ち向かうのは無理 心の問題を素粒子理論で解決するのは無理 見たいスケール,見たい現象に応じてコロアイの良い理論のあり方が定まる 量が増えると難しくなる一方で,自然は(対称性の破れの結果)新しい規則性を示す このモノの見方は,様々なスケールで簡単な法則に従う,という自然の客観的姿に寄り掛かっている 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

コトの科学にも有用ではないか 量が増えれば質が変わる 対象に対する楽観的な姿勢 量が増えれば難しくなる 量が増えれば易しくなる 組み合わせ爆発で手に負えない 量が増えれば易しくなる 視点を適切に選ぶと単純な法則が見えてくる 適切なモデル,接近法,理論の推移 コトの科学にもAIC理論などはあるが,もっと踏み込めないか 対象に対する楽観的な姿勢 証明されていなくても実在する 実験(事実)を(「証明する」のではなく)理解する理論 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

教材としてのモノの科学 スローガンを理論の中に反映させるためにはそれなりの練習が必要 モノの科学は優れた教材 観念論には陥りたくない 自然という「正解つき」の問題集 More is differentがモノの科学の実際においてどのように反映されているかもう少し詳しく見てみる 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

磁石のモデル 磁石は微小磁石(スピン)の集合体 イジングスピンモデル 伏見-テンパリーモデル 実験事実として解っている スピンを上向き,下向きで表現 スピンどうしを相互作用させる 伏見-テンパリーモデル 同じ向きになる方が得 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

磁石の平衡統計力学 これが有限の値をとれば磁石 ボルツマン分布 磁化 ボルツマン分布での平均値 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

伏見-テンパリーモデルは磁石になれない!? 伏見-テンパリーモデルの磁化は必ずゼロ 理由:対称性 実際     では プラスとマイナスが打ち消しあう 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

それでも伏見-テンパリーモデルは磁石になる となる確率       では 無限小の外場 磁石が出来た! T=2 T=0.8 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

磁石モデルにおける“More is different” 法則の実質的変化(cf. 大数の法則) 少数自由度では:確率的(=ボルツマン分布) 大自由度極限では:決定論的(=自由エネルギー) 少数のマクロ変数に関する自己無撞着方程式に帰着される 対称性の破れ 法則の実質的変化に伴い,下位階層の法則が有する対称性が破れる 予期しない現象(不連続性)の創発 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

情報学における“More is different” こういう視点を情報学にも取り入れよう 例)CDMAマルチユーザ復調問題 Noise (-1)x (+1)x 同期した2値の信号をNビットのランダム系列で変調 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

CDMAモデル 復調問題: から を推定する K ユーザモデル 拡散系列 N received signals K bits ノイズ 復調問題:    から    を推定する 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

復調問題に求められること リアルタイム通信の制約 すばやく出来ないとダメ エラーが多いとダメ    は離散変数 ⇒これらを両立させるのは容易ではない 線形方程式: でも離散変数だと 解くのは大変 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

便利な性質 ランダム系列の性質 ランダムな系列は統計的にほぼ直交している User k’s SS User j’s SS 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

シングルユーザ復調 簡便な復調方式(実用化されている) 利点 受信信号 に拡散系列 を作用させる 欠点 受信信号   に拡散系列   を作用させる 利点 計算コストが掛からない 欠点 ビット誤り率が大きい(#ユーザが増えると). Signal Cross-talk noise Channel noise 通信効率の向上のためもっと良い方法が求められる 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

最適な復調方式 曲がったコインの問題 表が確率   で出ることが解っている曲がったコインがある.トスをした際に出る目を予想する場合,どのような予測法が最適か? Head or Tail? 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

ベイズ決定理論 確率的要素があっても最適な戦略は決定論的 混合戦略 (表) (裏) 混合戦略:確率 で表を予想 予想が的中する確率 最適戦略 混合戦略:確率  で表を予想 予想が的中する確率 最適戦略 混合戦略 (表) (裏) 確率的要素があっても最適な戦略は決定論的 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

CDMAにおけるベイズ決定 CDMAに対しても同様の議論を行う を受信した後の事後確率 #これがコイン問題の「表が出る真の確率」に対応       を受信した後の事後確率 Prior Prob.: (uniform dist.) Channel: (Gaussian) #これがコイン問題の「表が出る真の確率」に対応 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

マルチユーザ復調 最適性が示されてもどのくらい良いかはわからない 最適戦略は目的関数に依存する MAP 復調:Minimizes MPM 復調:Minimizes これらはマルチユーザ復調と呼ばれる (block-wise) (bit-wise) All users’ SSs 最適性が示されてもどのくらい良いかはわからない 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

マルチユーザ復調問題における“More is different” 基礎法則(ベイズの公式:確率的) 大自由度極限では(自己無撞着方程式:決定論的) 量が増えると 質が変わる! 大自由度極限で,どのくらい良いか,がわかる! 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

理論と実験の比較 理論は実験結果を舞いを精度良く予言する +:SUD x:MPM x:MAP Uda&Tanaka (2000) Waterfalling (不連続性) x:MAP Uda&Tanaka (2000) 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

復調アルゴリズムの開発 実際的な復調アルゴリズムの開発にもつながる : Proposed X : MSD + : TAP eq. 実際的な復調アルゴリズムの開発にもつながる  : Proposed X : MSD + : TAP eq. Lines : Theory YK (2003) ‘Exact values’ predicted by the replica method. 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

まとめ More is different 情報学でも“More is different”! 量が増えれば(法則,現象ともに)質が変わる 「モノの科学」の特徴を際立たせる視点 情報学でも“More is different”! 情報学の多体問題に対しても“More is different”は有用 理論研究にもっと Physical な感覚を! コトの研究に新しい潮流を生み出せる可能性 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ

最後に (Anderson 論文の締めくくりから) In closing, I offer two examples from economics of what I hope to have said. Marx said that quantitative differences become qualitative ones, but a dialogue in Paris in the 1920’s sums it up even more clearly: FITZGERALD: The rich are different from us. HEMINGWAY: Yes, they have more money. 2006/12/17 H18年度DEX-SMIチュートリアル @大手町サンケイプラザ