説明可能なAI（Explainable AI）

Slides:

Advertisements

Similar presentations

Maxent model への挑戦 - 驚きとドキドキ感の理論 - 大野ゆかり Phillips et al. (2006) Maximum entropy modeling of species geographic distributions. Ecological Modeling 190:

Advertisements

検索エンジンが日本にないのはなぜか  なんで検索エンジン？ 2006 年 10 月 9 日、「 Google 」が「 YouTube 」を買収した。 16 億 5 千万ドル相当の株式交換で買収、という形になっている。  そもそもなんでそんな疑問が？政府の知的財産戦略本部は 2008 年 6.

学習目標 1 ．セルフマネジメントモデル，学習援助型教育とは何かを理解する． 2 ．セルフマネジメント支援のために必要な構成要素について理解する． 3 ．セルフマネジメントにおいて看護職に求められる能力と責任について理解する． SAMPLE.

1 アップデート株式会社アプライド・マーケティング大越章司

1 機械学習・人工知能・ロボット株式会社アプライド・マーケティング大越章司

黒岩・堀内研究室音と画像（視聴覚）によるコミュニケーション・ AI (Artificial Intelligence) ・ HCI (Human Computer Interaction) 黒岩眞吾・話者認識・音声認識・音信号処理・会話ロボット（失語症者支援）・機械学習・多メディア情報検索.

心理測定論信号検出理論.

FPGA 株式会社アプライド・マーケティング大越　章司

「わかりやすいパターン認識」第１章：パターン認識とは

（1）行動分析学の基礎「実験する」ことの意味

アップデート株式会社アプライド・マーケティング大越　章司

「データ学習アルゴリズム」第３章複雑な学習モデル 3.1 関数近似モデル ….. … ３層パーセプトロン

東京経営短期大学経営総合学科准教授玉田和恵

上坂吉則尾関和彦文一総合出版宮崎大輔2003年6月28日（土）

日本行動計量学会第29回大会　於：甲子園大学　（2001/9/14-16）

認知カウンセリング学習意欲改善に対する可能性.

進捗管理１．進捗度算出（１）進捗尺度進捗把握の単位は、細分化されていることが望ましい。可能ならば１人１週間の作業量を１単位とする

１．調査詳細仕様・アウトプット方向性パーソナルデータ収集モデル調査

アップデート株式会社アプライド・マーケティング大越　章司

ニューラルネットワークの仕組み株式会社アプライド・マーケティング大越　章司

薬物乱用と健康あなたはNOとはっきりいえますか・・・　　.

東京経営短期大学経営総合学科准教授玉田和恵

SpectreとMeltdown ITソリューション塾・第28期 2018年5月30日株式会社アプライド・マーケティング大越章司

独立成分分析１．問題は何か：例：解法：全体の見通し 2007/10/１７名雪　勲.

7. 音声の認識：高度な音響モデル 7.1 実際の音響モデル 7.2 識別的学習 7.3 深層学習.

Chat Botを活用したヘルプデスク業務の作業効率化

アップデート株式会社アプライド・マーケティング大越　章司

「OSで儲けない」 Microsoftの新戦略

Microsoftのマルチプラットフォーム戦略

第５章：特徴の評価とベイズ誤り確率５・３：ベイズ誤り確率とは

Vector 4 = [Vector 3, packet_size]

疫学概論交絡 Lesson 17. バイアスと交絡 §A. 交絡 S.Harano, MD,PhD,MPH.

人工知能特論９．パーセプトロン北陸先端科学技術大学院大学　鶴岡慶雅.

Rコマンダーで2元配置ANOVA 「理学療法」Vol28（8）のデータ

アップデート株式会社アプライド・マーケティング大越　章司

アップデート株式会社アプライド・マーケティング大越　章司

Songzhu Gao, Tetsuya Takiguchi, Yasuo Ariki (Kobe University)

アップデート株式会社アプライド・マーケティング大越　章司

アップデート株式会社アプライド・マーケティング大越　章司

ポストスマートフォン ITソリューション塾・第29期 2018年11月15日株式会社アプライド・マーケティング大越章司

深層学習を用いた音声認識システム工学部　電気電子工学科　白井研究室 T213069　林健吉.

予測モデルの構築を簡単にすばやく! お客様の業務に AI 活用を支援今だけ機械学習最適モデリングソリューション (ナレコム AI)

ニューラルネットワークの仕組み株式会社アプライド・マーケティング大越　章司

Data Clustering: A Review

AIを用いたドローンの新たな姿勢制御方法に関する研究

交番における手話から日本語への変換システムの検討

Javaの有償化と各社の対応 ITソリューション塾・第29期 2018年11月21日株式会社アプライド・マーケティング大越章司

アップデート株式会社アプライド・マーケティング大越　章司

プログラミングコンテストシステムへの提出履歴データとその分析

ニューラルネットワークの仕組み株式会社アプライド・マーケティング大越　章司

アップデート株式会社アプライド・マーケティング大越　章司

量子コンピュータ株式会社アプライド・マーケティング大越章司

ブロックチェーン株式会社アプライド・マーケティング大越章司

Data is the New Oil 株式会社アプライド・マーケティング大越章司

プログラムの基本構造と構造化チャート（PAD)

SIFTとGraph Cutsを用いた物体認識及びセグメンテーション

ARM、IoT、AI 株式会社アプライド・マーケティング大越章司

「アルゴリズムとプログラム」結果を統計的に正しく判断三学期第7回袖高の生徒ってどうよ調査(3)

Introduction to Soft Computing

アップデート株式会社アプライド・マーケティング大越　章司

（表紙なので表示しなくても良い。）.

疫学概論方法論的問題点（患者対照研究） Lesson 13. 患者対照研究 §B. 方法論的問題点 S.Harano,MD,PhD,MPH.

1. サイバー攻撃の予兆となる社会データを収集 2. サイバー脅威を観測し、ビッグデータを形成 3. 異種ビッグデータから攻撃の全体像の解明

FPGA 株式会社アプライド・マーケティング大越　章司

SpectreとMeltdown ITソリューション塾・第27期 2018年3月20日株式会社アプライド・マーケティング大越章司

音響伝達特性モデルを用いたシングルチャネル音源位置推定の検討 2-P-34 高島遼一，住田雄司，滝口哲也，有木康雄（神戸大）研究の背景

誤差逆伝播法によるニューラルネットワーク (BackPropagation Neural Network, BPNN)

説明可能なAI（Explainable AI：XAI）

Libra 株式会社アプライド・マーケティング大越章司

Normalized Web Distanceを用いた音声認識の誤り訂正法 301-4in

Presentation transcript:

説明可能なAI（Explainable AI） ITソリューション塾・第29期 2018年11月7日株式会社アプライド・マーケティング大越　章司 http://www.appliedmarketing.co.jp/ shoji@appliedmarketing.co.jp

AIアルゴリズムの不備や学習データの偏りによって人種や性別による差別が起こる https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN https://toyokeizai.net/articles/-/111092 https://www.buzzfeed.com/jp/sakimizoroki/microsofts-ai-chatbot-into-a-neo-nazi-jp https://jp.wsj.com/articles/SB10468926462754674708104581082773456994848 AIアルゴリズムの不備や学習データの偏りによって人種や性別による差別が起こる

AIはブラックボックス http://www.laboratory.ai/trend/481

学習と推論学習/訓練学習/訓練何度も繰り返して重みを調整できあがったモデル認識識別判断学習データを使ってニューラルネットワークが正しい判断を下せるよう重みを調整学習データ何度も繰り返して重みを調整調整箇所が膨大にあり、何度も繰り返し計算しなければならない 16～32ビットの精度が必要できあがったモデル学習/訓練実際のデータ認識識別判断学習済み（重みの付けられた）ニューラルネットワークに実際のデータを入力して判断させる計算は多いが、繰り返し計算は不要精度は8ビットで十分

「なぜうまくいくのかわかっていない」!? 機械学習のポイントは、プログラムした本人が思ってもみなかった出力が出るところ。そこが今までのプログラムと違うところ。理論研究の方向性は2つ。なぜうまくいくのかわかっていない深層学習の原理の解明と、現在の深層学習では難しい難題解決である。 http://pc.watch.impress.co.jp/docs/column/ai_nyumon/1051781.html

AIの「説明責任」

LIME(Local Interpretable Model-agnostic Explanations) https://staka.jp/wordpress/?p=151 黒星病の判定判定に当たって注目した部分

民間のソリューション https://tech.nikkeibp.co.jp/atcl/nxt/mag/nc/18/020800017/100200137/

IBM：トレーニングデータ内のバイアスを検出 Our data bias checker analyzes the training data to find disparate impact given user-specified protected attributes. データ・バイアス・チェッカーはトレーニング・データを分析して、ユーザー特有の保護属性毎に別々の影響を見つけ出します。 https://www.ibm.com/blogs/research/2018/09/trust-transparency/

富士通推定に関わった因子の特定と根拠の説明 https://journal.jp.fujitsu.com/2018/10/11/01/

結局のところ人間だって自分の意思決定について説明するのはあまり上手ではない「説明できるAI」への疑問結局のところ人間だって自分の意思決定について説明するのはあまり上手ではない https://tech.nikkeibp.co.jp/it/atcl/idg/14/481542/062800387/

2つのAI ディープラーニングの学会に参加すると、大きく2つのAIに分かれている。1つはブラックボックスを透明化し、説明責任を果たせる『説明可能なAI』を重視するグループ。もう1つは、人間が自分自身の判断の理由を説明できない場合があるように、脳の一部を模したディープニューラルネットワークにも間違いやバイアスがあることを受け入れる『人間らしいAI』を主張するグループだ。 http://monoist.atmarkit.co.jp/mn/articles/1809/21/news050.html どちらが正しいというわけではないが、モノづくりに求められるのは説明可能なAIの方だろう

公平で説明可能で透明なAI https://fatconference.org/