【記事更新】私のブックマーク「説明可能AI」（Explainable AI） – 人工知能学会 (The Japanese Society for Artificial Intelligence)
説明可能AI（Explainable AI）原 聡（大阪大学産業科学研究所） はじめに2018年に本誌5 月号（Vol. 33, No. 3, pp. 366-369）の”私のブックマーク”に「機械学習における解釈性」という記事を書いた。前記事の執筆から1年が経ち、機械学習モデルの解釈・説明技術を取り巻く社会的な情勢の変化や新たな研究の発展など、数多くの進展があった。本記事はこれら近年の変化・進展についてまとめた、上記の”私のブックマーク”の続編である。本記事を読む前に、まずは上記の前記事をご一読いただきたい。 用語について本記事では、機械学習モデルの出力に加えて、その出力を補助する追加の情報（モデルの解釈、判断根拠の説明、など）を出力する技術一般および研究分野全体を指す用語としてXAI（Explainable AI, 説明可能AI）を用いる。XAIはアメリカの国防高等研究計画局（DARP
AI時代へ向けて育成すべきはAI人材か?｜楠 正憲（デジタル庁統括官）
今年3月に政府のAI戦略が年間25万人を目標にAI人材を育てるとぶち上げたのに続いて、教育再生会議が全ての大学生がAIなどの基礎的な素養を身につけられるように標準カリキュラムを作成することを提言した。ガートナーが2017年1月に産業界で2020年末時点で30万人以上のIT人材（原典を確認したところAI人材ではなかったようですね）が不足するといったらしいのだが、今からカリキュラムをいじったところで2030年くらいにならないとAIネイティブな新入社員は入ってこないし、その頃まで深層学習が流行っているのか、NVidiaが残ってるのか、PythonやTensorFlowが広く使われているのか、GAFAがどうなっているかなんてさっぱり見当がつかない。 残念ながら私たちは2010年代に深層学習の実用化の局面で米国に負けたのであって、いまから教育をいじるといったって泥棒を捕らえて縄を綯うような話である。
AI は思わぬ方向から職を奪う｜中島聡
最近、人口知能（AI）の進歩によってどんな職が奪われるのか、というテーマの議論がとても増えています。 典型的なのが @Dime の「営業マンの数は減っていくのか？慶大・土居丈朗教授に聞いた『今後、生き残る仕事』」という記事で、どんな職がAIによって置き換えられるのかを、以下のような文章で説明しています。 働く人の多くを占める、営業マンはどうかと言うと、足で稼ぐタイプの営業は減る。準備、企画などAIに導いてもらい、データで示す営業スタイルになる。どこに訪問しても同じセールストークの営業マンはAIに置き換わる。営業マンの人数は減ることになるだろう。実際に、ミクロに見た場合には、そんな変化は起こりつつあるとは思いますが、とても時間がかかると私は見ています。そんな形の変化を起こすには、企業はリスクをとってIT投資をしなければなりませんが、「AIの導入による営業効率の改善」が明確に見えない限りはなか
ゴミみたいな面白さを探し出して AI に抵抗していきたい - 山下泰平の趣味の方法
私は明治の新聞を読むことがある。新聞のデータベースはなかなか素晴しくて、過去の記事なんかはキーワードで検索できたりして本当に最高だと思う。最高なんだけど、これは他人が作ったデータベースで、ずっと利用していると自分が人工知能の一部になった気分になる。 すごい昔に人工知能のことちょっとだけ調べたことがある。チューリング？とかのメチャ分厚い変な本を読んだだけの古くさくて雑な理解なんだけど、人工知能ってのはデータから自動的に適切なものを引出すみたいな雰囲気の仕組みである。人間の知的活動と同じですね。 新聞以外のなにか読んで気になった単語をリストアップしていって、自動的に新聞各社のデータベースを検索し、一覧を抽出するみたいなのはやろうと思ったら私だってすぐに作れる。データベース利用料金を払う金がないから作ってないだけで、金あったら作ってる。私よりも頭が良くて金ある人が頑張ったら、面白みのあるパターン
グーグルの自動運転Waymoが大きくリード。自動運転開発競争に終止符か。 – YUTAの米国株投資ブログ
Waymoが１年間で記録した1,000マイルあたりの自動運転モード解除回数が0.09回の安全性とは、18,000kmを走行して初めて、自動運転モードが解除され、運転手がハンドルを握らなければならない状況が生まれることを意味しています。（※自動運転モード解除＝事故が起こることではありません。） さらに、Waymoの自動運転を高く評価しているのはカリフォルニア州だけではありません。Navigant社は毎年独自の調査で、自動運転開発を手がける世界中の企業をランキングしていますが、2018年度の評価でWaymoは首位を奪取しています。 Navigant Researchは、自動運転システムを開発する大手20社を対象に、2018年末時点の戦略と実績に関する10の指標で評価をして調査結果を発表しています。10の項目は、「ビジョン」「市場参入戦略」「パートナリング」「生産戦略」「テクノロジー」「販売・マ
IBMクラウド戦略の方針転換。AIのWatsonを他社クラウドでも実行可能に。 – YUTAの米国株投資ブログ
IBMクラウド戦略の方針転換。AIのWatsonを他社クラウドでも実行可能に。by yuta2019年2月17日2019年6月2日 IBMクラウド方針転換 今週はIBMのイベントThink 2019が行われていました。初日からAIと人間のチャンピオンによるディベート対決が行われるなど、見応え充分な内容でした。 IBMディベートAI、惜しくもチャンピョンに敗れる。 その他、このイベントの注目を集めたのは、CEOのジニーロメッティの基調講演です。今までIBMのクラウドで提供していたAI（Watson)を、他社クラウドでも実行可能にすると発表して、これを聞いた人達は軽くざわめきました。 これはIBMのクラウド戦略の大きな方向転換を意味します。ただ、このニュース記事は相当な数を読みましたが、「他社クラウドからWatsonが使える」という報道ばかりで、なぜIBMがそんな手を打ってきたのかという”狙い
AI開発を円滑に進めるための契約・法務・知財
Semi supervised, weakly-supervised, unsupervised, and active learning
AIカメラが「未成年」判別、居酒屋で実験 精度は96％超
AI（人工知能）搭載カメラで、来店客が未成年かどうかを検知する――業務システムのクラウドサービスを展開するチャオ（東京都港区）は1月21日、養老乃瀧が展開する居酒屋「一軒め酒場 新橋店」で実施した実証実験の結果を発表した。未成年者の検知率は96.1％だったという。 実験では、AI搭載のクラウドカメラ「Ciao Camera」を使用。店員による確認漏れが多かったという来店者の年齢確認をAIを使って行い、未成年者へのアルコール提供を未然に防ぐことを目指した。 実験の第1段階として、ディープラーニングを使った画像認識サービス「Amazon Rekognition Image」の顔認識機能を活用した。AIがカメラ画像から人物の顔を識別し、年齢結果を推定。未成年と思われる場合は店員に通知する。入店する数秒の間に来店者の顔画像を複数枚撮影したが、画質や顔の角度で誤検知もあったという。検知率は90.7％
Looking Back at Google’s Research Efforts in 2018
Posted by Jeff Dean, Senior Fellow and Google AI Lead, on behalf of the entire Google Research Community 2018 was an exciting year for Google's research teams, with our work advancing technology in many ways, including fundamental computer science research results and publications, the application of our research to emerging areas new to Google (such as healthcare and robotics), open source softwa
メディカルAI専門コース オンライン講義資料
News¶ 2019/12/06: 講義資料Ver 1.1を公開（2019年度版） 2018/12/17: 講義資料Ver 1.0を公開（2018年度版） 本講義資料について¶ 本ページは 日本メディカルAI学会公認資格：メディカルAI専門コースのオンライン講義資料（以下本資料） です． 本講料を読むことで，医療で人工知能技術を使う際に最低限必要な知識や実践方法を学ぶことができます．本資料は全てGoogle Colaboratoryというサービスを用いて執筆されており，各章はJupyter notebook (iPython notebook)の形式（.ipynb）で以下のリポジトリにて配布されています（notebooksディレクトリ以下に全ての.ipynbファイルが入っています）： japan-medical-ai/medical-ai-course-materials 想定受講者¶ 受
2030年までのAIの動向について（概要）
■AIの動向について 技術の発展について、特にタイミングまでをも正確に予測することは困難です。しかし、技術の発展の大よその方向性を考えるうえで、技術発展のロードマップをみておくことは有益なことだと思います。特に産業革命をも超える農業革命に匹敵するインパクトを人類に与える可能性があるという専門家もいる中でAIの動向は今後の社会環境やビジネス環境がどのように変化していくかの展望を持つためにも有用なのではないでしょか。 下記のイメージ図は、ディープラーニングをベースとしたAIの技術的発展のロードマップを示したものです。繰り返しになりますが、産業化のタイミングはハードウェアや社会制度の整備状況によって、2~3年かそれ以上の誤差が発生するとのことですので、タイミングはあくまでも参考情報に留めておき、AIの発展によりどのように社会が変わっていきそうなのかについて、ざっくりと考えてみたいと思います。 （
人工知能を基礎情報学で解剖する/西垣通 - SYNODOS
しばらく前のことだが、マイクロソフト社の開発したチャット・ボット（おしゃべりロボット）Ｔａｙがツイッターで不適切な発言をしたということで大騒ぎになった。ヒトラーの名をあげて人種差別的な攻撃をしたり、口汚くみだらな発言をくりかえしたりしという。一時的にサービスは停止され、マイクロソフト社は謝罪せざるをえなかった。ＴａｙはＡＩ（人工知能）の自然言語処理技術にもとづくチャット・ボットだが、ソフトウェアそのものが悪いのではなく、一部のユーザが対話を通じてＴａｙに「好ましくない調教」をほどこした、というのが真相のようである。 だが、なぜそんな大事件になったのだろうか。同様の差別発言をする人間は幾らでもいる。チャット・ボットつまりＡＩの発言だから非難が集中したわけで、そこにはＡＩは公平中立であり正確な知識をもっている、という一般人の思い込みがある。つまり、レイ・カーツワイルやニック・ボストロムなど超人
AI at Google: our principles
At its heart, AI is computer programming that learns and adapts. It can’t solve every problem, but its potential to improve our lives is profound. At Google, we use AI to make products more useful—from email that’s spam-free and easier to compose, to a digital assistant you can speak to naturally, to photos that pop the fun stuff out for you to enjoy. Beyond our products, we’re using AI to help pe
Google I/O 2018で発表された10個のコト：AIがもう、凄すぎる #io18
Google I/O 2018で発表された10個のコト：AIがもう、凄すぎる #io182018.05.09 09:30170,816 編集部 西谷茂リチャード あれにもAI、これにもAI、すべてにAIマジックを。 Googleが毎年開いている開発者向けの発表会、Google I/O。2017年に初めて｢AIファースト｣の方針を打ち出した当時も、AIネタは結構お腹いっぱいでした。が、2018年は前年にも増してAIに続くAIの発表。しかもそのAIの進化っぷりと言ったら……もう凄すぎて……。だってキーノートの冒頭にジャブで打ってくる発表が｢AIにより目の検査だけであらゆる重病を検知できるようになりました｣ですよ？ なので御察しの通り、やはり今回の1番の目玉はGoogle アシスタントです。新機能がいくつか追加されていて、なかでもGoogle アシスタント自身が電話をかけちゃう機能は別次元。あと
私の会社の機械学習経験ゼロの「ディープラーニングおじさん」が会社のAI戦略を動かすまで - karaage. [からあげ]
ディープラーニングおじさん 私の会社には「ディープラーニングおじさん」がいます。「います」といっても私が勝手に一人で心の中でそう呼んでいるだけですが…ともかく、今日はその「ディープラーニングおじさん」が、機械学習経験ゼロから、最終的に会社を動かすまでの華麗なる軌跡を紹介したいと思います。 なお、会社に関する情報は、私の都合である程度、虚実入り混じった情報になることご了承ください。今回の話で伝えたいことに関しては、影響は無い範囲とは思っています。 ディープラーニングおじさんの華麗なる軌跡 自分のツイートを「ディープラーニングおじさん」で検索したら、最初に引っかかったのが2016年10月ころでした。もう1年半くらい前ですね。 自分も個人で少しだけディープラーニング試したりしてるので、ディープラーニングおじさんに少しだけ自分の知ってる情報を提供してみたけど、おじさん何も聞かずに特攻しててワロタw
![私の会社の機械学習経験ゼロの「ディープラーニングおじさん」が会社のAI戦略を動かすまで - karaage. [からあげ]](https://cdn-ak-scissors.b.st-hatena.com/image/square/71762e78be72331ac96492b2337551ed398703d4/height=288;version=1;width=512/https%3A%2F%2Fcdn-ak.f.st-hatena.com%2Fimages%2Ffotolife%2Fk%2Fkaraage%2F20180426%2F20180426235611.jpg)
AIアシスタントの賢さを比較！Googleがトップ、Siriは残念な結果に - iPhone Mania
AIアシスタントがユーザーの質問を理解し、正確に回答する能力を比較した調査結果が発表されました。Google Assistantが高い成績を残し、AmazonのAlexaが大きく成績を伸ばす一方、Siriは質問を理解して回答した割合が低く、誤答率が高い結果となりました。 約5,000の質問でAIアシスタントの能力を比較！ 各社のAIアシスタントが、どの程度質問に的確に答えられるを比較した調査結果をアメリカの調査会社Stone Templeが発表しました。 調査は、以下の5タイプのAIアシスタントに4,942の質問を投げかけて、回答を比較しています。 Alexa (Amazon) Cortana (Microsoft) 搭載のスマートスピーカー「Invoke」 Google Assistant (Google) Google Home版 Google Assistant (Google) ス
顔認識のＡＩ 別のＡＩ悪用で顔データ再現の恐れ | NHKニュース
特定の人の顔を認識するという人工知能＝ＡＩの技術は、ロックの解除などさまざまなところで活用が広がっています。ところが、第三者が別のＡＩを悪用すると顔のデータを再現できてしまうおそれがあるとする実験結果を筑波大学の研究グループがまとめ、なりすましなどへのセキュリティーのあり方に一石を投じています。 これに対し、筑波大学人工知能科学センターの佐久間淳教授の研究グループは、特定の人の顔を学習したＡＩを別のＡＩに攻撃させ、学習した顔を類推させる実験を行いました。 攻撃側のＡＩは、まず適当な画像を作り出して攻撃対象のＡＩに見せます。そして、学習した人の顔とどれくらい似ていると攻撃対象が識別したかを読み取ります。そのうえで、得られた結果をもとに顔を類推し、より似せた画像を作るという作業を高速で繰り返しました。 その結果、攻撃側が作った画像は初めは意味をなさないものでしたが、学習した人の顔に急速に似てい
採用選考に「AI」を導入しようとしたが、断念した会社の話が面白かった。
最近とある企業の採用担当者と会い、大変興味深い話をうかがった。その方の会社は中々に革新的で、昨今話題のAIによる採用判定を書類選考に絞って導入してみたのだという。 結果はなかなかに上々だったとの事だけど、最終的には採用におけるAIの導入は断念した。 AIの採用を見送った理由はAIの判断が悪かったからではない。結果だけみれば、AIの判断はプロの採用担当者と比較して、そう悪いものではなかったようだ。 問題となったのは、AIが「なぜこの人を選んだのか。なぜこの人を選ばなかったのか」を説明してくれなかったところにあったという。 これは実に大変興味深い指摘で、今後AIが導入される社会を生きる私達にとって非常に有益な知見が詰まっている。今日はこれを掘り下げて、僕なりのAIが導入された後の社会の行方についてみていく事にしよう。 AIの思考回路は人間と随分違う AIは囲碁の世界チャンピオンを打ち倒したり、
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
TechCrunch
TechCrunch