ちょっと前に、しょうもないことを某所で放言したら思いの外拡散されてしまいました。 機械学習の説明可能性（解釈性）、大半のケースで求められているのは厳密な分類・回帰根拠ではなく受け手の「納得感」なので、特に実ビジネス上は説明可能性に長けたモデルを開発するより、納得できないお客さんを巧みに関係性構築した上で口八丁で完璧に説得できる凄腕営業ピープルを雇う方が重要— TJO (@TJO_datasci) 2019年11月23日 これ自体は与太話なので実際どうでも良い*1のですが、最近色々な研究や技術開発の進展はたまた実務家による考察などを見ていて、「機械学習の説明可能性（解釈性）というのは思った以上に複雑な迷宮だ」と感じることがままあったのでした。 ということで、今回の記事では僕のサーベイの範囲でザッと見て目についた資料などを超絶大雑把にリストアップした上で、主に実務における説明可能性とは何かとい
こんにちは。デジタルテクノロジー統括部でアナリストをしているY・Nです。 パーソルキャリアのデジタルテクノロジー統括部は、一般社団法人データサイエンティスト協会が定める「データサイエンティストに求められるスキルセット」を基に、以下の3つのグループが組織されています。 ビジネスグループ アナリティクスグループ エンジニアグループ 出典：データサイエンティスト協会 これらの3グループが互いに連携しあい、AI（ここでは機械学習による予測モデルを指すことにします）によって様々な業務を自動化させたり、意思決定の補助に利用させるプロジェクトに取り組んでいます。 その際、「AIの判断根拠をどの程度（どの様に）見せれば良いか」ということが常にビジネスグループで議題に上がります。殊にAIの予測結果を人間（特に営業部門の人）が見た上で意思決定の補助として利用する場合に顕著で、判断根拠が表示されないブラックボッ
講演資料「機械学習における説明可能性・公平性・安全性への工学的取り組み」2019年度 人工知能学会全国大会（第33回） 企画セッション
開催趣旨 機械学習技術が様々なシステムに組み込まれて、社会に広がっています。それにつれて、高い精度が得られる一方、説明可能性（ブラックボックス問題）、公平性（差別・偏見問題）、安全性（品質保証・動作保証問題）の課題も指摘されるようになってきました。本企画セッションは、これらの課題に対する取り組みの動向を解説し、これからの方向性・対策を議論します。 日時 2019年6月5日(水) 9:00～10:40 会場 朱鷺メッセ 新潟コンベンションセンター［N会場］ 新潟県新潟市中央区万代島6番1号（新潟駅から路線バス約15分、徒歩約20分） https://www.tokimesse.com/ プログラム 講演１
3つの要点 ✔️ 自然言語処理における説明可能AIについて ✔️ 説明可能な自然言語処理モデルの現状について ✔️ 説明可能性の実現に向けた課題について A Survey of the State of Explainable AI for Natural Language Processing written by Marina Danilevsky, Kun Qian, Ranit Aharonov, Yannis Katsis, Ban Kawas, Prithviraj Sen (Submitted on 1 Oct 2020) Comments: Accepted at AACL-IJCNLP2020 Subjects: Computation and Language (cs.CL); Artificial Intelligence (cs.AI); Machine Learn
高市経済安全保障担当大臣が「ねつ造だ」としている行政文書をめぐり、総務省は、当時、高市大臣への放送関係の説明が行われた可能性は高いとする一方、文書の内容が正確かどうかは確認できなかったとする、調査結果をまとめました。 総務省が公表した行政文書には、当時の高市総務大臣に、放送法が定める『政治的公平』の解釈をめぐって「レク」と呼ばれる説明が行われたと記載されていますが、高市大臣は「その時期に『政治的公平』の解釈についての説明を受けてはおらず、内容はねつ造だ」と主張しています。 こうした中、総務省は、22日の参議院予算委員会の理事懇談会に、関係者への聞き取り調査の結果を示しました。 この中では、「資料が残っているのであれば、『政治的公平』に関するレクがなかったとは考えにくい」という証言が複数あったとしています。 一方、「放送関係のレクはあったかもしれないが、時期や内容までは覚えていない」という関
【開催報告 & 資料公開】 AI/ML@Tokyo #9 機械学習モデルの可視化、説明可能性とMLセキュリティ | Amazon Web Services
Amazon Web Services ブログ 【開催報告 & 資料公開】 AI/ML@Tokyo #9 機械学習モデルの可視化、説明可能性とMLセキュリティ アマゾン ウェブ サービス ジャパン株式会社 機械学習ソリューションアーキテクトの大渕です。AWS Japan では、AI/ML 関連情報を発信するイベント「AWS AI/ML@Tokyo」を定期的に開催しています。2020年12月17日にオンラインで開催された AWS AI/ML@Tokyo #9 では、AWS の 機械学習ソリューションアーキテクトより Amazon SageMaker を使って機械学習モデルの可視化と説明可能性を実現する方法をご紹介し、ソリューションアーキテクトより AWS の AI/ML サービスにおけるセキュリティについてご紹介しました。また、お客様活用事例として、東日本旅客鉄道株式会社様より、画像認識を活
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
機械学習の説明可能性（解釈性）という迷宮 - 渋谷駅前で働くデータサイエンティストのブログ
AIプロジェクトにおける説明可能性の方針 - techtekt
説明可能性とはなにか？NLPにおける説明可能AIの現状を徹底解説！
行政文書 総務省“説明可能性も 内容の正確さ確認できず”調査結果 | NHK