Googleは対話型AI「Bard」のミスで時価総額1000億ドルが吹き飛ぶ、現実味を帯びる生成AI倒産 【生成AI事件簿】顧客からの問い合わせに誤回答、社内規則や契約書類で重大ミス、大切な場面で失敗して評判失墜など | JBpress (ジェイビープレス)
生成AIを活用する企業は増える一方だが、それとともに、AIの間違いによって損害を被る企業も増えている。 エア・カナダはチャットボットの誤回答で賠償金を支払うはめに。別の企業は生成AIが作成した解雇合意書に重要な項目が欠落していたため、高額な和解金を支払わなければならなくなった。 企業に求められるのは、生成AIは間違いを犯すという前提に基づいた準備や行動。AIが間違えているかどうか分からない領域では活用すべきではない。 （小林 啓倫：経営コンサルタント） チャットボットで損害を被ったエア・カナダ 企業内でのAI活用が加速している。社員や顧客と自然な言葉でやり取りできる生成AIが登場したことで、AIを応用できる業務が増え、具体的な成果も見えやすくなったためだ。 たとえば、カナダで1855年に設立され、現在では同国で最大の規模を誇るTD銀行（Toronto-Dominion Bank）は、コンタ
Googleは対話型AI「Bard」のミスで時価総額1000億ドルが吹き飛ぶ、現実味を帯びる生成AI倒産 【生成AI事件簿】顧客からの問い合わせに誤回答、社内規則や契約書類で重大ミス、大切な場面で失敗して評判失墜など | JBpress (ジェイビープレス)
何よりも企業に求められるのは、生成AIが間違いを犯すという前提に基づいた準備や行動だ。 エア・カナダの事例で言えば、最初にジェイクからの訴えを受けた際、自社には非がなかったかのように振る舞ったのは決定的な間違いだったと言えるだろう。慎重な企業であれば、チャットボットが顧客の金銭的被害を伴う誤解を生みだした場面を想定し、その対応策を事前に設計していたはずだ。 内部文書で法的なミスを犯してしまった企業に求められていたのは、人間の専門家によるチェックだ。そもそもそうした手間をかけたくないから生成AIに頼んだんじゃないか、と言われてしまうかもしれないが、そもそも「自分たちではAIが間違えているかどうか分からない」という領域で生成AIを活用すべきではない。 「生成AIは間違うものだ」という認識があれば、その間違いを発見するためのコストを事前に把握して、それが負担できない使い方であれば回避するという対
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
