Googleは対話型AI「Bard」のミスで時価総額1000億ドルが吹き飛ぶ、現実味を帯びる生成AI倒産 【生成AI事件簿】顧客からの問い合わせに誤回答、社内規則や契約書類で重大ミス、大切な場面で失敗して評判失墜など | JBpress (ジェイビープレス)

生成AIを活用する企業は増える一方だが、それとともに、AIの間違いによって損害を被る企業も増えている。 エア・カナダはチャットボットの誤回答で賠償金を支払うはめに。別の企業は生成AIが作成した解雇合意書に重要な項目が欠落していたため、高額な和解金を支払わなければならなくなった。 企業に求められるのは、生成AIは間違いを犯すという前提に基づいた準備や行動。AIが間違えているかどうか分からない領域では活用すべきではない。 （小林 啓倫：経営コンサルタント） チャットボットで損害を被ったエア・カナダ 企業内でのAI活用が加速している。社員や顧客と自然な言葉でやり取りできる生成AIが登場したことで、AIを応用できる業務が増え、具体的な成果も見えやすくなったためだ。 たとえば、カナダで1855年に設立され、現在では同国で最大の規模を誇るTD銀行（Toronto-Dominion Bank）は、コンタ

[pixmap]

「時価総額1000億ドルが吹き飛ぶ」ていっても、ハイテク株でよくある日々の乱高下の範囲内。現在は「吹き飛ぶ」以前を遥かに上回る水準の株価を推移してるから、このタイトルは経済音痴に見える。

[NOV1975]

とりあえず、「回答ミスで航空会社が7万円の損害を受けた！AIのせいで倒産する！」と言う記事だったので、何というか…

[work996]

ちゃんと訴訟して素晴らしい。自分だったらAIのミスでしたと言われれば勝手に向こうの都合の良いように納得して許しちゃいそう。

[mohno]

前にも書いたが、SF映画でAIの誤作動や反乱とかいって人類が混乱するようなフィクションがあっても「現実には責任が取れないAIにそんな決断させるわけないよな」と思っていたのが、わりとバカにできなくなってきてる。

[skypenguins]

「そもそも「自分たちではAIが間違えているかどうか分からない」という領域で生成AIを活用すべきではない。」AIは責任取ってくれないからね

[blueboy]

生成AI で回答を作成した後、その回答が正しいかどうかを web 上の情報と照合して、情報の正しさを確認する……という方法でチェックできる。この方針で解決したのが、Microsoftの BingAI = Copilot だ。記事は古い。時代遅れ。

[dowhile]

それでも人間を雇うよりはAI化したほうが結局安上がりなんやろ

[tach]

ハルシネーションの意味することを理解せずにAIを使うことは自殺行為。そのことが一般には全く理解されていないもよう。非常に危険な状況。AIを誤用する企業は全て倒産した方が世のため人のためだな本当に。

[I_L_S]

なぜ最終チェックを人間がやっていないのか

[nuara]

Googleさん、いつも見切り発車で出してユーザーに直してもらうのやめてほしい。

[tyosuke2011]

使い方間違ってるだけ

[quabbin]

Bard は Gemini にリブランディングされています。…情報が…古いよ…。

[aneet]

Bard？一年前の記事かと思った。Bard→Palm→Gemini1.0→Gemini1.5まで今来てるぞ。

[degucho]

翻訳後の逆翻訳やるみたいな感じで最低限の嘘チェックできないもんかね

[sho]

ハルシネーションを大幅に減らすプロンプトはもう普通に知られてるし、この記事はほぼFUDだな。これだからインプレッション目当てのマスコミは……

[evans7]

どちらかというと人類がAIを上手く扱いきれなくて傷口を広げてるだけにしか見えない。AIで人件費を削減出来てるんだからAIのミスの損失を黙って補償しておけば良いものを愚かな人類にはそういう勘定が出来ないのです。

[addwisteria]

生成AIは業務効率化・高度化には非常に有用ではあるが、業務自動化の道具にはならない。人がやるより高度で正確な「たたき台」をすぐに作ってくれるもので、成案を得ようとすると記事のようなことになる。

[datemakio22]

AI以下の記事

[HiddenList]

うまくAIにミスさせて　AIのメーカーから　大金ふんだくる「AI当たり屋」が横行しそう

[buhoho]

"日本円にして約7万4000円だった。" たまの説明ミスでこのくらいの被害ならLLM使った自動化しちゃうよな。

[netafull]

“エア・カナダはチャットボットの誤回答で賠償金を支払うはめに。別の企業は生成AIが作成した解雇合意書に重要な項目が欠落していたため、高額な和解金を支払わなければならなくなった。”

[zkq]

チャットボットのミスで650ドルの和解金なら十分ペイしてるよな

[ROYGB]

“エア・カナダの事例で言えば、最初にジェイクからの訴えを受けた際、自社には非がなかったかのように振る舞ったのは決定的な間違いだったと言えるだろう。”とあるように、ＡＩが悪いのではなく人間が悪い。

[makou]

とんちんかんなQAボット、そこらじゅうにあるでしょ。

[otihateten3510]

アルファベットの株価過去最高じゃね？？

[poco_tin]

人間でもミスは起こるので、最終的にはクロスチェックする仕組みが必要なんだろうな

[oguratesu]

Bardっていつの話やねん？いまはGeminiだろ。

[notojin]

いま、時価総額もどってるだろ