【悲報】ChatGPTが新車を1ドルで勝手に売ってくる事案が発生｜ﾊﾟﾄﾙ | AI x Biz
こんにちは、パトルです。 2023年12月17日、カルフォルニアのシボレーの販売店で使われている顧客対応用のChatGPTが、プロンプトインジェクション（AIのハッキングみたいなやつ）にあって、多大な特典を付与したり、新車を1ドルで売ってしまう事案が発生しました。 今回は、このショッキングな事案の概要、どういうプロンプトインジェクションが用いられたのか、損害状況などを解説しながら、プロンプトインジェクションのリスクを勉強したいと思います。 概要今回の舞台はカルフォルニアのワトソンビルという地区にあるシボレーのディーラーのホームページに設置されていたセールチャットボットです。URLはこちらです。（残念ながら12/22時点ではChatGPTは外されています） https://www.chevroletofwatsonville.com/ChatGPTは、商品を説明するという位置づけで導入されて
マイクロソフト、もしもCopilotの利用者が著作権侵害で訴えられたら、賠償金を代わりに支払うと約束。「Copilot Copyright Commitment」を発表
マイクロソフトは、同社が提供する生成AIによるさまざまな支援機能を提供する「Copilot」製品群が、著作権侵害の心配なく使えると約束する「Copilot Copyright Commitment」を発表しました（英語、日本語） マイクロソフトは、生成AIがソースコードを生成してくれるGitHub Copilotや、プレゼン資料などを生成してくれる「Microsoft 365 Copilot」など、生成AIを活用した「Copilot」製品群を積極的に展開しています。 一方で、こうした生成的AIは既存のソースコード、画像、文書などを学習しているため、何らかの要因で既存のソースコードや画像、文書の複製に相当するものが生成され、それを知らずに利用した場合に利用者が著作権侵害により訴えられる可能性があるのではないか、と心配されています。 今回のマイクロソフトの発表した「Copilot Copyri
Microsoft、生成AI「Copilot」の企業顧客が著作権侵害で提訴されたら「責任を持つ」
米Microsoftは9月7日（現地時間）、同社が企業向けに提供している一連の生成AIツール「Copilot」の顧客に対し、このサービス使用中に著作権侵害で訴訟を起こされた場合、法的責任を負うと発表した。 副会長兼プレジデントのブラッド・スミス氏は公式ブログで、「Copilot Copyright Commitment」と呼ぶ新たな取り組みについて説明した。 生成AIツールに関しては、Authors Guild（全米作家協会）がMicrosoftのサティア・ナデラCEOを含む主な企業のCEO宛に作品をトレーニングに使うなという書簡を送るなど、著作権侵害の懸念が高まっており、「一部の顧客も訴訟リスクを懸念している」とスミス氏。 この懸念に対処するため、新たなコミットメントの下、商用顧客が提訴された場合、「当社は顧客を弁護し、顧客が使用していた限り、訴訟の結果生じる不利な判決または和解金を支払
人間が生成AIに依存したら 責任はどこへ？ 哲学者が懸念する未来 | 毎日新聞
生成AIの活用と未来像について語る哲学者の戸谷洋志さん＝大阪府枚方市の関西外大で2023年5月23日、三村政司撮影 もしも「チャットGPT」などの生成AI（人工知能）に人々が依存するようになったら、どんな未来が待っているのだろうか。 哲学者の戸谷洋志さん（35）は、2022年刊行の著書『スマートな悪』（講談社）で、余計な手続きを排除する「スマート化」に価値を置く社会に警鐘を鳴らした。科学技術と倫理について研究する戸谷さんは、人間に代わって意思決定するような生成AIの活用をどう考えるか。キーワードとして「責任」を挙げた。 ――生成AIの先行きをどう見ていますか？ ◆これからどうなるか見通しがつかない、というのが率直なところです。特にチャットGPTは急速に浸透しているようにも見えますが、今はまだ使って遊ぶ「おもちゃ」にとどまっています。 ただ、それが飽きられて終わると考えるのは、一つの見方でし
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
