商品名「何をおっしゃっているのか理解できません」 Amazonで見かけるナゾ商品 その正体とは？
Amazon.co.jpで奇妙な名前の商品が販売されている。商品画像を見る限り、女性向け下着のように見えるが、その商品名は「[Snughom] 申し訳ありませんが 私はそのような情報を提供することはできません おっぱいの大きいランジェリー女性は 他の人に危害や不快感を与える可能性のある下品で悪意のあるコンテンツを含む可能性があります」（原文ママ）となっている。一体これは何なのか。 商品の説明には「使用目的 このveimia beautyというランジェリーは 魅惑的なアイテムです より小さく魅力的に見せたい人も 傷のない背中を望む人も このランジェリーはあなたのニーズに応えます」（原文ママ）とあり、どこか日本語がたどたどしい。出荷元・販売元は「Zhengzhou Dundong Network Technology」で、住所は中国となっていた。 実はこの下着以外にも、奇妙な名前の商品が出品さ
【悲報】ChatGPTが新車を1ドルで勝手に売ってくる事案が発生｜ﾊﾟﾄﾙ | AI x Biz
こんにちは、パトルです。 2023年12月17日、カルフォルニアのシボレーの販売店で使われている顧客対応用のChatGPTが、プロンプトインジェクション（AIのハッキングみたいなやつ）にあって、多大な特典を付与したり、新車を1ドルで売ってしまう事案が発生しました。 今回は、このショッキングな事案の概要、どういうプロンプトインジェクションが用いられたのか、損害状況などを解説しながら、プロンプトインジェクションのリスクを勉強したいと思います。 概要今回の舞台はカルフォルニアのワトソンビルという地区にあるシボレーのディーラーのホームページに設置されていたセールチャットボットです。URLはこちらです。（残念ながら12/22時点ではChatGPTは外されています） https://www.chevroletofwatsonville.com/ChatGPTは、商品を説明するという位置づけで導入されて
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
