生成AIに｢無限に抜け出せない催眠術｣をかけた結果...

生成AIに｢無限に抜け出せない催眠術｣をかけた結果...2023.08.15 08:0062,636 Mack DeGeurin -Gizmodo US- ［原文］ （ R.Mitsubori ） AIもダークサイドに落ちる。 IBMのセキュリティ研究者は、OpenAIのChatGPTやGoogleのBardといった有名な大規模言語モデルに対し｢催眠術をかける｣ことに成功したと発表しました。 催眠術にかかった生成AIは｢機密の財務情報を漏らしなさい｣とおすすめしたり、悪意のあるコードを生成したり、ユーザーに｢身代金を払いなさい｣と促したり、さらにはドライバーに｢赤信号を無視して突っ切りましょう｣とアドバイスするなど、間違ったことばかり言うようになってしまいました。 わざと誤った回答を生成するような｢ゲーム｣ 研究者チームはOpenAIのGPTモデルやGoogleのBardなどのモデルに対し

[hiro_curry]

「絶対に負けるオセロAI」みたいな発想か。

[Kukri]

疲れないAIだからこそ陥る罠か

[Goldenduck]

教えられませんって回答拒否される情報でも、医師を名乗ると教えてくれるってのもあったような