逆ケンタウルス化問題：人間はAIを監視し続けられるのか（無理） | p2ptk[.]org

以下の文章は、コリイ・ドクトロウの「Humans are not perfectly vigilant」という記事を翻訳したものである。 Pluralistic AIの面白い話をしよう。あるセキュリティ研究者が、大企業のAI生成のソースコードが存在しないライブラリを繰り返し参照していること（AIの”幻覚（ハルシネーション）”）に気づき、その名前をつけた悪意のある（無害な）ライブラリを作ってアップロードした。すると何千人もの開発者がそのコードをコンパイルする際に自動的にそのライブラリをダウンロードして組み込んでしまった。 https://www.theregister.com/2024/03/28/ai_bots_hallucinate_software_packages/ こうした”幻覚”は大規模言語モデルの拭い難い特徴だ。なぜなら、AIモデルは理解しているフリをしているだけで、実際には高

[tmatsuu]

「AI生成のソースコードが存在しないライブラリを繰り返し参照していることに気づき、その名前をつけた悪意のある（無害な）ライブラリを作ってアップロード」わいわい。生成AIの十戒をAIに生成してもらおうぜ

[kiku72]

“以下の文章は、コリイ・ドクトロウの「Humans are not perfectly vigilant」という記事を翻訳”