生成AIの幻覚で指定される「架空のパッケージ」に悪用の危険性があるとセキュリティ研究者が警告
GPT-4やClaude 3のような大規模言語モデルは人間が書いたように自然な文章を生成できますが、時として事実に基づかない情報を生成する「ハルシネーション(幻覚)」という現象を起こします。セキュリティ企業・Lasso Securityの研究者であるバー・ラニャド氏が、ハルシネーションによって存在しないパッケージを組み込んだソースコードが生成され、実際に使われていると指摘しています。 Diving Deeper into AI Package Hallucinations https://lasso-security.webflow.io/blog/ai-package-hallucinations AI bots hallucinate software packages and devs download them • The Register https://www.theregis
欧州の主要3都市の市長が会談したのは「偽物のキーウ市長」だった ロシアの陰謀なのか？ | ハイブリッドな戦争の「心理兵器」か
2022年6月20日の週、欧州の主要な3つの都市の市長が立て続けに、自らの信用を損ない、嘲笑されるような事態に巻き込まれてしまった。 市長たちはそれぞれ、ウクライナの首都キーウのビタリ・クリチコ市長とビデオ通話による会談を行ったが、実はこのクリチコは偽物だったのだ。 疑わしい点はいくつかあったが…… ドイツのニュース専門チャンネル「n-tv」によると、被害に遭ったのはマドリード、ベルリン、ウィーンの市長。マドリードとベルリンでは会談中の話の内容のおかしさから疑念が生じ、予定より早く会談を打ち切ったようだ。 他方でウィーンでは、会談後数日間、関係者の誰もクリチコを偽物だと疑いはしなかったという。ウィーン市長は「会談では重要な事柄については話さなかったので、迷惑だが大きな問題ではない」と主張している。 しかし、少なくともベルリンのケースでは、疑わしい点が会談の開始時点までにいくつかあったはずだ
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
