サクサク読めて、アプリ限定の機能も多数!
“大規模言語モデル(LLM)がアスキーアートを正しく認識できないという脆弱性を利用して、LLMに有害なコンテンツを出力させる新しいジェイルブレーク(脱獄)攻撃を提案した研究報告”
misshiki のブックマーク 2024/03/07 15:23
生成AIに“アスキーアート”入りプロンプト入力→有害コンテンツ出力 米研究者らが新手の脱獄法発見[自然言語処理][セキュリティ][人工知能]“大規模言語モデル(LLM)がアスキーアートを正しく認識できないという脆弱性を利用して、LLMに有害なコンテンツを出力させる新しいジェイルブレーク(脱獄)攻撃を提案した研究報告”2024/03/07 15:23
このブックマークにはスターがありません。 最初のスターをつけてみよう!
www.itmedia.co.jp2024/03/07
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」(シームレス)を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。...
67 人がブックマーク・19 件のコメント
\ コメントが サクサク読める アプリです /
“大規模言語モデル(LLM)がアスキーアートを正しく認識できないという脆弱性を利用して、LLMに有害なコンテンツを出力させる新しいジェイルブレーク(脱獄)攻撃を提案した研究報告”
misshiki のブックマーク 2024/03/07 15:23
このブックマークにはスターがありません。
最初のスターをつけてみよう!
生成AIに“アスキーアート”入りプロンプト入力→有害コンテンツ出力 米研究者らが新手の脱獄法発見
www.itmedia.co.jp2024/03/07
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」(シームレス)を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。...
67 人がブックマーク・19 件のコメント
\ コメントが サクサク読める アプリです /