米OpenAI「公表しないで……」 ブラックボックスであるLLMの中身を“盗む”攻撃 米Googleらが発表
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 米Google DeepMindなどに所属する研究者らが発表した論文「Stealing Part of a Production Language Model」は、米OpenAIのGPT-4や米GoogleのPaLM-2などのクローズドな大規模言語モデル（LLM）から、モデルの一部を盗み出す攻撃を提案した研究報告である。言語モデルのAPIへのクエリを通じて、低コストでモデルの内部構造に関する情報を抽出することに成功した。 GPT-4やPaLM-2などの最先端AIモデルは、APIを通じて一般ユーザーに提供されているが、内部構造や学習に使用され
口頭の質問に何一つ答えられなかった学生が「こんな完璧なレポートを書ける？」という卒論を出してきたがAIが書いたものではないかという疑念がある
さすらいの研究者 @PI_in_abroad どうしよう。卒論の採点中に不審な点を発見してしまった。明らかに理解してなかった学生が、相当レベルの高い論文を出してきた。文章もあまりに美しく、不審すぎる。口頭の質問に何一つ答えられなかった子が、こんな完璧なレポートを書ける？ まさかこれが、AIの恐怖？！疑わしきは罰せずだけど🧐 2023-05-06 00:16:39 さすらいの研究者 @PI_in_abroad 海外は３カ国をさすらい、今はヨーロッパでPIとして細々と研究室を運営している、物理学科出身の神経生物学系研究者です。科学的な探究心はいっぱいあります！世の中に色々言いたいこともあるのですが、平和主義でビビりです。現状は偽名ですが、どこかで実名に変えるかもしれません。お手柔らかにお願いしますm(_ _)m
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
