生成AIに“アスキーアート”入りプロンプト入力→有害コンテンツ出力 米研究者らが新手の脱獄法発見
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 米ワシントン大学などに所属する研究者らが発表した論文「ArtPrompt: ASCII Art-based Jailbreak Attacks against Aligned LLMs」は、大規模言語モデル（LLM）がアスキーアートを正しく認識できないという脆弱性を利用して、LLMに有害なコンテンツを出力させる新しいジェイルブレーク（脱獄）攻撃を提案した研究報告である。 これまでにも、爆弾の作り方やIDの盗み方、人種差別的なジョーク、詐欺の方法などの有害なコンテンツをLLMに出力させる悪意ある攻撃が提案されてきた。 （関連記事：「銀行を襲う
Microsoft、「Copilot」1周年アップデートで新モデル「デュカリオン」搭載など
米Microsoftは2月7日（現地時間）、Copilot（当時は「新しいBingとEdge」）の発表からの1周年を記念して、いくつかの新機能を発表した。 Web、Android、iOSアプリのCopilotに、「Balanced mode（日本では「よりバランスよく」）をよりリッチかつ高速にする微調整モデルであるDeucalion」を採用したと、CopilotとBingのエンジニアリングおよび製品責任者、ジョルディ・リバス氏がXにポストした。具体的な改善点の説明はないが、Deucalion（デュカリオン。元はギリシャ神話に登場するプロメテウスの息子）はCopilotのための新しいベースモデルで、従来より正確で文脈に適した回答を提供することを目指しているという。 リバス氏がポストで示した画像を真似てCopilotに質問してみたところ、テキストの重要な部分が太字で表示され、回答に関連する画像
GitHub元CEO、OpenAI暫定CEOの就任依頼メールがきていたと明かす。しかし気づかず『スーパーマリオRPG』をプレイ - AUTOMATON
GitHubの共同創設者で元CEOのChris Wanstrath氏が11月21日、OpenAIの暫定的なCEOとして就任してほしいと要請メールが来ていたことを公表した。しかしWanstrath氏はメールが迷惑メールフォルダ入りしていたため気づかず、週末は『スーパーマリオRPG』をプレイしていたと明かした。 Chris Wanstrath氏はIT起業家兼プログラマーだ。ソフトウェア開発プラットフォームGitHubの共同創設者としても知られており、元CEOを務めていた。一方でOpenAIは人工知能の研究、開発をおこなっているアメリカの企業だ。対話型生成AIのChatGPTが代表的なサービスとなっている。 そんなOpenAIとWanstrath氏にどういう関係があるのか。Wanstrath氏にOpenAIからメールがあったことについては、同社のお家騒動が関係している。 Chris Wanstr
もう初回コードレビューはずんだもんに任せる時代になった
はじめに Gitのステージングエリアにあるファイルを対象に、レビュー結果をSlackに通知するアプリケーションを作成しました。 開発環境のターミナルで指定したコマンドを実行するだけで、Slackにレビュー結果が送信されます。 ソースコードは以下です。 こんな人におすすめ コードレビューを受ける前に自分で事前チェックをしたい方 一人でコードを書くことが多く、レビュワーがいない方 どうせなら楽しくレビューしてもらいたい、好きなキャラクターにレビューしてもらいたい方 アプリケーションの構成 レビュー依頼の手順と流れ 以下のような手順と流れでレビュー結果を得ることができます。 レビュー対象のファイルをステージングエリアに登録する（複数ファイルの登録が可能です） ローカルのターミナルでaireviewコマンドを実行 Slackに必要な情報が送信される レビュー結果を確認する スレッドにレビュー結果が
天才魔術師わい「白ワンピにデカい麦わら帽子。お姉ちゃん要素をひとつまみ。結局はこれが最強」AI「南半球で描いてきました」
更新日:2月27日01時23分
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
