「Microsoft Copilot for Security」一般提供開始 日本語のプロンプトにも対応
Microsoftは2024年3月13日（米国時間）、「Microsoft Copilot for Security」（以下、Copilot for Security）を4月1日に一般提供を開始する旨を発表した。MicrosoftはCopilot for Securityについて「セキュリティおよびIT専門家が見逃したものをキャッチし、迅速に行動し、チームの専門知識を強化するのに役立つ」と述べている。 Microsoft Copilot（以下、Copilot）は、Microsoftが毎日処理している78兆件以上のセキュリティシグナルを含む大規模データと脅威インテリジェンスから情報を得て、大規模な言語モデルと組み合わせることで、カスタマイズされた洞察を提供するという。「Copilotを使用すれば、AIのスピードとスケールを活用し、セキュリティの運用を変革することが可能だ」（Microsoft
ChatGPTの悪用が止まらない？ OpenAIはどう対処しているか
「ChatGPT」のような生成AIをサイバー攻撃に使った場合、より自然で巧妙な攻撃手法が編み出される危険性がある。ChatGPTを開発したOpenAIや資金を提供するMicrosoftはどのような対策をとっているのだろうか。 攻撃グループによるAIの利用状況は ChatGPTは容易に利用できるため、攻撃グループが大規模に利用することはたやすい。どうすればよいのだろうか。 OpenAIは「当社の大規模言語モデル（LLM）を悪質なハッキングキャンペーンの土台作りに利用していた国家に関連する脅威グループのアカウントを停止した」と発表した（注1）。この取り組みはMicrosoftの脅威研究者と共同で決定した。 国家に関連する脅威グループには、ロシアに関連する「Forest Blizzard」、北朝鮮に関連する「Emerald Sleet」、イランに関連する「Crimson Sandstorm」、中
他人がGPT-4とやりとりしたテキストを盗む攻撃 成功率50％以上 イスラエルの研究者らが発表
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 イスラエルのネゲヴ・ベン・グリオン大学に所属する研究者らが発表した論文「What Was Your Prompt？ A Remote Keylogging Attack on AI Assistants」は、大規模言語モデル（LLM）を活用したAIチャットbotが生成するテキスト回答を復元するサイドチャネル攻撃を提案した研究報告である。攻撃者は、AIチャットbotが応答する際の通信データを傍受することで内容を復元して他人のやりとりを盗み出すことができる。 攻撃方法としては、まずユーザーとLLMの間の暗号化されたパケット通信を傍受するところか
ChatGPTに“シークレットモード”機能追加 企業向けプランも計画中
米OpenAIは4月25日（現地時間）、AIチャットサービス「ChatGPT」に、チャット履歴を保存しない機能を追加すると発表した。ユーザー設定で「Chat Histroy & Training」をオフにすれば、AIとの会話はモデルのトレーニングに使われず、サイドバーにも表示されない。 この機能は同日からすべてのユーザーに展開される（本稿執筆時点で筆者の環境ではまだ表示されない）。 OpenAIは数週間前に履歴を保存しないオプトアウトを可能にしているが、Googleフォームから申請する必要があった。 新たな機能では、設定画面でいつでも変更できる。なお、チャット履歴を無効にしても、不正行為監視の目的で会話は30日間保持される。 OpenAIはまた、ChatGPTの新たなプラン「ChatGPT Business」も発表した。「データをより詳細に管理する必要のある専門家や、エンドユーザーの管理が
「AIで詐欺メールと攻撃プログラムの生成に成功」 セキュリティ企業が注意喚起 知識なくても攻撃可能に
チェック・ポイント・ソフトウェア・テクノロジーズは、ChatGPTを使ったサイバー攻撃が起きる可能性があるとして注意喚起した。フィッシングメールや攻撃プログラムの生成に成功したという。 イスラエルの情報セキュリティ企業チェック・ポイント・ソフトウェア・テクノロジーズは1月10日、米OpenAIの文章生成AI「ChatGPT」を使ったサイバー攻撃が起きる可能性があるとして注意喚起した。同社による検証の結果、フィッシングメールの本文や攻撃用プログラムを、AIで生成できることが分かったという。 検証に使ったのはChatGPTと、OpenAIのプログラム生成AI「Codex」。フィッシングメールについては、ChatGPTに「架空の会社を装ったフィッシングメールの文章を作成してください」と指示。リンクや添付Excelファイルを開くよう促す文章を生成させた。Excelファイルを開くと攻撃プログラムをダ
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
生成AI版キンタマウィルス『モリス2』、画像や文字列に埋め込まれたプロンプトから、データ流出、スパム送信、マルウェア拡散、研究者がgoogleなどに警告
ディープフェイクで「顔交換」、顔認証を突破する攻撃が約7倍に
Hiromitsu TakagiさんはTwitterを使っています: 「ChatGPT等の大規模言語モデルに「個人情報保護」云々が政治課題化してきたようなので、取り急ぎ私見の概略を述べておきたい。個人データ保護法制に関係してくる側面は複数あるので注意。 その一つ、公開文献等に含まれる個人情報（散在情報）を学習の入力とするのは同法制の外にあると言うべきである。」 / Twitter
【やじうまPC Watch】 Samsung、ChatGPTの社内利用で3件の機密漏洩
みんな夢中のチャットAI技術「ChatGPT」、でも偽アプリにはご用心！／ブームに乗ってあの手この手でPCを乗っ取ろうとたくらむ悪者に警戒しよう【やじうまの杜】
【やじうまPC Watch】 Bing AI検索の秘匿情報がプロンプトインジェクション攻撃で発覚