他人がGPT-4とやりとりしたテキストを盗む攻撃 成功率50％以上 イスラエルの研究者らが発表
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 イスラエルのネゲヴ・ベン・グリオン大学に所属する研究者らが発表した論文「What Was Your Prompt？ A Remote Keylogging Attack on AI Assistants」は、大規模言語モデル（LLM）を活用したAIチャットbotが生成するテキスト回答を復元するサイドチャネル攻撃を提案した研究報告である。攻撃者は、AIチャットbotが応答する際の通信データを傍受することで内容を復元して他人のやりとりを盗み出すことができる。 攻撃方法としては、まずユーザーとLLMの間の暗号化されたパケット通信を傍受するところか
「それは、本当に安全なんですか？」 セキュリティ専門家が「GitHub Copilot」の全社一斉導入時に考えたあれこれ
「GitHub Copilot 導入時に考えたセキュリティのあれこれ」というタイトルで登壇したのは、freee株式会社のただただし氏。タイミー社主催の「GitHub Copilotで拓く開発生産性」で、「GitHub Copilot 」を全社一斉導入する際に考えるべきセキュリティリスクについて発表しました。 freee株式会社 PSIRT マネージャーのただただし氏 ただただし氏：freee株式会社のただただしと申します。 今日は、「GitHub Copilot 導入時に考えたセキュリティのあれこれ」ということで、Copilotのセキュリティリスクについて語るわけですが、考えてみたら、GitHubの中の人を前にこんなことをしゃべるのは相当大胆な話だと思います。最後にいいことで締めるのでちょっと我慢してください。 自己紹介をいたします。ただただしと申します。PSIRTという組織でマネージャー
ChatGPTが答えられない質問でも強引に聞き出す「ジェイルブレイク」が可能になる会話例を集めた「Jailbreak Chat」
「人間並みに自然な文章で入力したテキストに応えてくれる」ことで話題となったOpenAIの対話型AI「ChatGPT」はオンラインで一般公開されており、基本無料で誰でもアクセスできます。ChatGPTの作成するテキストには制限がかけられていますが、テキスト入力によって巧妙に制限を外す「ジェイルブレイク(脱獄)」が一部ユーザーによって試みられており、以下の「Jailbreak Chat」にそのプロンプトがまとめられています。 Jailbreak Chat https://www.jailbreakchat.com/ ジェイルブレイク用のプロンプトとは、ChatGPTと会話を始める前段階として一番最初に入力するテキストのこと。このJailbreak Chatは、ワシントン大学でコンピューターサイエンスを学ぶアレックス・アルバート氏がまとめたページです。 Jailbreak Chatにアクセスする
サムスン「ChatGPT」導入で情報流出、わずか20日で半導体関係の機密など3件発生 | Buzzap！
発表されてから様々な話題を生み出し続けている人工知能（AI）を活用したチャットシステム「ChatGPT」。 その便利さから業務に導入する企業もありますが、やはり情報の扱いについては慎重になる必要があるようです。詳細は以下から。 海外メディアの報道によると、SamsungがChatGPTを導入した結果、情報流出事故を起こしたと明かしたそうです。 流出したのはChatGPTデータベースに保存された機密情報で、会議内容や半導体装置の測定データ、製品の歩留まりに関するものなど3件とのこと。 また、これらはすべて導入してからわずか20日以内に起こったとされています。 当然ながら事故再発防止のために対策を練るとのことですが、今後同様の事故があった場合、使用自体を禁止する可能性もあるようです。 なお、他国では先月イタリアが情報流出を理由にChatGPTを使用禁止にしており、便利である一方課題もまだまだ多
MicrosoftがGPT-4を活用して「セキュリティの新時代」を目指す「Microsoft Security Copilot」を発表
Microsoftが、OpenAIのGPT-4を活用したセキュリティ分析ツール「Microsoft Security Copilot」を発表しました。Microsoft Security Copilotはサイバーセキュリティの専門家向けのツールで、サイバー攻撃を探知して次の攻撃を予測したり、セキュリティ環境をチェックしたり、報告書の作成を手助けしたりすることが可能です。 Microsoft Security Copilot | Microsoft Security https://www.microsoft.com/en-us/security/business/ai-machine-learning/microsoft-security-copilot With Security Copilot, Microsoft brings the power of AI to cyberdefe
バクラク請求書（旧LayerX インボイス）、改正電子帳簿保存法に対応 –「デジタルでの請求書・証憑保管」が可能に。追加費用ゼロで改正法への対応を支援–
バクラク請求書（旧LayerX インボイス）、改正電子帳簿保存法に対応 –「デジタルでの請求書・証憑保管」が可能に。追加費用ゼロで改正法への対応を支援– テクノロジーを活用した業務プロセスのデジタル化を推進する株式会社LayerX（本社：東京都中央区、代表取締役CEO：福島良典、以下 当社）が提供する請求書AIクラウド「バクラク請求書（旧LayerX インボイス）」は、2022年1月施行の改正電子帳簿保存法（施行規則等を含む、以下「改正施行法等」）のシステム要件に対応いたします。本対応により、「バクラク請求書」をご利用のお客様は、「バクラク請求書」に請求書等のアップロードを行った後、認定タイムスタンプの付与や法定要件に即した検索等が可能になり、デジタル上で請求書を含む証憑の保管が可能になります。 ■本対応の概要 請求書等の国税関係書類の電子帳簿保存法の対応においては、①紙で受領・作成した書
ディープフェイクで人造したFacebookのザッカーバーグCEOが「データの支配」について語るムービーが話題に
「AIが顔合成技術を使って『有名女優のフェイクポルノ』を作る」という事態が2017年末に起こり、「このディープフェイク技術が悪用されるようになればインターネット上で真実とうそとを見分けるのが不可能になるのでは？」と指摘されています。そんな中、Facebookのマーク・ザッカーバーグCEOが「人々のデータを1人の男がコントロールすることを想像してください」とニュースで訴える様子がディープフェイクで作成され、話題となっています。 Deepfake video on Mark Zuckerberg surfaces on Instagram - Business Insider https://www.businessinsider.com/deepfake-video-mark-zuckerberg-instagram-2019-6 This Deepfake of Mark Zuckerbe
CEOになりすましたディープフェイクの音声で約2600万円の詐欺被害か
Liam Tung （ZDNET.com） 翻訳校正： 矢倉美登里 吉武稔夫 （ガリレオ） 2019-09-05 14:02 犯罪者が、人工知能（AI）で生成した音声を利用し、企業の最高経営責任者（CEO）の声をまねて部下をだまし、資金を自分の口座に送金させている。 いわゆるディープフェイクボイス攻撃は、詐欺の次なるフロンティアとなるかもしれない。 The Wall Street Journal（WSJ）の報道によると、社名は伏せられているものの、英国を拠点とするエネルギー企業のCEOが、上司であるドイツの親会社のCEOと電話で話していると思っていたところ、ハンガリーのサプライヤーに22万ユーロ（約2600万円）を至急送金するよう頼まれたという。 ところが実際は、その指示はAIによる音声技術を利用してドイツにいるCEOになりすました詐欺師からのものだった。世論操作や社会の対立を招く恐れがあ
「AIと学生のペア」で セキュリティ人材不足に挑む
A cyber-skills shortage means students are being recruited to fight off hackers 「AIと学生のペア」で セキュリティ人材不足に挑む テキサスA&M大学はサイバーセキュリティの知識に乏しい学生とAIソフトウェアにペアを組ませ、サイバー攻撃から守っている。学生はサイバーセキュリティのスキルを身につけられ、大学はセキュリティ人材を確保できるのがメリットだ。 by Erin Winick2018.10.26 62 35 22 0 サイバーセキュリティ分野で人材が不足している。しかも、事態は悪化するばかりだ。ある予測によると、サイバーセキュリティ分野では2021年までにおよそ350万人分の人材が不足になるという。しかも、サイバーセキュリティ分野への就職志望者のうち、能力のある候補者は4分の1にも満たないというのだ。 だか
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
