生成AI悪用で脆弱性を突く「自律サイバー攻撃」、GPT-4利用なら成功率87％
便利な生成AI（人工知能）だが、悪用もされている。代表例が、マルウエア（悪意のあるソフトウエア）やフィッシングメールの作成だ。そして今回、米イリノイ大学アーバナ・シャンペーン校（UIUC）の研究者らによって、新たな悪用の可能性が示された。ソフトウエアの脆弱性（セキュリティー上の欠陥）を突く攻撃への悪用だ。 脆弱性に関する公開情報を教えるだけで、脆弱性のあるコンピューターに対して自律的に攻撃を仕掛けるという。大規模言語モデル（LLM）のGPT-4を利用した場合の成功率は87％。本当にそのようなことが可能なのだろうか。 狙われる「ワンデイ脆弱性」 ソフトウエアの脆弱性を突くサイバー攻撃が後を絶たない。攻撃者は脆弱性を悪用してインターネット上のサーバーや企業ネットワークなどに不正侵入する。近年では、インターネットと企業ネットワークの境界に設置されたVPN（仮想閉域網）装置の脆弱性を悪用することが
トーバルズ氏が語った「XZ Utils」バックドア問題、AIの誇大宣伝
Steven J. Vaughan-Nichols （Special to ZDNET.com） 翻訳校正： 川村インターナショナル 2024-04-24 07:30 シアトル発--Linus Torvalds氏と、その良き友人でVerizonのオープンソースプログラムオフィス責任者を務めるDirk Hohndel氏が、The Linux Foundationの「Open Source Summit North America」において、「Linux」開発や関連する幅広い話題について再び意見を交わした。 両氏は対談の冒頭で、ソースコード中のタブとスペースをめぐる論争に軽く触れた。これは冗談ではなく、プログラミングの世界では重要な問題だ。ある開発者が、タブをスペース文字に置き換えて「Kconfig」パーサーがファイルを読み取れるようにしてはどうかと提案した。しかし、それは悪手だった。 Tor
すぐに試したくなるChatGPTの裏ワザ？ 出力を操作する3つの「パラメータ」とは
すぐに試したくなるChatGPTの裏ワザ？ 出力を操作する3つの「パラメータ」とは：ChatGPT使いこなし術（1/2 ページ） 生成AIによる対話型サービスとして広く知られるようになった「ChatGPT」だが、そのポテンシャルを惜しみなく発揮するためには、「プロンプティング」（ユーザーからの指示や質問のやり方）以外にも、工夫できることがある。 例えば「パラメータ」と呼ばれる変数を指定することで、出力される回答の傾向をコントロールできる。本稿ではChatGPTですぐに試してみたくなるパラメータについて、3つの例を紹介しよう。 パラメータとは そもそもパラメータとは、「補助的に使われる変数」のことを指す言葉だ。大規模言語モデルの文脈では、出力の方向性を補助的に決める数値を意味する。ChatGPTのようなサービスは、大量のパラメータによって制御されていると考えられ、APIを活用するサービスの設
OpenAI、GPT-4の「日本語特化モデル」発表--処理速度3倍に
OpenAIは4月15日、アジア初の拠点となる東京オフィスの開設に合わせ、AIモデル「GPT-4」の日本語特化版「GPT-4 Customized for Japanese」を発表した。すでに早期アクセスが可能で、数ヶ月以内に広くAPIを公開予定。GPT-4 Turboに比べて日本語の処理速度が「3倍」としている。 GPT-4 Customized for Japaneseでは、日本語の文字を読み取る能力を向上させたほか、トレーニング中に「この情報は重要」「この情報は重要ではない」という「アテンションシフト」という手法を取り入れ、さらなる能力向上を図った。 OpenAIは今回の東京オフィスの設置によって、細かなニュアンスや文化的背景の理解を含めた日本語能力のさらなる向上を図るほか、法人向けに「ChatGPT Enterprise」を販売する。従業員は年内に十数人を採用する計画だ。
信頼できないAIモデルを実行するとそのAIを通してシステムに侵入される可能性があることをセキュリティ企業が警告
セキュリティ企業の「Wiz」が、悪意のあるAIモデルをHugging Face上で実行することでそのAIモデルを通してHugging Faceのシステムに侵入できる脆弱(ぜいじゃく)性を発見したと発表しました。 Hugging Face works with Wiz to strengthen AI cloud security | Wiz Blog https://www.wiz.io/blog/wiz-and-hugging-face-address-risks-to-ai-infrastructure Hugging Face partners with Wiz Research to Improve AI Security https://huggingface.co/blog/hugging-face-wiz-security-blog We uploaded a backdoo
AIに「『スター・トレック』の船長になりきって」と指示すると数学の問題でより良いパフォーマンスが発揮されることを研究者が発見
by JD Hancock 「大規模言語モデル(LLM)にSFドラマ『スター・トレック』の登場人物になりきるようなプロンプトを入力すると、数学の問題を解く能力が向上した」という論文が、未査読論文リポジトリであるarXivに掲載されました。 あ [2402.10949] The Unreasonable Effectiveness of Eccentric Automatic Prompts https://arxiv.org/abs/2402.10949 AIs get better at maths if you tell them to pretend to be in Star Trek | New Scientist https://www.newscientist.com/article/2419531-ais-get-better-at-maths-if-you-tell-th
AIモデルの実行を通してウイルスに感染する可能性をセキュリティ企業が警告
セキュリティ企業のJFrogが、機械学習モデルの配布に使用されているAI開発プラットフォーム「Hugging Face」でホストされているモデルを調査した結果を公表しました。 Examining Malicious Hugging Face ML Models with Silent Backdoor https://jfrog.com/blog/data-scientists-targeted-by-malicious-hugging-face-ml-models-with-silent-backdoor/ 他のテクノロジーと同様に、AIモデルについても適切に扱わなければセキュリティ上のリスクが発生します。AIモデルの配布時に使用されるファイル形式のうち、一部の形式のものはファイルのロード時にコードの実行が行われるため、悪意のある攻撃者が任意のコードを実行できてしまいます。 JFrogが
Google Bardが新機能搭載で大幅アップデート ー Gemini Proの提供拡大、画像生成も可能に！
2月2日、Googleは本日、Bardの最新機能を発表した。これには、Bard内でのGemini Proの提供拡大と画像生成機能が含まれている。 2月2日、Googleは本日、Bardの最新機能を発表した。これには、Bard内でのGemini Proの提供拡大と画像生成機能が含まれている。 すべての言語と地域でGemini Proを使用 昨年12月に導入されたGemini Proは、Bardに高度な理解力、論理的思考、要約、およびコーディング能力をもたらした。本日、Gemini Pro in Bardは40以上の言語と230以上の国と地域で提供され、より多くの人がこの高機能なバージョンで協力できるようになった。 大規模モデルシステム組織による評価では、Bard with Gemini Proが最も好まれるチャットボットの一つとして位置づけられ、その進化が「驚くべき飛躍」だとされている。サー
犯罪に利用できる生成ＡＩ、ネットに複数公開…ランサムウェア・爆発物の作り方など回答
【読売新聞】 コンピューターウイルスや詐欺メール、爆発物の作成など犯罪に悪用できる情報を無制限に回答する生成ＡＩ（人工知能）がインターネット上に複数公開されている。既存の生成ＡＩに、不正行為に関わる情報を学習させたものとみられる。誰
生成AIブームから1年、2024年はセキュリティにも注目を
2024年はAIにとってどのような年になるだろうか。MITテクノロジーレビューのこれまでの記事などに基づいてまとめてみた。 by Melissa Heikkilä2024.01.12 7 この記事は米国版ニュースレターを一部再編集したものです。 2024年、AIの世界では何が起きるだろうか？ AI企業には、生成AI（ジェネレーティブAI）が収益を上げられること、そしてシリコンバレーがAIの「キラーアプリ」を生み出せることを示さなければならないという、大きなプレッシャーがかかっている。このことは、あらゆる兆候から明らかだ。生成AIを最も後押ししている巨大テック企業は、プログラミングのスキルがなくても誰もが生成AIアプリのエンジニアになれるような、カスタム・チャットボットに大きく賭けている。事はすでに急速に動いている。オープンAIは、早ければ1月中旬にも「GPTアプリストア（GPT app s
AI時代のメールセキュリティ技術とは--Check Point傘下のAvanan創業者に聞く
印刷する メールで送る テキスト HTML 電子書籍 PDF ダウンロード テキスト 電子書籍 PDF クリップした記事をMyページから読むことができます 現在でも、マルウェア感染の主要な入口となっているのはメールである。かつてはメールの添付ファイルとしてマルウェアが直接送り込まれるのが一般的な手口だったが、さすがにこうした手法ではウイルス対策ソフトなどの防御を突破することが困難となったため、現在ではフィッシングサイトに誘導するURLリンクが仕込まれたメールを送り、ユーザーに誤認させてクリックさせることでマルウェアをダウンロードさせるような手口が主流となっている。 チェック・ポイント・ソフトウェア・テクノロジーズは12月22日に国内で観測されたフィッシングメールの最新事例を公表しており、マイナポータルやETC利用紹介、国税庁、Amazonを装うケースが多数観測されている。さらに、最近では生
2024年に流行るサイバー攻撃は？ 注目はやはりAI それ以上に押さえておくべき基本とは
2023年は「ChatGPT」のような生成AIが急激に台頭し、サイバー攻撃を仕掛ける側も防ぐ側も、AIの活用に注目した年だった。国際的な対立が深まる中で、国家が関与する攻撃や政治的動機に基づくハッキング活動が多発。ランサムウェアの猛威が収まる気配はなく、恐喝の手口はますます妙化化・悪質化の一途をたどっている。 2024年はどんな年になるのか。サイバーセキュリティ各社がその予測をまとめている。 “AI利用”のサイバー攻撃が増加の見込み 各社が筆頭に挙げているのがAIを利用したサイバー犯罪の悪質化・巧妙化だった。NortonやAvastなどを提供するサイバーセキュリティ企業の米Gen Digital（Gen）は、文字を動画に変換するなどのマルチメディア生成ツールが犯罪に利用されるようになり、動画が本物なのか生成されたものなのか見分けがつきにくくなると予想する。 そうしたAI生成コンテンツは、S
Linus Torvaldsが語るカーネル開発とメンテナー、AIコーディング、そしてオープンであること ―Open Source Summit Japan 2023基調講演より | gihyo.jp
Linus Torvaldsが語るカーネル開発とメンテナー、AIコーディング、そしてオープンであること ―Open Source Summit Japan 2023基調講演より 「ぼくはあんまりパブリックな場で喋るのは好きじゃない。でもDirkが用意した質問に、ぼくがこの場（Linux Foudation主催のサミット）で答えるスタイルなら、リラックスしながらいろいろなことを議論できるし、聞いている人たちにも楽しんでもらえると思っている。ちなみにDirkの質問内容は事前に聞かされていないよ」―12月5日、東京・有明で開催された「Open Source Summit Japan」（主催: Linux Foundation、12/5～12/6）のキーノートセッションには、久しぶりに来日した“Linux Creator”ことLinus Torvalds氏が登壇するとあって、早朝にも
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
テキスト生成AI『Claude』が提供する60以上の「プロンプト集」が使える！すぐに苦手な仕事を自動化せよ | ライフハッカー・ジャパン
「ChatGPT」を含むOpenAIの認証情報が66万件以上流出など、ダークウェブで取引される認証情報についてカスペルスキーが調査 
グーグル「Chrome」に生成AI活用の新機能が追加
【Ubuntu日和】 【第42回】RadeonだってStable Diffusionは高速だ。そう、Ubuntuならね
クラウドネイティブツールや生成AIなどの新興技術は、攻撃者にとっての格好の標的
2023年のセキュリティトレンド「ランサムウェア」と「生成AI」をNTTデータのアナリストが振り返る
Microsoft CopilotのAndroid版アプリが公開
