GPT-4やLlama 2の透明性をスタンフォード大HAIが評価 トップはMetaでOpenAIは3位
米スタンフォード大学Human-Centered AI Institute（HAI）は10月18日（現地時間）、AIの基盤モデルを公開している10社の透明性を評価するスコアリングシステム「Foundation Model Transparency Index」（FMTI）を公開した。 基盤モデルとは一般に、教師なし学習で大量の生データでトレーニングされたAIニューラルネットワークを指す。例えば米OpenAIのGPT-4や、米Googleの「PaLM 2」などで、それぞれChatGPTやBardを介して一般人も利用している。 HAIの基盤モデル研究センター（CRFM）のリシ・ボンマサニ氏は、基盤モデル分野の企業の透明性が低下していると警鐘を鳴らし、FMTIは透明性評価のために設計したと語った。 システムは、基盤モデルの構築方法、機能方法、ユーザーにどのような形で使われるかなど、透明性に関する
GPTやLlamaなどの大規模言語モデルはファインチューニングで簡単に脱獄可能だという研究結果
大規模言語モデルには、有害なコンテンツを出力しないようなセーフガードが設けられています。プリンストン大学、バージニア工科大学、IBMリサーチ、スタンフォード大学の研究チームがOpenAIのGPT-3.5 TurboとMetaのLlama-2-7b-Chat大規模言語モデルを検証した結果、小規模なファインチューニングでセーフガードを外すことができたと報告しています。 [2310.03693] Fine-tuning Aligned Language Models Compromises Safety, Even When Users Do Not Intend To! https://arxiv.org/abs/2310.03693 AI safety guardrails easily thwarted, security study finds • The Register https:
中国のローンアプリの闇の世界をBBCが暴露、多くの人を自殺に追い込んでいる恐るべき実態
即座にお金が手に入るものの、銀行よりもはるかに高い金利が請求される一部のローンアプリがユーザーを食い物にしている実態がBBCにより暴かれました。人々を借金のスパイラルに追い込む中国人投資家所有のローンアプリの痕跡、ローン回収コールセンターが採用した脅迫戦術、少なくとも60人を自殺に追い込んだ虐待行為が記録されています。 The Trap: Inside the blackmail scam destroying lives across India - BBC World Service Documentaries - YouTube Blackmail, suicides to nudes, 10 things to know about the horrifying instant loan app scams | Tech News https://tech.hindustantim
全国銀行データ通信システムのシステム障害についてまとめてみた - piyolog
2023年10月10日、全国銀行資金決済ネットワークは、同社が運用している全国銀行データ通信システムでシステム障害が発生したことを公表しました。この障害の影響により一部の金融機関で送金遅延などが生じました。ここでは関連する情報をまとめます。 560万件の取引に影響 障害が起きたのは全国銀行資金決済ネットワーク（全銀ネット）が運用する全国銀行データ通信システム（全銀システム）のうち、平日8時半から15時半まで稼働するコアタイムシステムで金融機関との接続に使用される中継コンピューター（RC）。障害は10月10日8時半に発生し、10月12日未明に復旧に向けた対応が完了、同日8時半の切替完了したことで復旧した。*1 全銀システムは1,000超の金融機関が参加しており、1営業日当たりの取引件数は2022年実績で約806万件、約14兆円。*2 今回のシステム障害により金融機関間で行われる送金に遅延や取
GoogleのチャットAI「Bard」で会話内容を共有するとGoogle検索に表示されてしまうことが発覚
GoogleのチャットAI「Bard」は、2023年7月のアップデートで「AIとの会話内容を共有する機能」を追加しました。この会話共有機能を使用すると、Bardとの会話がGoogle検索にインデックスされてしまい、全世界に公開されてしまうことが明らかになっています。 Google accidentally leaking Bard AI chats into public search results https://www.fastcompany.com/90958811/google-was-accidentally-leaking-its-bard-ai-chats-into-public-search-results Google To Block Bard Public Shared Conversations From Google Search https://www.ser
ＴｉｋＴｏｋに５４０億円の制裁金、アイルランド当局「子供の個人情報保護が不十分」
【読売新聞】 【ロンドン＝中西梓】アイルランドのデータ保護当局は１５日、中国発の動画共有アプリ「ＴｉｋＴｏｋ（ティックトック）」が欧州連合（ＥＵ）の一般データ保護規則に違反したとして、欧州現地法人に３億４５００万ユーロ（約５４０億円
【Amazon】２段階認証を設定したアカウントで不正アクセス被害の報告が急増（2023年9月12日）
2023年9月以降、Amazonアカウントの不正アクセス被害が急増しています。不正アクセス被害は2段階認証を設定しているアカウントでも報告されており、何らかの方法で2段階認証をすり抜け、ギフトカードなどを無断購入される被害が増えています。 ２段階認証を設定したアカウントで不正アクセス被害が報告 2023年9月以降、Amazonアカウントの不正アクセス被害が相次ぎ発生しており、SNSなどで「ギフトカードを購入された」「2段階認証を突破された」など、被害を報告する声が増えています。 また、2段階認証（2SV）を設定していたとするユーザーからも不正アクセス被害が報告されており、何らかの方法で2段階認証がすり抜けられてしまうことがあるようです。 Amazonのアカウント、不正利用されたー 夜中にギフトカード5,000円×20枚購入されて、速攻メールでどこかに送信されたらしく、即時クレカに請求が来て
警察官の「着られるカメラ」試験導入へ 職務質問などチェック | 毎日新聞
警察庁は30日、小型の「ウエアラブルカメラ」を地域警察官らが装着するモデル事業を2024年度に実施すると発表した。職務質問の対応が適切だったかを事後的に確認できるようにすることなどが狙い。比較的規模の大きな都道府県警で先行実施し、効果を検証した上で本格導入を検討する。24年度予算の概算要求に関連経費約1500万円を盛り込んだ。 警察庁によると、ウエアラブルカメラは計102式を購入予定で、内訳は地域65式▽雑踏警備など19式▽交通18式。雑踏警備では、多くの人が行き来する状況を撮影して別の場所でリアルタイムに監視する。交通では、撮影した違反の状況を運転者に示すことなどを想定。交通違反の取り締まりは警察官の現認が原則だが、それを補完する役割が期待される。
総務省｜報道資料｜ヤフー株式会社に対する行政指導
総務省は、本日、ヤフー株式会社（代表取締役社長 小澤 隆生）に対して、検索関連データの提供に関する利用者周知及び安全管理措置の実施について、文書により行政指導を行いました。 ヤフー株式会社（以下「ヤフー社」といいます。）は、Yahoo！JAPANの検索エンジン技術の開発・検証の観点から、NAVER Corporation（以下「NAVER社」といいます。）に対して、令和5年5月18日（木）から同年7月26日（水）までの間の検索関連データの提供を試験的に行っており、その際、慎重な取扱いが求められる情報である位置情報等（約756万のユニークブラウザ分の検索クエリ等（うち、位置情報は約410万のユニークブラウザ分））を利用者に対して事前の十分な周知を行うことなく、NAVER社へ提供し利用させていたほか、当該位置情報等について十分な安全管理措置がとられていなかったことが判明しました。
【詳細】トヨタ 国内14工場で稼働停止 システムに不具合 | NHK
トヨタ自動車は、システムの不具合を受けて、グループ会社を含む国内14のすべての工場で稼働を停止する事態となりました。仮の復旧作業を進めて30日朝からはこのうち12の工場で稼働を再開させるとしています。 トヨタ自動車によりますと、システムの不具合が発生し部品の発注の処理ができなくなったことから、グループ会社を含む国内の14のすべての工場で稼働を停止させる事態となりました。 会社は、原因は調査中としていますが、仮の復旧作業を進めて30日朝からはこのうち12の工場で稼働を再開させるとしています。 一方、福岡県と京都府にある2つの工場は、30日夕方から夜にかけて稼働を再開する見通しです。 トヨタでは、取引先がサイバー攻撃を受けた影響で、去年3月、一時、国内すべての工場の稼働を停止する事態となりました。 会社は、今回のシステムの不具合は今の段階ではサイバー攻撃ではないとみられるとしていて、原因の調査
サイバー人材確保「『給与の壁』を政治主導でぶち破れ」｜FNNプライムオンライン
13日のフジテレビ系「日曜報道 THE PRIME」では、「能動的サイバー防御」やサイバー人材の確保などをめぐって、与野党の論客が議論した。 「能動的サイバー防御（アクティブサイバーディフェンス）」とは、サイバー空間での安全保障を強化するため、攻撃者を監視して先手を打つなどの対抗措置を取ることで、昨年12月に政府が閣議決定した「国家安全保障戦略」などに明記されている。 自民党の佐藤正久元外務副大臣は、「サイバーは、攻撃側が圧倒的に有利だ。守る方は大変だ」とした上で、「日ごろから怪しいと思ったら、そこを見ておく。1回攻撃を受けたら攻撃側を特定し、（場合によってはマルウェアを送って）無力化しないと、二の矢、三の矢を防ぐことができない」と指摘した。 そして、能動的サイバー防御の法整備の必要性を強調し、「立憲民主党が賛成したら、議論は加速化される」と述べた。 立憲民主党の中谷一馬衆院議員 この記事
China hacked Japan’s sensitive defense networks, officials say
In the fall of 2020, the National Security Agency made an alarming discovery: Chinese military hackers had compromised classified defense networks of the United States’ most important strategic ally in East Asia. Cyberspies from the People’s Liberation Army had wormed their way into Japan’s most sensitive computer systems. The hackers had deep, persistent access and appeared to be after anything t
中国軍、日本の最高機密網に侵入 情報共有に支障―米報道：時事ドットコム
中国軍、日本の最高機密網に侵入 情報共有に支障―米報道 2023年08月08日07時08分配信 ポッティンジャー前米大統領副補佐官（国家安全保障担当）＝２０２２年７月、ワシントン（ＥＰＡ時事） 【ワシントン時事】米紙ワシントン・ポスト（電子版）は７日、中国人民解放軍のハッカーが日本の防衛省の最も機密性の高い情報を扱うコンピューターシステムに侵入していたと報じた。２０２０年秋に米国家安全保障局（ＮＳＡ）が察知し、日本政府に伝達した。しかし、日本のサイバー対策は依然として十分ではなく、日米間の情報共有の支障となる可能性が残っている。 米大使らのメール流出か 中国発サイバー攻撃で―報道 同紙によると、中国軍によるネットワーク侵入は「日本の近代史上、最も有害なハッキング」となった。元米軍高官は「衝撃的なほどひどかった」と語ったという。 報道では、米政府は２０年秋、当時のポッティンジャー大統領副補佐
AI規制「数週間で行政措置」大統領令を発出へ バイデン氏明言：朝日新聞デジタル
","naka5":"<!-- BFF501 PC記事下（中⑤企画）パーツ＝1541 -->","naka6":"<!-- BFF486 PC記事下（中⑥デジ編）パーツ＝8826 --><!-- /news/esi/ichikiji/c6/default.htm -->","naka6Sp":"<!-- BFF3053 SP記事下（中⑥デジ編）パーツ＝8826 -->","adcreative72":"<!-- BFF920 広告枠）ADCREATIVE-72 こんな特集も -->\n<!-- Ad BGN -->\n<!-- dfptag ＰＣ誘導枠５行 ★ここから -->\n<div class=\"p_infeed_list_wrapper\" id=\"p_infeed_list1\">\n <div class=\"p_infeed_list\">\n <div class=\"
OpenAIやMetaなどAI大手7社、米連邦政府に「責任あるAI開発」を“自主的に”約束
米連邦政府は7月21日（現地時間）、AIを手掛ける7社の代表をホワイトハウスに招集し、AIの安全性、セキュリティ、透明性の高い開発に向けた取り組みを支援するため、これらの企業から自主的な取り組みを確保したと発表した。 サイバーセキュリティ対策やコンテンツがAIによって生成されたことをユーザーに示すための透かしへの投資などを約束するものだが、“自主的”なものであり、規制ではないので守れなくても責任は問われない。 主な内容は、Microsoftがまとめた以下の画像を参照されたい。 実際にホワイトハウスに集まった7社の代表は以下の通り。 OpenAI：グレッグ・ブロックマン社長 Microsoft：副会長兼プレジデントのブラッド・スミス氏 AlphabetおよびGoogle：グローバル担当社長のケント・ウォーカー氏 Anthropic：ダリオ・アモデイCEO Inflection AI：ムスタフ
「OpenAI APIの安定稼働版のようなイメージを持ってもらえればいい」 Azure OpenAI Serviceの特徴と、プレイグラウンドのデモ
ユーザーの立場ではAIネイティブな働き方が身近に迫っており、データサイエンティストやMLエンジニアにとってはGPTを活用した開発を意識する必要が出てくる中、マイクロソフトの取り組みやML開発のパラダイムシフトをご紹介する「ChatGPTによって描かれる未来とAI開発の変遷」。ここで日本マイクロソフト株式会社の蒲生氏が登壇。ここからはAzure OpenAI Serviceならではの特徴と、Azure OpenAI Serviceのプレイグラウンドについて話します。前回はこちらから。 マイクロソフトとOpenAI 蒲生弘郷氏：こういうことを言うと、「またマイクロソフトの人間が大きなことを言ってポジショントークをしている」みたいになりますが、GPTは正しい使い方と注意点を踏まえていかないといけない部分はやはりあると思うので、今日のこの講演の中でしっかりその内容について把握いただいた上で、活用方
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
廃校をデータセンターに 建設費8割減、AIで需要急増 - 日本経済新聞
海賊版サイト「漫画村」、数億円稼いだ開設者「ネット広告は抜け穴だらけ」
中国ハッカー、アメリカに「マルウェア」仕掛けた可能性…台湾有事にらみ工作活動か
米政府「AI製」明示で合意 GoogleやOpenAIなど7社と - 日本経済新聞
