登大遊氏が憂う、日本のクラウド、セキュリティ、人材不足、“けしからん”文系的支配：ITmedia Security Week 2023 冬 2023年11月29日、アイティメディアが主催するセミナー「ITmedia Security Week 2023 冬」の「実践・クラウドセキュリティ」ゾーンで、情報処理推進機構（IPA）サイバー技術研究室 登大遊氏が「コンピュータ技術とサイバーセキュリティにおける日本の課題、人材育成法および将来展望」と題して講演した。日本における「ハッカー」と呼ぶべき登氏が初めてアイティメディアのセミナーに登壇し、独特の語り口から日本におけるエンジニアリングの“脆弱性”に斬り込んだ。本稿では、講演内容を要約する。

ゴールデンウィークのはじめ（4月29日）に投稿された以下のツイートですが、5月7日20時において、1,938.8万件の表示ということで、非常に注目されていることが分かります。 我が名はアシタカ！スタバのFreeWi-Fiを使いながら会社の機密情報を扱う仕事をしてたら全部抜かれた。どうすればよい！ pic.twitter.com/e26L1Bj32Z — スタバでMacを開くエンジニア (@MacopeninSUTABA) April 29, 2023 これに対して、私は以下のようにツイートしましたが、 これ入社試験の問題にしようかな。『スタバのFreeWi-Fiを使いながら会社の機密情報を扱う仕事をしてたら全部抜かれた』と言う事象に至る現実的にありえる脅威を説明せよ。結構難しいと思いますよ。 https://t.co/LH21zphCTV — 徳丸 浩 (@ockeghem) April

12月9日（現地時間）、EUの閣僚理事会と欧州議会は、2021年4月に提案され審議が続いてきたAI法案「EU AI Act」について、暫定的な政治合意に達したと発表した。今後、最終的な内容を詰め、その上で各国の承認を得るプロセスに入るため、具体的な規制がどのような形で決着するのかは予断を許さない。 また承認が得られても、AI法が施行・適用されるようになるのはまだ先で、26年中になると見られている。とはいえAIを包括的に規制する、強制力のあるルールがついに施行されるということで、AI法の成立はAIガバナンスにとってエポックメーキングな出来事といえるだろう。 その詳しい内容はこれから定義される（「欧州AI庁」という組織が設置され、各種基準の定義や運用を担う予定）予定だが、具体的な道が示されることで、AIリスクの管理が容易になると期待されている。 しかしこうしたガバナンス方法の提案は、本当に社会

こんにちは、パトルです。 2023年12月17日、カルフォルニアのシボレーの販売店で使われている顧客対応用のChatGPTが、プロンプトインジェクション（AIのハッキングみたいなやつ）にあって、多大な特典を付与したり、新車を1ドルで売ってしまう事案が発生しました。 今回は、このショッキングな事案の概要、どういうプロンプトインジェクションが用いられたのか、損害状況などを解説しながら、プロンプトインジェクションのリスクを勉強したいと思います。 概要今回の舞台はカルフォルニアのワトソンビルという地区にあるシボレーのディーラーのホームページに設置されていたセールチャットボットです。URLはこちらです。（残念ながら12/22時点ではChatGPTは外されています） https://www.chevroletofwatsonville.com/ChatGPTは、商品を説明するという位置づけで導入されて

Image credit: Pickpik 約1年前に「ChatGPT」が登場して以来、ジェネレーティブ AI の時代は一気に加速しているが、その一方で反対勢力も存在する。 多くのアーティスト、芸能人、パフォーマー、そしてレコード会社までもが AI 企業を相手取り訴訟を起こしており、中には ChatGPT のメーカー OpenAI を相手取ったものもある。こうした訴訟は、これらの新しいツールの背後にある秘訣、すなわちトレーニングデータに関するものだ。つまり、これらの AI モデルは、大量のマルチメディアにアクセスし、そこから学習することなしには機能しないということだ。その中には、何の予備知識も持たず、自分たちの作品が新しい商用 AI 製品のトレーニングに使われることに反対する機会も与えられなかったアーティストが制作した文章や画像も含まれている。 これらの AI モデルのトレーニングデータセ

コロナ禍中に取得された地方自治体のドメインがオークションで高値売買され、中古ドメインとして悪用されるなど、公的機関のドメイン放棄問題が注目されています。 11月25日のNHKニュース7でドメイン流用の件が報じられました。私も取材を受け少しご協力をしています。 www3.nhk.or.jp 公的機関のドメイン放棄問題の理想の解決は、今後は lg.jp、go.jp などの公的機関しか使えないドメインだけを使うようにすることです。 ただ今回の問題はコロナ禍初期の大混乱時、非常にスピーディにサイト立ち上げが求められていた時の話です。 信頼が求められる lg.jp などのドメインの利用には厳格なルールがあるのも当然です。あの混乱時期にルール改定も難しかったと思います。新規ドメインが選ばれた事は仕方がない事と思っています。 ただ、コロナ禍が落ち着いた今、無責任に放棄されるのは明らかな問題です。 今回の

日本写真家協会は8月23日、生成AIで作成した画像は「二次的著作物」にあたり、原著作者の権利を保護するルール作りが必要だと問題提起する文書を公開した。 同協会がWebサイトで公開した「生成AI画像についてその考え方の提言」によると、日本の著作権法は著作物を「思想又は感情を創作的に表現したもの」と定義していることから、生成AI画像は既存の著作物を元に新たな画像を作成する「翻案（二次的著作物の創作）」にあたるという。 二次的著作物とは「キャラクターの絵から着ぐるみを作ったり、小説を映画化したり、ある外国の小説を日本語に翻訳した場合のように、一つの著作物を原作とし、新たな創作性を加えて創られた著作物」（文化庁、著作権解説集より）を指す。 しかし生成AI画像の場合、見ただけでは原著作物が何であるのか判断できない。このため同協会は、生成AI画像に原著作物の著作者名や出典、利用者などを明示する義務を設

クリエイティブな領域における人工知能（AI）との争いにおいて、人間が1つの勝利を収めた。米連邦裁判所判事は先週、AIが生成した作品は著作権で保護されないとの判決を下した。 Beryl Howell連邦地裁判事は判決文の中で、「人間の手にまったく導かれることなく動作する、新しい形態の技術によって生成される作品を保護するほど、著作権法が範囲を広げられたことはない。人間の創造物であることが基本要件だ」と述べた。 特に、米映画俳優組合（SAG-AFTRA）がストライキに入ってから100日間以上が経過し、AIを利用して脚本を制作するという概念が勢いを増す中、AIが生成した作品が法的保護を受けないという考え方は、クリエイティブな分野に携わる人々にとって朗報だ。 著作権は時代に適応していくものだが、「人間の創造性が新しいツールを経由したり、新しいメディアとして実現したりしても、人間の関与が著作物性の根幹

個人情報保護委員会は8月21日、生成AIサービスの利用に関する注意点をまとめたパンフレットを公開した。事業者や行政機関などに向けて、各提供サービスの利用者が入力した情報を、AIの学習データとして利用する予定がある場合に注意すべきことなどを記載している。 内容は、「個人データを第三者に提供する場合は本人の同意を得る必要がある」「保有個人情報を利用・提供する場合は特定された目的のためでなければならない」などの規律が存在することを知らせるもの。 サービス組み込み用の生成AIを提供する事業者などは、利用者が入力した情報を学習に使う場合もある。サービスの実装方法や規約によってはこれが個人情報保護法に触れる可能性があるため、確認するよう注意喚起したものとみられる。 個人情報保護委員会は以前にも「生成AIサービスの利用に関する注意喚起等」という文書を公開。生成AIサービスの利用に当たっては、情報の取り扱

Artificial Intelligence Policy Institute（AIPI）が米国で1001人の成人を対象に、人工知能（AI）に対する考えを調査した。その調査結果は、一般の人々が持つAIへの恐怖心を反映したものとなっている。

2023年6月7日、集英社は、AI（人工知能）生成画像を使ったグラビア写真集『生まれたて。』の販売を終了すると発表した。生成AIをとりまく様々な論点・問題点についての検討が十分ではなく、AI生成物の商品化については、より慎重に考えるべきであったと判断したとのことである。今回は、このようなAI生成画像を用いた「AIグラビア」の法的な問題点について弁護士の二木康晴氏に聞いた。 AI生成画像を使った実在しないモデル「さつきあい」のグラビアと、さつきあいのグラビア写真集『生まれたて。』の販売終了を知らせる集英社「週刊プレイボーイ」編集部のWebサイトの画像（出所／集英社） Q1　今回の「AIグラビア」では何が問題になったのか。 A1　集英社から公表されたプレスリリースを確認する限りでは、「AIグラビア」の販売が終了した直接の原因は明らかではない。 一般的には、生成AIは、著作権などの権利を侵害しな

資料やイベントのチラシなどの印刷物、SNSの投稿、Webサイトなどでイラストや写真が欲しい場合は多々あるが、画像生成AIの登場で自在に画像を生み出せるようになった。「プロンプト」と呼ぶ文字列で指示するだけで新しい画像を生成できる。

日本新聞協会など4団体は8月17日、生成AIにまつわる著作権保護策の再検討を求める共同声明を発表した。日本の著作権法第30条の4が「諸外国に比べ、AI学習に極めて有利に作られていることは大きな課題」と指摘。AIに学習させる著作物データの保護をめぐり、権利者団体と関係当局の意見交換を求めている。 声明を出したのは、新聞協会と日本雑誌協会、日本写真著作権協会、日本書籍出版協会。 生成AIは、ネット上の大量のデータを、著作者の同意なく学習して開発されているケースが多い。日本では、著作権法第30条の4により、このデータ収集は、「著作権者の利益を不当に害する」場合はを除き、著作権を侵害しないとされている。 声明では「学習利用の価値が著作権者に還元されないまま大量のコンテンツが生成されることで、創作機会が失われ、経済的にも著作活動が困難になる」「海賊版をはじめとする違法コンテンツを利用した、非倫理的な

印刷する メールで送る テキスト HTML 電子書籍 PDF ダウンロード テキスト 電子書籍 PDF クリップした記事をMyページから読むことができます 野村総合研究所（NRI）は8月9日、「生成AIのセキュリティリスクと対応のあり方」というテーマで報道説明会を開催した。 NRIセキュアテクノロジーズ コンサルティング事業統括本部長 兼 北米支社 Security Consulting Department部長の山口雅史氏はまず、2022年11月30日に対話型生成AI「ChatGPT」が公開されたことを挙げ、「現時点で実用に至っていることがかなり多い」と位置づけた。 企業での関心が高まる一方、業務効率化などを期待して生成AIを活用する際に想定されるリスクとして、同氏は「自社からの情報漏えい」「法令違反」「サービス事業者からの情報漏えい」「でっち上げ・誤情報・根拠不明の情報生成（ハルシネー

【読売新聞】　国内で配信されているショッピングやＳＮＳ、ゲームなどの主要アプリの９割に、消費者を不利益な選択に誘導する画面デザインが採用されていることが、東京工業大の調査で分かった。「ダークパターン」と呼ばれ、意図しない商品を購入さ

最終更新日：2024年1月31日 株式会社セガ（以下当社）は、グループバリュー「創造は生命」×「積極進取」およびグループミッション「感動体験を創造し続ける」の理念の下、業界における「Game Changer」となり、お客様の期待を超える感動体験を提供し続けることで、持続的な企業価値向上を実現し、ステークホルダーの皆様の期待に応えることを目指しています。 そのような中、弊社ではいつも皆さまの温かいご声援や叱咤激励、時には製品やサービスに対する厳しいご意見などもいただき、ありがたく日々参考にさせていただいております。 しかし残念ながら、一部では度を超えたハラスメント行為（カスタマーハラスメント）も発生しておりますことから、当社従業員や当社関係者（以下当社従業員等）が安心して業務を遂行できるよう、下記の通り対応させていただきます。 皆様のご理解・ご協力を賜りますようお願い申し上げます。 ■カスタ

東京都福祉保健局は6月2日、新型コロナウイルス感染者の情報管理システム「HER-SYS」の情報が漏えいしたと発表した。委託事業者の再委託先で勤務していた派遣社員が不正に閲覧。メモに書き出して自宅に持ち出し、一部を知人にLINEで送信したという。 問題の派遣社員は都民37人の氏名、住所、電話番号を閲覧し、メモに記録。このうち4人の情報をLINEで知人に送ったという。メモは回収済み。 問題は4月25日に発覚した。派遣社員が個人情報をメモしているところを、他の職員が目撃。同日、上長が事情聴取したが、派遣社員は行為を認めなかった。メモの存在も確認できなかったという。 翌26日に派遣社員が無断早退。そこで派遣会社が自宅を訪問し、事情を聞いたところ、情報を不正に閲覧し、持ち出した事実を認めた。3人分の情報が書かれたメモも発見した。 27日には再度事情を聴取。残り34人分の情報が書かれたメモを追加で回収

印刷する メールで送る テキスト HTML 電子書籍 PDF ダウンロード テキスト 電子書籍 PDF クリップした記事をMyページから読むことができます 本連載「企業セキュリティの歩き方」では、セキュリティ業界を取り巻く現状や課題、問題点をひもときながら、サイバーセキュリティを向上させていくための視点やヒントを提示する。 前回まで、高度化・巧妙化するサイバー攻撃の脅威に対して防御側は、その検知ができなくなり、それを覆すために高度な検知機能を持つさまざまなセキュリティ製品を導入したこと。また、それらを使いこなせるリソースがユーザー企業にもベンダーにも乏しく、セキュリティを向上できなかった経緯を述べてきた。 その結果、せっかくコストをかけて導入したセキュリティ製品を十分に活用できない状況が10年以上も続いた。しかし、2023年現在では、このような状況が皆無とは言わないまでも、かなり改善された

デジタル庁はマイナカード機能のうち、署名用および利用者証明用の電子証明書を5月11日からAndroid端末にダウンロードできるようにする（スマホJPKI）。これにより、マイナカードを持ち歩かなくても、マイナカード関連サービスの利用が可能になる。 このスマホJPKIを使い、オンラインで本人確認が行える機能を、Liquid（東京都千代田区）とサイバートラスト（東京都港区）が開発したと4月26日発表した。金融機関や通信事業者などが導入すれば、オンラインで簡単に本人確認が可能になる。 これまでも、スマホに専用のアプリをインストールすれば、マイナカードを使った本人確認は可能だった。しかし、都度スマホでマイナカードを読み取ってマイナカードに登録した暗証番号を入力する必要があった。 スマホJPKIを使うと、専用アプリを用意しなくてもWebブラウザから認証を開始でき、マイナポータルアプリを使い、スマホ内の