生成AIに｢無限に抜け出せない催眠術｣をかけた結果...
生成AIに｢無限に抜け出せない催眠術｣をかけた結果...2023.08.15 08:0062,636 Mack DeGeurin -Gizmodo US- ［原文］ （ R.Mitsubori ） AIもダークサイドに落ちる。 IBMのセキュリティ研究者は、OpenAIのChatGPTやGoogleのBardといった有名な大規模言語モデルに対し｢催眠術をかける｣ことに成功したと発表しました。 催眠術にかかった生成AIは｢機密の財務情報を漏らしなさい｣とおすすめしたり、悪意のあるコードを生成したり、ユーザーに｢身代金を払いなさい｣と促したり、さらにはドライバーに｢赤信号を無視して突っ切りましょう｣とアドバイスするなど、間違ったことばかり言うようになってしまいました。 わざと誤った回答を生成するような｢ゲーム｣ 研究者チームはOpenAIのGPTモデルやGoogleのBardなどのモデルに対し
サムスン、機密情報をChatGPTにリークして大問題に
こういう事故、もちろん起こると思ってたよね。 Samsung（サムスン）は、少なくとも3つの事例で同社の機密情報をOpenAIのChatGPTに流出させたとして大問題に。 今回判明したその事例というのは、それぞれのサムスン社員がやってしまった以下の3つです。 この情報漏えいを受けてサムスンは、各社員のChatGPTへのプロンプトを1,024バイトに制限する｢緊急措置｣を発動しました。 バツが悪いのは、サムスンが従業員に対してChatGPTの利用禁止を解除してからわずか3週間後に、これらの情報漏えいが起きてしまったことですね。現在サムスンは独自の社内AIを開発中です。 OpenAIは入力されたデータをすべて保存問題は、たとえ社員が即座にPCの電源を切ったとしても、ChatGPTにはクエリが残り続けるということです。 Open AIは、｢ChatGPTや他のサービスに投稿されたデータは、AIモ
イーロン・マスクがOpenAIを辞めた本当の理由
イーロン・マスクがOpenAIを辞めた本当の理由2023.04.03 13:0041,917 Kyle Barr - Gizmodo US ［原文］ （ satomi ） イーロン・マスクが｢OpenAI危ない！ 開発半年中止すべき｣と署名を搔き集めているのを見て、｢あれ？ 自分で立ち上げた研究所じゃないの？｣と首をかしげている人も多いと思います。 マスク氏辞任の真相確かに2015年にOpenAIが旗揚げした当初は、イーロン・マスクもLinkedIn共同創業者リード・ホフマン、PayPal共同創業者ピーター・ティールら投資家グループで計10億ドルの初期投資を約束した時期もあったし、研究所がRedditの掲示板の投稿をAIにフォードしていた辺りには共同会長でした。 しかし、Semaforが匿名の情報筋8名から得た情報によると、2018年にイーロンは｢このままではGoogle（グーグル）に完全
SkebのAIに対するスタンスとAI生成データを検出するAIの導入につきまして
いつもSkebをご利用いただきありがとうございます。 SkebのAIに対するスタンスと、AI生成データを検出するAIの導入についてお知らせさせていただきます。 AIはクリエイターを置換する技術ではなく、将来的にクリエイターの創作活動を加速させる技術になると考えています。Skebでは2018年のサービス開始時より、一貫して「イラスト」ジャンルではクリエイターが直接描いたイラスト、漫画のみを納品物として認めており、3Dモデルやスクリーンショット、AIが生成したデータの一部または全部を納品することは規約とポリシーに違反します。 これは盗難クレジットカードの現金化(チャージバック詐欺)をはじめとするサービスの不正利用を防止する目的で設けられた制約です。 Skebでは日々不正利用と戦っています。インターネット上にすでに存在する転載画像を使って盗難クレジットカードの現金化を試みる不正行為に対しては、転
アマゾン上にＡＩが著者の電子書籍２００種類超確認…「ＣｈａｔＧＰＴ」利用、信頼性に懸念
【読売新聞】 【ニューヨーク＝小林泰裕】ロイター通信は２１日、対話型ＡＩサービス「Ｃｈａｔ（チャット）ＧＰＴ」が著者として記載された電子書籍が、アマゾン・ドット・コムのウェブサイト上で２００種類以上確認されたと報じた。チャットＧＰＴ
AIが書いた小説の投稿激増、ヒューゴー賞受賞SF誌が受付を一時停止 | テクノエッジ TechnoEdge
米国のSF/ファンタジー誌「Clarkesworld Magazine」は作家からオンラインで寄稿された作品を掲載していますが、現在は作品の投稿システムを一時的に閉鎖しています。編集長のニール・クラーク氏はその理由として、AIによって生成された文章の投稿量が手に負えなくなったためであると自身のブログで説明しました。 Clarkesworld Magazineは2006年の創刊以来、SF小説やグラフィック作品およびその掲載誌、編集者に贈られるヒューゴー賞のうち、セミプロジン部門や編集者部門で複数回の受賞歴を持つオンライン誌。クラーク氏はブログの中で盗作とAI生成文を同列に捉えたうえで投稿禁止処置の発生件数について触れ、これまで一時的に増加することはあってもすぐに減少し、その絶対数も少なかったことに対して、2022年末ごろから再び増加に転じて、それ以後も増え続けていると述べています。 投稿禁止
ChatGPTのプライバシーに対する危うい姿勢
ChatGPTのプライバシーに対する危うい姿勢2023.02.21 11:0011,354 Uri Gal - Gizmodo US ［原文］ （ そうこ ） 王様の耳はロバの耳。 AI元年といってもいい2023年。去年のChatGPTリリースを皮切りに、BingにAI搭載、GoogleのBardと一気にAIチャットbotが台頭しています。ChatGPTはリリースから2カ月で1億アクティブユーザーを突破し、史上最速成長アプリとなっており、ユーザー視点でも企業視点でも今最も白熱しているのがAIチャット市場です。が、その裏にはプライバシーや権利の問題が…。 AIトレーニングデータの一部にあなたの文章が？ChatGPTは言語モデルに支えられており、これが機能し成長するためには莫大なデータが必要です。言語モデルがより多くのデータをトレーニングすればするほど、出力されるテキストはより複雑で確かなもの
ChatGPTでプログラマはお払い箱になるのか
ChatGPTが今後ますます精度がよくなると世の中で働くホワイトカラーの大半がAIに置き換えられるという論調を最近しばしば目にする．なかでもプログラマは失業まったなし，なんだそうだ． しかし，本当にそうなのだろうか？まずはChatGPTの実力を知らねば話にならない．簡単なCのプログラムを書かせてみた．以下，「[私] 〜」とあるのは私がChatGPTに対して入力した文字列であり，「[ChatGPT] 〜」およびそれに続くコード例は，ChatGPTの回答である． 1回目の対話それでは，ChatGPTの底力をみてみることにしよう． （対話ここから） [私] コマンドライン引数で2つの数字を受け取って足し算をした結果を表示するCのプログラムを書いてください． [ChatGPT] 以下が、2つの数字を受け取って足し算をするCのプログラムです。 #include <stdio.h> #include
破壊的でヤバいAI歌声合成「Diff-SVC」がGoogle Colabでの公開停止。一部ユーザーがセレブや商用音源を勝手に利用で自主制限（CloseBox） | テクノエッジ TechnoEdge
このDiff-SVCを簡単に実行できるGoogle ColabのNotebookが1月23日に公開停止となってしまったのです。ですので、前回紹介したやり方での実行はできなくなります。筆者はGoogle Colabからローカルにコピーしているのでこれまで通りに使えますが、新規に手軽にやろうという人への道は一時的にではありますが、閉ざされたことになります。 ▲筆者はGoogle ColabのNotebookをローカルに保存しているので現在も利用可能 なぜこういうことになったかというと、それは悪質な利用者のせいです。 自分の音源や、権利を所有する、許可をもらっている人物の声であれば問題ないのですが、前回言及したように、よく知られている歌手、セレブ、VOCALOIDなど既存のバーチャルシンガーの音源などを勝手にDiff-SVCでAI音源にし、歌わせたものを例えば「AIアリアナ・グランデが～を歌った
「親愛なるロシア人」入力すると…グーグル翻訳巡りロシアが改善要求：朝日新聞デジタル
","naka5":"<!-- BFF501 PC記事下（中⑤企画）パーツ＝1541 -->","naka6":"<!-- BFF486 PC記事下（中⑥デジ編）パーツ＝8826 --><div class=\"naka6-banner\" style=\"margin:0 0 15px;\">\n<p style=\"display:block;margin:0 auto;\"><a href=\"https://www.asahi.com/special/bucha/?iref=kiji_bottom_banner\" style=\"display:block;\"><img src=\"https://www.asahicom.jp/special/bucha/images/banner/bucha-tokusyubanner_660x100.jpg\" alt=\"ウクライナ侵攻
スマートスピーカーから考える、「本当に賢い」とは何か
2021年末にBloombergが報じたところによれば、Amazon Echoユーザーのうち、15％から25％の人はデバイスを使用して2週間で使わなくなっているという。 ここをどう解釈するかが数字の面白いところで、購入者の4分の1が2週間で使わなくなった、といえばダメじゃんとなるが、逆に75％もの人が使い続けているわけで、これは結構すごい数字なのではないかという気がする。 実際どんなデバイスでも、2週間ぐらいで今後使い続けるかどうかは決まるものだ。筆者宅には期待して買ったものの、たまにしか使わなくなった機器がゴロゴロしているのだが、多くの家庭でもだいたいそんなものじゃないだろうか。 他の一般的な家電と比較した場合、Amazon Echoのようなスマートスピーカーは、期待値と実効値の落差が大きいように思う。 音声コマンドによるAIとの対話でどんなことができるのか、期待は確かに大きかった。だが
『Skyrim』のキツネはプレイヤーをお宝に導くか。発売直後から囁かれてきた噂の真相を元開発者が明かす - AUTOMATON
ホーム ニュース 『Skyrim』のキツネはプレイヤーをお宝に導くか。発売直後から囁かれてきた噂の真相を元開発者が明かす オープンワールドRPG『The Elder Scrolls V: Skyrim（以下、Skyrim）』 海外プレイヤーを中心に長年囁かれてきたある噂について、同作元開発者が興味深い事実を明かした。その噂は「キツネを追うと宝や重要な場所に辿り着く」というもの。キツネは宝を追っているのか否か、その答えはゲームの仕組みの内側にあったようだ。 『Skyrim』は根強い人気を誇るロングラン作品だ。最近では『Skyrim』冒頭で発生する「荒ぶる馬車」バグについて語る元開発者Nathan Purkeypile氏のSNS投稿が話題になるなど、いまだ多くのプレイヤーの興味を集めている（関連記事）。こうしたなか、同作ではある噂がまことしやかに囁かれてきた。それは、「野生NPCであるキツネを
NTTのAI、センター試験の英語筆記で偏差値64突破 “試験対策”に工夫 「東ロボ」プロジェクトの一環
NTTは11月18日、同社で開発したAIに2019年センター試験の英語筆記本試験を解かせ、200点中185点（偏差値64.1）を獲得したと発表した。同社が16年に行った手法に比べて約90点成績を伸ばした。前回の学びから、さまざまな“試験対策”を施した結果だという。 同社は、NTTグループのAI関連技術「corevo」の研究と、国立情報学研究所（NII）が主導する「ロボットは東大に入れるか」（東ロボ）プロジェクトの一環として、センター試験の英語筆記本試験にAIで挑んだ。過去3年分の本試験と追試験でも、偏差値60以上を安定して上回ったという。16年に行った模擬試験では200点中95点（偏差値55.5）にとどまっており、前回から大幅に点数を伸ばした。 「足りない問題を自動生成」「機械学習を使わない」など“試験対策” 今回、センターの英語試験で採用されている問題形式である「不要文除去」「段落タイト
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
パナソニックコネクトの｢社内ChatGPT｣全社導入。1カ月使い倒して見えてきた成果とは
チャットAIにいじわるクイズを出すと、まんまと引っかかるし半ギレで冷静を装う「早口で言ってそう」「効いてて草」
「東京大学AI研究会」からの当Webサイトへのリンクについて | 東京大学工学部 電子情報工学科・電気電子工学科
静かに広がる機械学習の誤用が、科学に「再現性の危機」をもたらしている
Midjourneyの呪文のまとめ
絵を描くAIへの指示って「魔法の詠唱」に似てないか？→異世界の魔法使いもこういうことしてたんだろうな…
Engadget | Technology News & Reviews
