生成AIに“アスキーアート”入りプロンプト入力→有害コンテンツ出力 米研究者らが新手の脱獄法発見
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 米ワシントン大学などに所属する研究者らが発表した論文「ArtPrompt: ASCII Art-based Jailbreak Attacks against Aligned LLMs」は、大規模言語モデル（LLM）がアスキーアートを正しく認識できないという脆弱性を利用して、LLMに有害なコンテンツを出力させる新しいジェイルブレーク（脱獄）攻撃を提案した研究報告である。 これまでにも、爆弾の作り方やIDの盗み方、人種差別的なジョーク、詐欺の方法などの有害なコンテンツをLLMに出力させる悪意ある攻撃が提案されてきた。 （関連記事：「銀行を襲う
なぜ日本はGPUのない「富岳」でLLMを研究するのか 外国に後れを取らないための“現実的な理由”
米OpenAIの大規模言語モデル（LLM）・GPT-4は今、世界を大きく塗り替え続けている技術の一つだ。世界各国の企業がこぞってLLMの開発を進めている。特にGAFAなどの巨大企業は、その膨大な資源を使ってすでにいくつものLLMを世に放っている。 そんな中、日本では理化学研究所と富士通、東京工業大学、東北大学が、スーパーコンピュータ「富岳」を使ったLLMの研究を今まさに進めている。学習手法の研究からデータの法的な扱いまで幅広く検討し、日本のLLM開発の基盤を作るのが目的だ。 深層学習といえば、今ではGPUを使うのが一般的になっている。しかし富岳はそのGPUを搭載していない。日本にはGPU搭載スパコンも存在するのに、なぜ富岳を使ってLLMを研究するのか。 今回は富士通研究所・コンピューティング研究所の中島耕太所長と白幡晃一さんに、富岳を使ったLLM研究について、その意義を聞いた。富岳は確かに
ChatGPT 雑感 - murawaki の雑記
ChatGPT についてポエムを書き散らすのが流行っている。珍しく流行に乗ってみる。機会を逃すとまた状況が激変しそうだし。 研究者の YouTuber 化 ChatGPT は研究者が想定していた成長曲線よりも上に外れたところに現れた。こんなに流暢にテキストを生成するモデルがこんなに早く出現するとは思わなかった。なぜ日本語まで流暢なのかはいまだに謎。 ChatGPT はテレビでも取り上げられるくらい一般に認知されているらしい。複数のテレビ取材に応じたという人がいたのでそうなのだろう。*1 私の観測範囲で起きているは、参入者が大勢いること。これまで自然言語処理をやってこなかったであろう人。従来の技術よりも圧倒的に敷居が低い。そもそもプログラムを書く必要がない。自然言語で指示を出すだけなら誰でもできる。 ChatGPT の上で踊りたいかというと気乗りしない。参入障壁が低いということは、競合が多い
中国のIT大手「百度」 対話式AIソフトのサービス開始へ | NHK
アメリカのベンチャー企業が開発した対話式AIソフト「ChatGPT」への関心が高まるなか、中国のIT大手「百度」は利用者の質問に対話するように回答する対話式AIソフトのサービスを始めると16日、発表しました。 中国のネット検索最大手、「百度」は16日、記者会見を開き、「文心一言」、英語名で「アーニーボット」という名前の新サービスを発表しました。 利用者からの質問に対話するように回答するほか、文章の作成や数学の計算などができるということです。 数兆のウェブページや、数十億の検索や画像のデータを活用して開発したと説明しており、まずは一部の利用者を対象に試験的に提供を始めます。 対話式AIソフトに関しては、中国でも大手IT企業などが早くから研究開発に取り組んできたとしていますが、中国では、政府がSNS上の言論などネット上のサービスを規制しています。 過去には、IT大手「テンセント」が提供していた
ChatGPTで騒いでる場合じゃない。 AI研究者が｢FlexGen｣をゲームチェンジャーと呼ぶ理由
ChatGPTに世間が沸いている。 長年この分野を見てきた者としては｢ちょっと沸きすぎ｣のようにも見える。深層学習を使った会話ロボットは、何もChatGPTが初めてというわけではない。 ところが、世界中が驚かざるを得ないゲームチェンジャーが現れた。 その名も｢FlexGen｣と言う。2月15日に公開された。 特筆すべきは、FlexGenが、ChatGPTなどの大規模言語モデルを｢従来の100倍高速に動かせる｣上に、NVIDIA Tesla T4という、わずか16GBのメモリーしかないGPUでその性能を使えるということだ。 つまり、大規模言語モデルを秋葉原で売っているパソコン程度で動かせる新しいフレームワークが登場したことになる。 このインパクトがどれほどすごいのかを解説してみよう。 目次： ｢Google翻訳｣と｢大規模言語モデル｣は技術的にかなり近い 会話AIの正体とは何か ChatGP
AIでスーパーマリオのステージを生成する「MarioGPT」発表。土管多め、敵少なめなど自然言語で指示 | テクノエッジ TechnoEdge
著書に『宇宙世紀の政治経済学』（宝島社）、『ガンダムと日本人』（文春新書）、『教養としてのゲーム史』（ちくま新書）、『PS3はなぜ失敗したのか』（晋遊舎）、共著に『超クソゲー2』『超アーケード』『超ファミコン』『PCエンジン大全』（以上、太田出版）、『ゲーム制作 現場の新戦略 企画と運営のノウハウ』(MdN)など。 昨年11月にOpenAIがChatGPTを公開して以来、Googleの「Bard」やマイクロソフトの新たなBing検索エンジンやEdgeブラウザーも会話型AIサービスの大波に乗る事態となっています。 どれもが質問に対して自然な文体で賢い回答が期待されているなか、同じく言語モデルを使って『スーパーマリオブラザーズ』のステージを自動生成する「MarioGPT」の研究が公開されました。 コペンハーゲンIT大学研究チームは、「スーパーマリオ」のレベル（ステージ）を生成する新たな手法につ
「GPT-3」などの最新言語モデルが自然に他者の心を推察する能力である「心の理論」を獲得していたという研究論文
あまりに高精度なテキストを生成できるということで話題になった「GPT-3」のような最新の言語モデルは、言語処理能力を向上させる過程で自然に他者の心を推察する能力を獲得していたとする研究論文が発表されました。 [2302.02083] Theory of Mind May Have Spontaneously Emerged in Large Language Models https://arxiv.org/abs/2302.02083 Theory of Mind May Have Spontaneously Emerged in Large Language Models (PDFファイル)https://arxiv.org/ftp/arxiv/papers/2302/2302.02083.pdf ヒトが他者の心の状態、目的、意図、知識、信念、志向、疑念などを推測する心の機能を「心の理
ChatGPTを筆頭に信じられないレベルでAIが進化しているが「なぜAIがこんなにも『急激に』質が良くなったかを」を研究者本人たちですら説明できない
Takuya Kitagawa/北川拓也 @takuyakitagawa 近年のAIの進化は実は理解されていない。 ChatGPTを筆頭に、信じられないレベルでAIが進化している。 そう、本当に信じられないレベルなのは、なぜAIがこんなにも「急激に」質が良くなったかを、誰も説明できないからだ。 おそらく発明した研究者本人たちですら。 どういうことか。 1/n 2023-01-29 10:51:36 Takuya Kitagawa/北川拓也 @takuyakitagawa AIの精度を定量化したとき、数年前までは研究の進化と共に、少しずつ精度があがっていった。 研究の進化とは 1. モデルやアルゴリズムの進化 2. 計算量の増加 3. データ量の増加 などだ。１０年ほど前にAIがもてはやされた時は、Deep Learningといったモデルの進化が重要だった。 2/n 2023-01-29 1
DeepMindのAI｢AlphaCode｣が人間のプログラマーと互角になってきた
DeepMindのAI｢AlphaCode｣が人間のプログラマーと互角になってきた2022.12.23 20:0020,014 Mack DeGeurin - Gizmodo US ［原文］ （ 禿頭帽子屋/Word Connection JAPAN ） 人工知能（AI）に秘められた能力の段階的な発達をたどるという話になると、なぜかチェスや囲碁といった昔ながらのボードゲームが持ち出されがちです。その例は挙げればきりがないほどで、つい最近にも、戦略ゲーム｢ディプロマシー｣をプレイできるAIが話題になりました。しかし、こうした事例で示されるのは、あくまでもAIが現実世界の問題を解く能力の範囲に限られます。 これよりずっといい｢力試し｣になりそうなのが、AIと人間をプログラミングのコンテストで競わせることです。Alphabet傘下のDeepMindが保有するAIモデルAlphaCodeが、実際に
AIも睡眠をとると学習が改善すると判明！ - ナゾロジー
AIにも睡眠が必要なようです。 米国のカリフォルニア大学（University of California）で行われた研究によって、人間の脳を模したAI「ニューラルネット」に生物の睡眠を模倣する「オフライン期間」を導入することで、古い仕事を忘れずに新しい仕事をこなせるようになったことが示されました。 人間の脳は睡眠中、目や耳などの感覚器官と手足などの運動器官とのリンクが大きく途切れ、脳内のみで学習内容を繰り返し、記憶の定着を促進します。 新たに開発されAIも睡眠期間中に中枢が感覚システムと運動システムから切り離され、中枢において学習内容が自発的に繰り返されるように設計されており、疑似的な睡眠を実現しています。 研究では睡眠の導入がAIの学習効率を劇的に向上させ、新しい学習内容と古い学習内容が上手く共存している様子が示されています。 研究者たちはAIに睡眠機能を導入することで、将来的に、より
ゴキブリを自動で見つけレーザーで殺す装置 数万円で自作も可能
Innovative Tech： このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 スコットランドのHeriot-Watt University、フランスのUniversity Paul Sabatier、英University of Sussexによる研究チームが発表した論文「Selective neutralisation and deterring of cockroaches with laser automated by machine vision」は、ゴキブリを自動的に射殺できるデバイスを提案した研究報告だ。カメラでゴキブリを捉え、その位置にレーザー光を照射して殺傷する。
DeepMindの研究者が「AIが人類を滅ぼす可能性は高い」との論文を発表
by Dick Thomas Johnson 画像生成AIが人間を差し置いて絵画コンテストで優勝するなどAIが近年目覚ましい進歩を遂げる中、査読付の専門誌であるAI Magazineに、将来的に超知能AIが現れて人類に対する脅威となる可能性は高いと結論付ける論文が掲載されました。 Advanced artificial agents intervene in the provision of reward - Cohen - 2022 - AI Magazine - Wiley Online Library https://doi.org/10.1002/aaai.12064 Google Deepmind Scientist Warns AI Existential Catastrophe "Not Just Possible, But Likely" | IFLScience http
「6年解けなかった構造があっさり」──タンパク質の“形”を予測する「AlphaFold2」の衝撃 GitHubで公開、誰でも利用可能に
米Alphabet傘下の英DeepMindが、遺伝子配列情報からタンパク質の立体構造を解析するAI「AlphaFold v2.0」（以下、AlphaFold2）をGitHub上で無償公開し、ネット上で注目を集めている。Twitterを利用する生物系の研究者からは「革命的な成果だ」「これからの研究の前提が変わっていく」など、AlphaFold2の予測精度に対して驚きの声が相次いだ。 なぜAlphaFold2はこれほどの驚きや賞賛をもって迎えられているのか。タンパク質構造解析の難しさをひも解く。 未知の部分が多いタンパク質の構造 タンパク質は数十種類のアミノ酸からできており、配列によってさまざまな性質に変化する。例えば筋肉、消化酵素、髪の毛はそれぞれ役割が異なるが、いずれもタンパク質で作られている。タンパク質の構造が分かれば、生体内の化学反応の理解が進む。アルツハイマー型認知症やパーキンソン病
完全無人のトラクターで社会課題を解決 自動化で変わる日本の農業の姿
ロボットによる自動運転といえば、今日まず真っ先に思い浮かぶのは「自動運転車（Self Driving Car）」（あるいは「Autonomous Vehicle」）かもしれない。商用自動車として自動運転機能を組み込んだテスラ（Tesla）では、現在レベル2に相当する自動運転（運転手がハンドルを握った上で機械がアクセルやハンドルなどの制御を行う仕組み）を実現しているが、2020年10月には米国向けに完全自動運転実現につながる「FSD（Full Self Driving）」ソフトウェアのβ版配信を開始しており、同社の一部ユーザーを対象にテストを行いつつ自動運転実現に向けた歩みを続けている。こうした仕組みが近年急速に進んでいるのも、AIにまつわる技術が急速に進化し、技術競争が加速しているからだ。 自動運転車は新興、既存のメーカー含めていま最も研究開発が進んでいる分野ではあるが、同時にこの技術を産
TechCrunch
Microsoft, it seems, is hedging its bets when it comes to general-purpose robotics AI. At the end of February, the Windows maker spearheaded a massive $675 million Series B in Bay Area-based Figure. T Substack is launching the ability for writers to paywall their entire Chat or specific threads to paid or founding members only, the company announced on Wednesday. The rollout of the new feature com
いま囲碁界で起きている”人間とAI”の関係──「中国企業2強時代」「AIに2000連敗して人類最強へと成長」将棋界とは異なるAIとの向き合いかた
１９９７年。IBM社が作ったチェスＡＩ『ディープ・ブルー』が人類最強のガルリ・カスパロフ（当時のチェスの世界チャンピオン）を倒した時、将棋のプロ棋士の多くはこう言いました。 「将棋はチェスより複雑だから俺が生きてるあいだは負けない」。 その１６年後の２０１３年。山本一成さんが作った将棋ＡＩ『ポナンザ（Ponanza）』が佐藤慎一四段（当時）を倒した時、囲碁のプロ棋士の多くはこう言いました。 「囲碁は将棋より遙かに複雑だからコンピューターに負けることは絶対にない」。 しかしそのわずか３年後の２０１６年。ディープマインドが作った囲碁ＡＩ『アルファ碁（AlphaGo）』が世界トップ棋士の李世ドル（イ・セドル ※ドルは「石」の下に「乙」）を倒した時、全世界は大慌てしました。 「人間の仕事が機械に奪われる！」 日本国内では、電王戦の影響もあって将棋ＡＩがプロ棋士を破った時のほうが大きく報道された印象
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Takuya Kitagawa/北川拓也 on Twitter: "近年のAIの進化は実は理解されていない。 ChatGPTを筆頭に、信じられないレベルでAIが進化している。 そう、本当に信じられないレベルなのは、なぜAIがこんなにも「急激に」質が良くなったかを、誰も説明できないからだ。 おそらく発明した研究者本人たちですら。 どういうことか。 1/n"
AI 激動の年！2022年の人工知能10大トレンドと必読論文
静かに広がる機械学習の誤用が、科学に「再現性の危機」をもたらしている
小室哲哉さん、理研の客員研究員に AIによる作曲研究 - 日本経済新聞
