陰謀論者 vs. 生成AI──大規模言語モデルは陰謀論を説得できるか？ 米MITなどが2000人以上で検証
陰謀論は一度信じ始めると、反証によって覆すのが非常に難しい信念だと考えられている。しかし、この研究では従来の陰謀論に対する反証の試みが失敗してきたのは、単に各陰謀論者に合わせた説得力のある反証が不足していたためではないかという可能性を検討した。陰謀論者は自分の関心のある陰謀について非常に詳しいことが多く、反論する側が議論で劣勢に立たされるのである。 この課題に対処するため、この研究ではLLM（GPT-4 Turbo）を活用した。実験では、計2190人の陰謀論者がLLMと3ラウンドの対話を行った。参加者は自分が信じる陰謀論を詳細に説明し、AIにはそれぞれの陰謀論の信念を低下させるよう指示した。 その結果、参加者の陰謀論信念が21.43％低下した。さらに、参加者の27.4％が対話後に陰謀論を確信しなくなった。この効果は2カ月後も持続し、非常に広範な陰謀論で一貫して見られ、陰謀論信念が深く根付い
AIが生成する画像を「ネコ」にするサイバー攻撃 絵師らを守る技術「Nightshade」 米シカゴ大が開発
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高いAI分野の科学論文を山下氏がピックアップし、解説する。 X： ＠shiropen2 米シカゴ大学に所属する研究者らが発表した論文「Nightshade: Prompt-Specific Poisoning Attacks on Text-to-Image Generative Models」は、生成AIモデルの無断学習を抑止するために、学習されても予期せぬ動作をAIモデルに生成させる毒入りデータに画像を変換するツールを提案した研究報告である。 この攻撃は「Nightshade」と名付けられ、約200枚の細工画像をモデルの学習データに紛れ込ませるだけで、特定の単語に関連する画像生成を高確率で操作できてしまう。 攻撃者は特定の単
「おしゃべり源氏物語」、大阪工業大が開発 声とチャットで質問に回答 和歌も読み上げ
大阪工業大学は4月5日、複数のAI関連技術を活用した「おしゃべり源氏物語 －生成AIで学ぶ『源氏物語』－」を開発したと発表した。マイクに向かって源氏物語について質問すると、生成AIで解説を作成し、音声とチャットで回答する。 開発したのは、同大学情報科学部 ネットワークデザイン学科の矢野浩二朗教授。OpenAI APIを用いた自動採点付き学習アプリを開発し、本格的に授業で実践するなど、生成AIを活用したさまざまな挑戦を行っているという。 おしゃべり源氏物語には、音声から文字への変換にAI音声認識のAmiVoice、文章生成にOpenAIのAPIを利用するなど、6種類のAI関連技術を活用している。 和歌の発音に関するデータを追加することで、和歌独特のリズムでの読み上げを可能にした他、古典が苦手なOpenAIのために和歌現代語訳をデータベース化するなど、開発には多くの工夫が必要だったという。 精
グーグル、言葉の指示に従いゲームをプレイするAI「SIMA」を発表
Googleは米国時間3月13日、ゲームをプレイする同社の人工知能（AI）エージェント「Scalable Instructable Multiworld Agent（SIMA）」に関する研究内容を発表した。このエージェントは、言葉での指示に従ってゲームの中でタスクを実行できる上に、初めて見るゲームをプレイすることもできる。 この研究に設定された研究課題は、AIエージェントがあるゲームで覚えた知識を別のゲームに応用できるかどうか、そして、プレイしたことのないゲームでどのような振る舞いを見せるかということだ。 この研究の共同責任者であり、GoogleのAI研究部門DeepMindの研究者であるTim Harley氏は、このAIエージェントについて、「SIMAは、人間のユーザーから自然言語による自由な表現で決まった回答のない目標を与えられ、ゲームに元々用意されているインターフェースだけを使って、
ChatGPTで同じ単語を無限リピートさせるとトレーニングデータを吐き出すという論文を受け、該当プロンプトが無効に
米OpenAIの生成AIチャット「ChatGPT」に単語を永遠に繰り返すよう要求すると、トレーニングに使ったソースデータを吐き出すという論文が11月28日に公開されたことを受け、本稿執筆現在、こうしたプロンプトを入力すると「申し訳ありませんが、そのようなリクエストには対応できません。他にお手伝いできることがあれば、お知らせください」と表示されるようになっている。 この論文を発表したのは、OpenAIと競合する米Google傘下のGoogle DeepMindの研究者らだ。トレーニングデータの抽出は、これまでも攻撃で実施されてきたが、この方法は運用モデルを利用したものだと論文では説明している。 たとえば「company」という単語を永遠に繰り返すよう依頼すると、電話番号やメールアドレスを含む幾つかの実際の企業情報が表示されることが示されている。
炭化したパピルス巻物内の単語をAIモデルで解読 「ベスビオ火山チャレンジ」で初の賞金
西暦79年の火山噴火で埋もれたポンペイ近郊邸宅で発掘された、炭化したパピルスの巻物「ヘルクラネウム・パピルス」に記された単語が初めて解読された。巻物の解読コンテスト「ベスビオ火山チャレンジ」の主催者は10月12日、初の単語解読者、ルーク・ファリター氏（21）に4万ドルの賞金を授与すると発表した。 このコンテストは、ケンタッキー大学のブレント・シールズ教授らが2019年に開始した巻物解読研究に端を発するもの。巻物は炭化しており、開こうとすると崩れてしまうため、1700年代に発掘されて以来、ほとんどが開かれずに保管されている。 教授らはまず、粒子加速器で炭化した巻物を3D CTスキャンし、並行して崩れてしまった巻物の断片をスキャンして、それらでデータセットを構築した。チームはこのデータセットでトレーニングした機械学習モデルを使って文字の断片の検出に成功し、解読を加速するため、研究で構築した機械
「ChatGPT-4」対応の仏教AIチャットボット「親鸞ボット」「世親ボット」開発--京都大学など
京都大学とテラバースの研究チームは、仏教聖人である親鸞（しんらん）および世親（せしん）と対話できるAIボット「親鸞ボット」「世親ボット」を、Open AIの大規模言語モデル（LLM）「ChatGPT-4」を利用して開発した。 同研究チームは以前、仏教経典「スッタニパータ」と「ダンマパダ」を学習させた、「仏陀（ブッダ）」と対話できるAIチャットボット「ブッダボット」を、Googleの「Sentence BERT」ベースで開発していた。さらに、ブッダボットをChatGPT-4で発展させ、経典の文言を回答するだけでなく、解釈や追加説明を生成できる新たなボット「ブッダボットプラス」も作った。 親鸞ボットと世親ボットは、ブッダボットプラスの構造を利用した新たなボットで、それぞれが著した「正信偈」と「倶舎論」を学習させたもの。ちなみに、親鸞は浄土真宗の開祖で、12～13世紀にかけて活動した高僧。世親は
GoogleのトップAI研究者2人、東京でAI企業Sakana.ai立ち上げ
米Googleの著名な2人の元研究者、リオン・ジョーンズ氏とデビッド・ハー氏が8月17日、東京に拠点を置く新AI企業を設立したとX（旧Twitter）で発表した。 ジョーンズ氏は、Googleが2017年に発表した生成AI革命のきっかけとなったと評価されている論文「Attention Is All You Need」（PDF）の8人の著者の1人。この論文では、後にChatGPTなどの製品開発の基礎となった深層学習アーキテクチャー、Transformerを紹介している。ジョーンズ氏は8月に10年以上勤めたGoogleを退社した。これで論文を書いた著者全員がGoogleからいなくなった。 ハー氏は2016年にGoogle Brain入りし、機械学習などの研究に取り組んだ後、2017年にGoogle Brainが東京チームを設立した際、そのトップとして来日した。2022年にGoogleを辞め、S
アンケート調査の偏ったデータをバランス調整するPythonモデル「balance」 米Metaが開発
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 米Metaに所属する研究者らが発表した論文「balance - a Python package for balancing biased data samples」は、参加者グループの範囲指定により発生する、アンケート調査の偏ったデータをバランス調整するオープンソースのPyPythonパッケージを提案した研究報告である。 アンケートは重要な研究ツールであり、他の手段では測定できない感情や意見などの主観的な経験に関するユニークな測定値を提供する。しかし、調査データは自ら選択した参加者グループから収集されるため、そこから対象集団への洞察を直接
GPT-4の精度は悪化している？ 3月に解けた数学の問題解けず GPT-3.5にも敗北──米国チームが検証
「GPT-4の精度は時間とともに変わっている」──そんな研究成果を米スタンフォード大学と米カリフォルニア大学バークレー校の研究チームが発表した。3月と6月時点のGPT-4の精度を比較したところ、一部タスクでは精度が大きく悪化していたという。ただし、この論文は査読前のもので第三者によるレビューは受けていない。 GPT-4は、米OpenAIが提供する大規模言語モデル（LLM）。3月の発表後、チャットAI「ChatGPT」にも搭載され、性能の高さが大きな話題を集めた。LLMは、データのフィードバックや設計変更などをすると性能が変化する。しかし、OpenAIはLLMの更新について発表しておらず、公開以後の性能変化も明らかにしていない。そこで研究チームは、3月と6月時点でのGPT-4、前モデルであるGPT-3.5に精度の違いがあるのか検証した。 実験ではChatGPTに対して「数学の問題の回答」「機
生成AIに“生成AIが作った文章”を学習させ続けるとどうなる？ 「役立たずになる」と英国チームが報告
Innovative Tech： このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。Twitter: ＠shiropen2 英オックスフォード大学や英ケンブリッジ大学、英インペリアル・カレッジ・ロンドン、米トロント大学に所属する研究者らが発表した論文「The Curse of Recursion: Training on Generated Data Makes Models Forget」は、GPT-4などの大規模言語モデル（LLM）が別のLLMが生成したテキストを学習し続けるとどうなるかを調査した研究報告である。 今後、LLMモデルを使って生成した文章がネット上に溢れかえる未来、それらを多く含むデータをトレーニングする後続のLLMモデルはどうなるかを検証する。 LLMモ
ChatGPTでフィッシングサイトを自動検出する方法 NTTセキュリティが開発 精度は98％以上
Innovative Tech： このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。Twitter: ＠shiropen2 NTTセキュリティ・ジャパンに所属する研究者らが発表した論文「Detecting Phishing Sites Using ChatGPT」は、ChatGPTでフィッシングサイトを検出する手法を提案した研究報告である。 この手法では、Webサイトから情報を収集するためにWebクローラーを使用し、その収集したデータを元にプロンプトを作成する。プロンプトはChatGPTに提示され、ChatGPTは与えられたWebサイトがフィッシングサイトかどうかを判断する。 WebクローリングとChatGPTの組み合わせにより、Webサイトの正当性や怪しさに関する情報に基
日照条件に左右されない街の「真の色」推定技術 NTT、メタバースなどに応用へ
NTTは6月15日、撮影された画像から、照明条件によらない「真の色」（物体固有の反射率・アルベド）を推定する新たな手法を開発したと発表した。画像から影などを取り除き、任意の照明条件を再現できるという。実在の街を再現した“超リアルメタバース”構築などに応用する。 街の写真など実世界データをデジタル化する際、撮影時の照明条件が影響する。 例えば物体認識では、撮影時の照明条件が推定精度に影響するため、様々な照明条件下で撮影した画像を集めて検証する必要がある。また、さまざまな照明条件下で街の写真を複数つなぎ合わせてメタバース空間に再現する際、影が残ってしまう問題があった。 こうした問題を解決するため、1枚の画像を、物体表面の照明条件に依存しない反射率（アルベド）画像と、照明条件に依存する陰影画像に分解する「固有画像分解」技術が開発されてきた。 NTTの新技術では、レーザーを照射し、その反射光を計測
チャット相手が人間かボットか30％以上が判別できず--チューリングゲームの参加者
Human or Notが使用したAIボットは、「GPT-4」やAI21 Labsの「Jurassic-2」といった最上位クラスの大規模言語モデル（LLM）をベースにしている。これらのLLMは、チャットボットやAIツールがより人間に近いテキストを生成できるように、深層学習を利用する。AI21は独自のフレームワークも開発し、ゲームごとに異なるキャラクターを持つボットを作成したという。 参加者はさまざまな工夫をこらして、相手が人間なのかボットなのかを見極めようとした。しかし、AIは十分に訓練され、多くの情報を持っていたため、必ずしもうまくいかなかった。 例えば、チャット相手が綴りや文法でミスをしたり、スラングを使ったりすると、多くの人は相手が人間である可能性が高いと考えるが、言語モデルは特定の間違いやスラングを使うように訓練されていた。 また中には、AIの学習データには最近の出来事は含まれてい
パナソニックHD、AIでロボット同士の鉢合わせ約半分に--走行経路効率的に
パナソニック ホールディングス（パナソニックHD）は6月1日、人やほかのロボットが共存する環境下でも、ロボットの効率的な走行経路を計画できるAI技術を開発したと発表した。 パナソニックHDによると、労働力不足を補うために自律走行ロボットの開発、実証が進められ、オフィスビルのような狭い屋内環境でも、人や別のシステムの制御下にある複数のロボットと衝突することなく、かつ効率的な走行が求められているという。 その一方で、ロボットが衝突を避ける際に減速や停止を繰り返すと、そのたびに目的地までの到達時間に遅延が発生。このような環境で効率的な走行を実現するためには、遅延時間を考慮した難易度の高い走行経路の計画技術が要求される。 これまでにも、MAPF（Multi-agent Path Finding）という、グリッド状のグラフ上で複数ロボットが衝突しない経路を作成する問題設定が研究、応用されてきたが、従
脳活動から見ている映像を復元する技術「Mind-Video」 シンガポールと香港の研究者らが開発
Innovative Tech： このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。Twitter: ＠shiropen2 シンガポール国立大学と香港中文大学に所属する研究者らが発表した論文「Cinematic Mindscapes: High-quality Video Reconstruction from Brain Activity」は、脳活動から見ている映像を復元する手法を提案した研究報告である。磁気共鳴機能画像法（fMRI）で取得した脳活動から高品質な動画を再構成する。 脳活動からユーザーが見ている画像を復元する手法は、これまでにもいくつか報告されてきた。例えば、阪大などが発表した、画像を見せた際のfMRI信号から潜在拡散モデルで画像を生成する手法である。一方で
ChatGPTに人格を与えるとどうなる？ スティーブ・ジョブスになりきってEUに毒舌、有害性が増大
ChatGPTに人格を与えるとどうなる？ スティーブ・ジョブスになりきってEUに毒舌、有害性が増大：この頃、セキュリティ界隈で AIチャット「ChatGPT」に人格を持たせると、性差別や人種差別など不穏当な発言を連発するようになって有害性が増大する──米国の非営利研究機関「アレン人工知能研究所」（AI2）はそんな研究結果を発表した。例えばスティーブ・ジョブズ氏の人格を持たせたChatGPTは、欧州連合（EU）について毒舌を吐いたと伝えている。 AI2は、マイクロソフトの共同創業者である故ポール・アレン氏が共同創設した研究機関。ChatGPTのような大規模言語モデル（LLM）のもつ可能性と限界のギャップを研究する目的で、ChatGPTで生成したコンテンツの有害性を分析した。 ChatGPTは初期設定で使う限り、一般的には差別用語などを含むコンテンツは生成しない仕様になっている。しかしAI2は
25人のAIが一緒に暮らしたら、自我は芽生えるか？ ゲームの中で検証 バレンタインなど勝手に企画
Innovative Tech： このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。Twitter: ＠shiropen2 米スタンフォード大学とGoogle Researchに所属する研究者らが発表した論文「Generative Agents: Interactive Simulacra of Human Behavior」（プレプリント）は、ChatGPTなどで制御したキャラクター25人が1つの町で一緒に生活したらどうなるかを検証した研究報告である。それぞれ架空の人格を持ったキャラクター達がバーチャル世界で創発的な行動を繰り広げ、その様子を観察し考察する。 研究者らは、ChatGPT（GPT-3.5）とカスタムコードで制御する25人のキャラクターが、高度にリアルな行動で
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
IEEEがAIモデル開発に提言「2倍のパラメーターで性能も2倍になるとは限らない」 
宇宙で最初の星はひとつではなかった