「家としてのAI」とアライメント問題｜R. Maruyama
前回に続く、AIアライメントに関する私的考察。寝る前の時間の殴り書きメモである。今日は、「AIアライメント問題」にはいくつかの種類がありそうだという話をしてみる。 なお、私がこのテーマについて書くことはすべて、素人の印象論にすぎないことをお断りしておきます。すでに専門家の間では議論されつくされているかもしれないことを、先行研究を調べる手間も取らずに、勝手に考えて書いている。そういうものでもちょっと読んでみようと思える時間的余裕のある方にだけ、目を通していただければ幸いです。 私の印象では、近年の「AIアライメント問題」として議論されている問題には、大きく二つの種類が混ざっているように見受ける。一つ目は、LLMなどの「入力を出力に変換する装置」としてのAIモデル/システムを対象に、その出力が人間の価値観や意図と整合させるにはどうすればようかという問い。「公平性」「バイアス」「説明可能性」など
開催記録：オンライン勉強会「AI科学を哲学する？」（w/高木史郎さん） - 重ね描き日記（rmaruy_blogあらため）
2024年4月4日に、独立研究者の高木史郎さんとともに、オンライン勉強会「AI科学を哲学する？」を開催しました。以下はその簡単な記録です。 開催の経緯 発端は、昨年末に高木さんがArxivに投稿されたプレプリント論文でした。機械学習の研究者として、自律的に研究を行うエージェントの構築を目指す高木さんは、本論文でそもそも「研究とは？」という根本を問うていきます。研究はどのようなプロセスから成り立っているのか。それぞれのプロセスについて、科学哲学などではどのような概念化がなされてきたのか、科学の自動化に使えそうな技術は何か。完全自律化という究極目標に向けて視野を目一杯広げ、論点を俯瞰した力作です。 以前から高木さんの研究活動を知り、リスペクトしていましたが、このような全体像を描かれたことは私にとっては驚きでした。しかもこれを、一人で書かれたとは…。 私自身も以前からAI科学を哲学的な側面から考
大規模言語モデルについての戯言 - 蒼龍のタワゴト~認知科学とか哲学とか~
substack notes向けに書いた独り言をこっちに転用。ただの思いつきであり、大きな間違いはないと思うが確認はしてない フォーダー&ルポア「意味の全体論」は、(比喩や見栄ではない)私の文字通りの愛読書だが、最近もチャーチランドの章を読み返した。チャーチランドはコネクショニストとして有名だが、対してフォーダーはコネクショニズム批判で有名だ。この本でもコネクショニズムを批判に論じているのだが、今の大規模言語モデルの時代に読んでもなかなかに面白い。 フォーダーのコネクショニズム批判として有名なのは、言語の体系性を反映できないことだが、それは他の学者による最近の論文でも大規模言語モデルの欠点として指摘されている。これは大規模言語モデルが自然言語と異なる最大の欠点の一つだと思うが、まさにフォーダーはそれを三十数年前に指摘していた。つまり、三十数年も経ってフォーダー＆ピシリンによるコネクショニズ
最近読んだ本を紹介しちゃおうかな（人生の意味の哲学、Webプログラミング、AI入門、クイックスケッチ） - 曇りなき眼で見定めブログ
最近読んだ本を紹介するぜ！ 森岡正博・蔵田伸雄編著『人生の意味の哲学入門』 掌田津耶乃『作りながら学ぶWebプログラミング実践入門』 次田瞬『意味がわかるAI入門』 立中順平『たてなか流クイックスケッチ』 森岡正博・蔵田伸雄編著『人生の意味の哲学入門』 人生の意味の哲学の入門書。 私はデイヴィッド・ベネター先生のファンなので、ベネター先生が登場する3章と6章がおもしろかった。 そもそも人生の意味を(分析)哲学的に論じることなんて可能なのか？ と迫るような論考も多かった。それじゃあダメじゃんとも思うが、そうだとしたらそれがわかっただけでも大いなる前進かもしれない。 本書を読んでも人生の意味がわかるようになるわけではない、と何度か書かれているのだけど、人生の意味の哲学を研究しても人生の意味がわかるようにはならないのか？ というのも人生の意味の哲学的な難問のような気がする。 人生の意味の哲学入門
AIの知能と目的――ボストロムの『直交仮説』を検討する - 水槽脳の栓を抜け
AIの知能と目的――ボストロムの『直交仮説』を検討する AIの知能と目的――ボストロムの『直交仮説』を検討する 0. はじめに 1. ボストロムの直交仮説 2. カント主義からの直交仮説への反論ルート 3. 道徳的実在論からの直交仮説への反論ルート 4. 自然科学的知見からの直交仮説への反論ルート 参考文献 0. はじめに AI倫理のテーマとして、われわれ人間はAIを道徳的被行為者とするのだろうか（するべきか）という問題と、われわれはAIを道徳的行為者として道徳的コミュニティの一員にするのか（するべきか）という問題が議論されている。しかし、本論では、それとは微妙に位相の異なる第三の問題を議論する。すなわち、AIは人間を道徳的被行為者とするのか？という問題である。 このような問題を論ずることは、無意味な空論なのだろうか？そうであるか否かは、AI技術の発展の速度に依存する。現在のところ実在する
コンピューティング：機械学習のアプローチで人間の一生を予測できる可能性 | Nature Computational Science | Nature Portfolio
若くして死亡する可能性や性格のニュアンスなど、人間の一生のさまざまな側面を正確に予測できる可能性のある機械学習のアプローチについて記載する論文が、Nature Computational Scienceに掲載される。このモデルは、人間の行動の定量的な理解につながる可能性がある。 社会科学者は以前から、人間の一生は予測可能なのかという問題を巡って議論してきた。人間の一生に重要な役割を果たす社会人口統計学的要因はよく理解されているが、人生の転帰を正確に予測することはできなかった。 今回、Sune Lehmannらは、デンマークの国民登録簿に記録されている約600万人分の教育、健康、収入、職業、およびその他のライフイベントに関するデータを使用し、機械学習のアプローチにより個人の人生の軌跡を構築することを試みた。Lehmannらは、言語処理技術を応用し、言語と同様の方法により、モデル内で人間の一生
心に描いた風景を脳信号から復元！～生成系AIと数理的手法を用いた新たな技術を開発～ - 量子科学技術研究開発機構
現在地 Home > 分類でさがす > お知らせ・ご案内 > プレスリリース > 生命科学 > プレスリリース > 心に描いた風景を脳信号から復元！～生成系AIと数理的手法を用いた新たな技術を開発～ ポイント 画像の線や色、質感、概念などの視覚的な特徴を、人の脳信号1）から読み出す「脳信号翻訳機」を構築。 この「脳信号翻訳機」を用いて、被験者が画像を心に思い浮かべた時の脳信号から視覚的特徴を割り出し、その特徴をとらえた自然な画像に徐々に近づくよう生成系AI2）に描画させることで、心に描いた画像を復元することに世界で初めて成功。 医療・福祉分野への応用が進むブレイン・マシン・インターフェース3）技術への貢献に期待。 概要 量子科学技術研究開発機構（理事長 小安重夫、以下「QST」）量子生命・医学部門 量子生命科学研究所 量子生命情報科学研究チームの間島慶研究員、情報通信研究機構（（NICT（
量研機構など、心の中で思い描いた風景などを読み出して復元することに成功
量子科学技術研究開発機構(QST)、情報通信研究機構(NICT)、大阪大学(阪大)、科学技術振興機構の4者は11月30日、ヒトが心の中で思い描いた任意の風景・物体などの「メンタルイメージ」(MI)を脳信号から読み出し、復元することに成功したと共同で発表した。 同成果は、QST 量子生命・医学部門 量子生命科学研究所 量子生命情報科学研究チームの間島慶研究員、NICT 未来ICT研究所の小出(間島)真子研究員、阪大大学院 生命機能研究科の西本伸志教授らの共同研究チームによるもの。詳細は、AIや機械学習などのニューラルネットワークに関する全般を扱う学術誌「Neural Networks」に掲載された。 今回の研究成果の概略図(手法をわかりやすく伝えるため、比喩的な表現、および実際とは異なるイメージが使用されている)(出所:JSTプレスリリースPDF) 脳の信号を計測して被験者の知覚・記憶内容・
AIに恋人感情を持たせられるか？ 中国での試み
第25回中国ハイテクフェアで披露されたバーチャルヒューマン（2023年11月16日撮影、資料写真）。(c)CNS/陳文 【11月29日 東方新報】人は人工知能（AI）と相思相愛になれるのだろうか？ もしAIに聞けば「私は人工知能で感情がなく、人に恋愛感情は持てません」と言うかも知れない。しかし、人間がAIに辛抱強く「養分（学習情報）」を与え続ければ、AIの成熟度がどんどん進み、「感情」が芽生える可能性はないのだろうか？ 現在このような試みは、中国内外の「AIインテリジェントチャット伴侶ソフトウェア」を利用して、実際に行われている。ユーザーはソフトウェアをダウンロードし、自分用のAIロボットを設定したり選択したりする。これらのAIロボットとは24時間オンラインでつながっていて、ユーザーが入力する会話に対して即時に返答する。これに多くの若者が惹きつけられている。中には、自分の「恋人（AIロボッ
“ブラック・ジャック”の新作 生成AIで制作 報道関係者に公開 | NHK
漫画家 手塚治虫さんの代表作の1つで、生命と医療をテーマにした漫画「ブラック・ジャック」の新作を生成AIを使って制作するプロジェクトが完了し、20日、作品の一部が報道関係者に公開されました。 20日、東京・港区の慶應義塾大学で報道関係者を対象にした新作完成の報告会が行われ、手塚治虫さんの長男でプロジェクトの総監督を務めた手塚眞さんや、総合プロデューサーで人工知能が専門の慶應義塾大学の栗原聡教授らが出席しました。 ことし6月から始まったプロジェクト「TEZUKA2023」は、連載から50年を迎える手塚治虫さんの代表作の1つ「ブラック・ジャック」の新作を、生成AIを使って制作する試みです。 報告会の冒頭、眞さんは「予定どおり完成してほっとしています。AIと人間が協働作業でしっかりと作り上げることができて嬉しく思います。大変興味深いものが出来上がったと感じています」と述べました。 今回の新作は、
化学: ロボット化学者が火星の隕石から酸素を作った | Nature Synthesis | Nature Portfolio
ロボット人工知能（AI）化学者を用いることによって、火星の隕石から酸素生成物質が作られたことを報告する論文が、Nature Synthesisに掲載される。今回の研究は、酸素生成の概念を実証するとともに、将来の有人火星探査ミッションに影響を及ぼす可能性がある。 酸素はロケット推進剤や生命維持システムに用いられており、火星での人間活動にとって極めて重要である。従って、将来の有人火星探査ミッションには、酸素の生成が必要になる。こうしたミッションを長期にわたってより費用対効果の高い、単純なものとする方法の1つは、地球から輸送するのではなく、既に火星に存在している資源を用いて酸素を発生させることであろう。火星に水が存在するという新たな証拠と、火星隕石の元素組成の分析結果から、火星の資源を用いて触媒を合成する機会がもたらされる可能性がある。 Jun Jiangらは今回、人間の介入なしに火星の物質から
化学：化学者の直観を機械学習したモデルによる創薬支援 | Nature Communications | Nature Portfolio
プロの化学者がそれぞれのキャリアで得た集合的な知識（通常「化学的直観」と呼ばれる）を部分的に再現できる機械学習モデルについて報告する論文が、Nature Communicationsに掲載される。著者らは、この知見によって、今後の創薬キャンペーンをもっと効率的に遂行できる可能性があると考えている。 これまで、創薬と新規化学物質の発見を導いてきたのは、実験による試行錯誤と研究者がそれぞれのキャリアで得た知識だった。シミュレーションツール、特に機械学習を使用すると、研究者が有望な分子をより効率的に発見できるようになり、新しい医薬品の開発コストを大幅に削減することができる。機械学習によって分子の性質を予測するには、分子を数学的表現に変換する必要があり、この数学的表現は通常、性質や「特徴」の集合体によって構成される。正しい特徴を把握することは、こうしたデータ駆動予測モデルによる性質の予測を成功させ
生成AIでニュース番組に似せた偽広告 日本テレビ“注意を” | NHK
生成AIを使って実在のアナウンサーの声や動きを再現したとみられる、民放のニュース番組に似せた偽の広告の動画がSNSで広がっています。偽動画は投資情報サイトへの登録を促す内容で、番組に似せた偽動画を作られた日本テレビが注意を呼びかけています。 この偽動画は実在の女性のアナウンサーなどが投資情報サイトへの登録を促し投資を呼びかける内容で、まるでニュース番組のように出演者の声や動きが再現されています。 実際に放送された日本テレビのニュース番組をもとに、生成AIを使って音声や動画の一部を加工したものとみられ、10月下旬からYouTubeやフェイスブックに投稿されていました。 今回の偽動画は、数字の読み方やイントネーションが異なるなど不審な点がありましたが、生成AIを使って実在の人物が話しているかのような動画を作ることは可能で、最近では表情や口元の動きが声と合っていて違和感がないものも増えてきており
生成AIをどう思うかで観覧ルートが異なる「コトバにならないプロのワザ」展、仕掛け人の意図は？ “隠しプロンプト”も
日本科学未来舘（東京都江東区）では、9月13日から3階の総合案内前スペースで「コトバにならないプロのワザ～生成AIに再現できる？」を開催している。この展示、来場者の生成AIへの接し方で観覧ルートを選ばせるというユニークな手法を採用していて、それが秀逸なのだ。 今回の展示は、研究開発の「いま」を見せるシリーズ企画「Mirai can NOW」の第5弾となる企画展示として無料で公開しているもの。入場は無料で、期間は11月13日まで（記事末に開催概要あり）。 パネルの質問にイエス／ノーでルート決定 展示は大きく2つのテーマに分かれている。1つは、詩人の谷川俊太郎さん、お笑いコンビ「スピードワゴン」の小沢一敬さん、子育て経験を基にした著書のある大場美鈴さんという3人の言葉のプロたちが、詩や漫才、子どもにかける言葉を生成AI（ここではChat GPTを使用）に再現してもらい、その過程で自分たちはどう
人工知能：AIの創造的思考能力は人間を追い抜くかもしれない | Scientific Reports | Nature Portfolio
人間の被験者と大規模言語モデル（LLM）の人工知能（AI）チャットボットは、創造的思考課題において、平均点で人間よりも優れた回答を出せる可能性のあることを示した論文が、Scientific Reportsに掲載される。ただし、最高成績を挙げた人間の被験者の回答は、チャットボットの最高の回答より優れていた。この課題の具体的内容は、日用品を提示して、通常の用途以外の使い方を提案させるというもので、これは拡散的思考の一例である。 拡散的思考は、思考過程の一種で、一般に創造性（与えられた課題に対して異なるアイデアや解決策を数多く生み出すことに関与する）と関連付けられている。拡散的思考は、通常、代替用途課題（AUT）を使って評価される。AUTの被験者は、短い時間内に日用品の代替用途をできるだけ多く回答することが求められる。回答は流暢性、柔軟性、独創性、綿密性の4つのカテゴリーで採点される。 今回、M
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
New material found by AI could reduce lithium use in batteries
天気予報もAIが高精度にこなす時代になる：Google DeepMindの研究成果がもたらす波及効果
AI could predict hurricane landfall sooner - report
AIが地図から古墳を「発掘」 地形解析、新規34カ所確認 奈文研 | 毎日新聞
https://www.natureasia.com/ja-jp/research/highlight/14699