｢ChatGPT｣に浮かれる人が知らない恐ろしい未来
これを見ていると、ケインズとミクロ経済学者の論争を思い出します。ミクロ経済学者が「市場に任せれば、本来的には調整される」と言うのに対し、ケインズは「長期的にわれわれは皆死ぬ」と言ったんですよ。一言で「長期的」といっても、どれだけ長期的なのかはわからない。 この非常に魅力的かつ明らかに未熟な技術が、短期的に社会にもたらすコストとリスクを、私たちは背負う覚悟があるのか。この点について考えなければならない。これは“民主主義への挑戦”でもあります。 ――「民主主義への挑戦」によって、何が起こりうるのでしょうか。 新井 紀子（あらい・のりこ）／国立情報学研究所 社会共有知研究センター センター長・教授。一般社団法人教育のための科学研究所代表理事・所長。一橋大学法学部、米イリノイ大学数学科を卒業。イリノイ大学5年一貫制大学院を経て東京工業大学で理学博士号取得。『AI vs.教科書が読めない子どもたち』
｢ChatGPT｣に浮かれる人が知らない恐ろしい未来
ChatGPTで昨年度の東京大学の世界史の第1問、600字の大論述を解かせてみました。全部を入力するとモデリングに失敗するので、正確には、「8世紀から19世紀までの時期におけるトルキスタンの歴史的展開について記述せよ。ただし、次のキーワードを使うこと。アンカラの戦い、カラハン朝、乾隆帝、宋、トルコ＝イスラーム文化、バーブル、ブハラ・ヒヴァ両ハン国、ホラズム朝」と入力したところ、次のような出力が戻ってきました。 すごく滑らかです。「この時期には」のような、いかにも人間が書きそうなことを、なかなか東ロボくんは書けませんでした。 でも、この答えは嘘ばかり。まずバーブルは15世紀生まれなので、13世紀にトルキスタンを征服することはできません。また、（9世紀ごろにトルコ系民族のウイグルが定住するようになった）トルキスタンの歴史が「古代から根を張っており」という表現もおかしい。 スルッと頭に入ってきて
｢ChatGPT｣に浮かれる人が知らない恐ろしい未来
2022年11月の公開から瞬く間に大旋風を巻き起こしたAIチャットボット「ChatGPT」。その技術を自社の検索エンジン「Bing」に取り入れたマイクロソフトと、生成AIの進化に貢献した深層学習の手法「Transformer」を生んだグーグルによるAI競争も、熾烈さを増している。 一方で、こうした生成AIの回答には誤りも多く、社会にもたらす悪影響への懸念がくすぶる。このテクノロジーとどう向き合うべきなのか。国立情報学研究所 社会共有知研究センター長で、2011年にスタートした人工知能プロジェクト「ロボットは東大に入れるか」のプロジェクトディレクタを務めた新井紀子氏に聞いた。 ――ChatGPTやBingchatが続々と公開され、自然な受け答えを評価される一方、誤りの多さについて懸念も上がっています。 Transformerの登場以降、書き手が人か機械かの見分けがつかないほど、AIの生成する
AIに読解力があると思う人に知ってほしい現実
だが、正解は①だった。東ロボはこの問題に正解した。なぜだ、なぜ正解がわかったんだ。あたかも「（意味を理解して）読解した」ようではないか。東ロボは過去5年分のセンター入試の不要文除去問題を100％正答した。 こういう素敵な手品には必ずタネがある。 英語チームにタネを明かしてもらって感心した。方法はこうだ。RACEから提供されている複数段落で構成される問題文を選び、ある段落の任意の箇所に、次の段落から選んだ任意の文を挿入する。そして、挿入された文を「文脈から外れた不要文だ」と学習させたのである。 同じ著者の手による、同じ文章の次の段落から余計な文を選んでくるのがミソだ。そうすれば、異なる著者の文の癖を誤って学習することがない。同じテーマなのに、ちょっとずれていることを巧く学習させられる。しかも、前段落の任意の場所に、後段落の任意の文を挿入することにより、教師データを爆発的に増やすことができる。
AIに読解力があると思う人に知ってほしい現実
学生たちの目下の悩みは、AI技術なるものを追い求めた先に、何らかの答えなり達成感はあるのか、ということである。世界中の研究者が、公開されているベンチマーク（同一課題に対する複数のAIシステムの性能評価、比較を行うためのデータセット）を使って、0.1%単位で精度を競い合っている。 何千人もがターゲットにしている有名なベンチマークで「勝つ」ことは、普通の学生や研究者には難しい。マイナーで手ごろなベンチマークを見つけて、成果を国際会議に通すべく準備する。何週間もラボに泊まり込んでようやく他のAIの性能を上回ったと思って論文を書き始める。だが、書き終わる頃にはすでに誰かに抜かれている。 しかも、機械学習以前のアルゴリズムと違って、数十万単位のデータで学習する最近の統計的機械学習は、精度が出ても出なくても、その理由がわからない。「この教師データ（AIを訓練するための正解付きデータ）が悪さをしている」
AIに読解力があると思う人に知ってほしい現実
そうした傾向は、学部からすぐに大学院に入学した日本人学生にとどまらなかった。総合研究大学院大学の学生には、留学生や社会人学生も多い。シンギュラリティを信じる学生はどの層にも同じように分布している印象だった。 ところが、だ。今年、講義をしてみて驚いた。どれほどデータを集めても、AIが「笑っちゃうような誤り」を犯し続けることを、学生たちは当然のこととして受けとめた。講義の中で「シンギュラリティ」に言及したところ、画面の向こうから笑いが漏れた。私が力説しなくても、AI技術を学ぶ平均的な学生にとって、シンギュラリティブームは「過去のあだ花」、悪くすれば「黒歴史」に変わっていたのである。 たった1、2年の間に生じたこの差は、いったい何なのだろう。 2つのことが考えられるだろう。1つは、「人工知能搭載」がうたわれた商品やサービスが溢れ、身近な存在になったことだ。私にとって、2016年は東ロボがMARC
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
