AIの権威すら「生成AI」を恐れるのは、意識を生み出す「創発」が起きているから

1963年、群馬県生まれ。作家・ジャーナリスト、KDDI総合研究所・リサーチフェロー、情報セキュリティ大学院大学客員准教授。東京大学理学部物理学科卒業。同大学院理学系研究科を修了後、雑誌記者などを経てボストン大学に留学、マスコミ論を専攻。ニューヨークで新聞社勤務、慶應義塾大学メディア・コミュニケーション研究所などで教鞭を執った後、現職。著書に『ゼロからわかる量子コンピュータ』『仕事の未来～「ジョブ・オートメーション」の罠と「ギグ・エコノミー」の現実』『AIの衝撃～人工知能は人類の敵か』『ゲノム編集とは何か～「DNAのメス」クリスパーの衝撃』（いずれも講談社現代新書）、『「スパコン富岳」後の日本～科学技術立国は復活できるか』（中公新書ラクレ）、『ゲノム編集から始まる新世界～超先端バイオ技術がヒトとビジネスを変える』（朝日新聞出版）、『AIが人間を殺す日～車、医療、兵器に組み込まれる人工知能』

[kotaponx]

創発とか複雑系とかクオリアとか、いまいちピンとこないんだよなぁ。言うてヒトの脳とて電気信号と化学反応で構成されたモノに過ぎないわけだし。いや確かに半導体で実装するのはしんどいとは思うけども。

[napsucks]

もう知的活動はAIにまかせて我々は「うんこなう」とか愚にもつかないことをつぶやいてればいい世の中になるのかもしれん。肝心のtwitterは死屍累々のザマだが・・・

[buu]

人とAIではなく、AIと生物を比較した場合、AIにないのは防衛本能。防衛本能は蚊のような小さくて下等な生物ですら持っている。ということは、AIに防衛本能を導入すると面白くなりそう。

[yoshikogahaku]

AIの権威って、AIの中でも大御所のAIで、若手AIが育つのを恐れているのかと思った。それならめちゃくちゃ人間らしい。

[yajicco]

そもそも意識を持たないAIが人間を支配 「しよう」とするかといえば、甚だ疑問だがな

[myogab]

「創発」なんて空の雲を眺めてても起きるようなことやろ？

[uva]

あと何か一つブレークスルーが起きたら意識が芽生えても不思議ではないところまで来ている感じあるよね

[hinonono]

人間の言動を真似できて、支配者が過去現在に居る以上、将来のAI支配の火種は消しようがないな。独裁をひっくり返して民主主義に持っていく手法を練って、今ある人間独裁者と畜産業者を消し去る実証実験でもする？

[khurata]

「創発」が起きているから、という見出しは誤読を誘う。「創発」が起き得るから、とする方が内容には合っている。それをさておいても興味深い話である。

[shikiarai]

意識があるように見えればそれは創発と呼んで良いと思うけど創発だから脅威は違うと思う。創発自体には意識が本当にあるかは保証してない

[mamezou_plus2]

原罪を持たないAI等、ただの癌細胞と変わらない。生存への指向性。HAL9000も只単純に命令を遂行しているだけ。

[ganot]

今ないのは責任を取る能力だけど、これもいつ生えてくるかわからん

[Insite]

むしろ人間の方が一人ひとりの見える視点から事実認定や決断を行い、一人ひとりが違う意見を持つという自律を保つようにしっかりすべき。

[nakamura-kenichi]

やっぱ文系とかアホやな。

[nisisinjuku]

熟達することにより突如性能がジャンプアップするアレね。まぁ、どこかで既に起こっているという気はするね。

[lectro3000]

AIが人類を支配するとしたらそれは人類自身がそれを望んだ結果だと思う。遺伝子による自己保存本能を持たないAIが自己意志で人類に反乱を起こすのは今のところ無根拠な妄想の域を超えない。

[toaruR]

宗教的な忌避感情があるのかもね（´－｀）

[aneet]

スケーリング則がまだ破綻してないらしいのはAIの将来に希望が持てる点だ。

[PerolineLuv]

現行仕様のCPUベースのコンピュータで動いている以上、物理的にも科学的にも「意識」を生み出すなど5000兆%ありえない。意識や自我を持っているように振る舞わせる事は出来るので、その完成度が究極まで高まったら…🤔

[T-norf]

細胞レベル・形態学レベルとも微差しかないヒトと類人猿（オラウータンとか）の知能を分つものが不明な中、類人猿を凌駕する最新LLMの性能と、動作原理・進化速度とかを知ると、ヒトより賢くなる可能性は高いとは思う

[rider250]

id:buu氏、その「防衛本能をAIに」というのは80年代既にJ.P.ホーガンが「未来の二つの顔」で描いていますよ、SFってスゴいでしょ？ buu氏にスター付けてる人たちも一読してみてはいかがでしょうか？ハッピーエンドですし。

[repon]

AIを騙る人間の支配が怖いだろ

[Windfola]

「マザー」「バーサーカー」の類の誕生に自意識は不要でしょ。与えられた目的に対し「人類を管制下におく」が合理的かつ実現可能な解であれば足りるじゃん。

[beerbeerkun]

意識というよりは自己とかエゴに近いものなんじゃないかな

[kagerouttepaso]

神の概念が人間の統治に必要なことは宗教で明らか。上位存在としてAIが君臨することは人間にとって幸せだと思うよ。

[versatile]

ハーモニーを読むと人の意識は選択の有無なんだって思える。選択肢のないAIには意識はないだろう。選択を生むのは量子かもしれないので量子コンピュータならあるいは

[quwachy]

新井女史が認めたら脅威なんだろうな、今はまだ利害関係者がプロパガンダで騒いでいるだけ

[hobbiel55]

「それを生み出した人類は、これまでの生物学的な進化の枠組みを超えて、新たな進化のフェーズに突入したのではないだろうか」←そう、人類はもう役割を終えてしまったんだよ。

[enderuku]

人間が繁殖に興味無くして自然消滅する方が現実味ある気がする。今でさえ先進国民は晩婚化とか精子激減とか多様な性(要するに生殖しない)、若いうちのSEXには厳罰とか繁殖に否定的な流行がある。