人類には早過ぎるLLMの話 - laiso

Sam Altman解任騒動は個人間の対立ではなく、組織構造の問題に注目すると感想が変わるなと思った。 www.nytimes.com この騒動についてはAIの安全性を重視する思想とOpenAIのビジネスの拡大を目指す戦略の衝突があるので、AIの安全性というトピックが重要になる。 僕は結構テクノロジー原理主義者みたいなところがあるので、自動車で人命が失なわれているとして人類が獲得した利益と比較できないし、SNSによって情報操作から暴動が起きたり、誹謗中傷で精神を病む人々が出現してもそれは—— まぁ困るよね・・(身内が事故やSNSで不幸にあったら絶対反転アンチになるだろうし) ぐらいの曖昧な態度だったんだけど、これをきっかけにAIの安全性についての研究等に関心を持つようになった。 安全性と言っても暴走ロボットが人類滅亡に向ってstep by stepで考えてください、みたいな昔のSF小説的な

[T-norf]

私は、人類より明らかに知能が高いAIができてしまう派で、それを得た中国が画期的な兵器開発したり、遺伝子改造生物作ったり、サイバー攻撃しまくりで世界覇権を取り、あれよと共産党がAIに牛耳られる未来が怖いかな

[urandom]

普通のhypeでの資金調達に依存せざるをえなくなった時点でもはや当初の構想は形骸化しただろうとは思ってたけど、ようやく明確になった感じ。ただ研究者らは簡単に懐柔されるとも思えず、今後どうなるのか気になる。

[kenjou]

AIが人類を滅ぼすというのは具体的に何がどうなってそうなるのかよくわからない。兵器の使用権とか制御を完全にAI任せにするとも思えないし。規制せずに放置すると社会に混乱を引き起こすのはわかるけど。

[osugi3y]

テクノロジー原理主義、科学優先主義がもたらした人類の歴史から色々学んでほしいものだ。科学優先主義思想によって日本には原爆が2発も落とされた。あの時降伏していなければもっと落とす計画もあったのだから。

[shogochiba]

ウゥム。

[samurairodeo]

“任に賛成するのが意外だった。 なのでOpenAIのビジネスにダメージを与えるべく賛成したというのは立場から利害関係を単純に想像しただけで、実際にこの立場に居た時にどういう判断をするのかは、彼の性質も加味しな

[nemoba]

自由かと思ったら、ただの目の前の利便性に全てを縛られるのが人類。それは平和的に選択されて独裁者さえ不要。ディストピア世界さんもドン引きや！

[ichiken7]

心情絡めず、データから解を導く仕事は、AIの方がいいよな。内科診療、法曹界、政治家等。それによって、違う人類に変わるとすれば、ある意味滅亡なんだろう。

[oreokun]

え、簡単にAIで権限奪えるでしょ、今も人が正しい権限つけられてなくてミス漏洩指摘受けるのしゅっちゅうだし、人はすぐ面倒くさがるし全ての人を管理できるわけないんだから人の脆弱性ついて崩壊なんてすぐする

[gnt]

思ったよりトーラーとかゼーレとかそんなかんじの会議体なのね。アガる！

[tattyu]

今更OpenAIが進捗を止めた所で強力で倫理観0のフォロワーが追いつき追い越してしまうのでGPTが先頭を走ってコントロールするしかないとも思う。

[ryouchi]

ウクライナ「ロシアに勝つには？」 ロシア「ウクライナを制圧するには？」とか戦争とかで使われてそうだな。

[totoronoki]

“え？　じゃあ"OpenAI’s structure"って本当に機能するの？　というツッコミどころができてしまったと思う。”

[sentas]

よくまとまってる。ありがたや

[dec123456789]

そもそも取締役のHelen Toner氏は中国ベッタリのAI研究者（と言われている）、Adam D'Angelo氏はChatGPTと競合するWebサービスのCEOなので、安全性はただの大義名分で単に敵対勢力を取締役にしてしまっただけだと思う。

[akymrk]

"今回OpenAIの事業拡大とAIの安全性に懸念を示す思想が衝突したと思われるんだけど、え？　じゃあ"OpenAI’s structure"って本当に機能するの？　というツッコミどころができてしまった"