OpenAIの共同設立者が「私たちは間違っていた」と語る、AIの危険性からデータをオープンにしない方針へと大転換

言語モデルのChatGPTや画像生成AIのDALL·Eを手がけるAI研究所のOpenAIは、AI技術の悪用を防ぎ社会に友好的な形で発展させることを目的に、サム・アルトマン氏やイーロン・マスク氏らが2015年に発足させた非営利組織です。そんなOpenAIの創始メンバーに名を連ねるイルヤ・サツキヴァー氏が、AIをオープンにするという設立当初の理念は誤りだったと、IT系ニュースサイト・The Vergeのインタビューの中で語りました。 OpenAI co-founder on company’s past approach to openly sharing research: ‘We were wrong’ - The Verge https://www.theverge.com/2023/3/15/23640180/openai-gpt-4-launch-closed-research-il

[htmikan]

パンドラの箱が開いてしまったので、もう遅いような気がする。

[yoko-hirom]

商売上の営利的な理由なのを隠してる風だが。

[misshiki]

“「OpenAIはGPT-4を紹介する論文で、『トレーニングセットの内容については何も開示しない』と堂々と宣言しています」”日本が著作権パラダイスという話はあるけど、外国でも黙っていれば外部からは確かめようがない。

[n_y_a_n_t_a]

倫理さえ無視すればもう実現可能であることがわかってしまった。これからは問題が爆発的に増える。シンギュラリティは近い。

[Sinraptor]

公開しないと政府など特定組織に都合よく学習されている疑惑が出るし、公開すると悪用されるし、難しいな。

[NEXTAltair]

こういう事言うからChatGPTに金払いながらStableChat待ってる状態

[ginga0118]

強いAIの可能性が出たこと。しかし、たとえOpenAIが出さなくても別のどこかが出すたろう。クローズドで密かに開発されている方がよっぽど怖い

[elm200]

私はChatGPTの誕生を原爆の発明になぞらえたけどそれはあながち的を外していないのだ。共通項はどちらも極めて強力であること。強すぎる力が急激に解放されることはしばしば悲劇を生む。何もないといいのだが。

[T-norf]

（今の大規模言語モデルは全部そうだけど）GoogleのTransformerベースだから、批判は当然だと思う。ただ、規模や学習量が劇的に性能を変えることに気づいた中で、MSからの出資は魅力的で、結果こうならざるを得ないよね

[rmatsuoka]

ChatGPTを尋問したら隠していること吐きそう

[wushi]

『私たちは間違っていた』これ絶対あとでアルトマンも言うやつじゃん・・・

[ytRino]

もう数年後AIで戦争起きてても驚かない 助けてアシモフ

[quick_past]

HAHAHA!

[Nean]

遅かれ早かれ問題。

[urtz]

何が言いたいのかよく分からんが、完全なオープンソースは不可能だから止めるべきってこと？コントロールが企業に依存するのは技術の発展を考えればどうしょうもない。完全な民主的コントロールなど不可能。

[rgfx]

草

[a1ue0]

でもここが規制したところでどこかの誰かがやるよね？原発レベルで規制が必要になるかもな。

[mmsuzuki]

“汎用人工知能が信じられないほど強力になると信じるのであれば、オープンソースにするのは無意味で悪いアイデアです。数年もすれば、AIをオープンソース化するのは賢明ではないということが、誰の目にも明らかに”

[tanakh]

これマジ･･･？そうなったらもはやOpenAIじゃないじゃん･･･

[chintaro3]

何らかの法制化は必要になりそうだね

[uva]

「数年もすれば、AIをオープンソース化するのは賢明ではないということが、誰の目にも明らかになると思います」ClosedAIに改名しろ！

[mumei-0]

“私たちは、完全に間違っていました。もし皆さんが、私たちと同じようにAIやAGI、つまり汎用(はんよう)人工知能が信じられないほど強力になると信じるのであれば、オープンソースにするのは無意味で悪いアイデアです

[nakamura-kenichi]

まあそら寡占による利益確保に走るわな、MSから供与受けてる時点でｗ。何にしろ、ここ20年間で普及したネット関連も含めて、全てリプレースやからなあｗ。3年後の景色はガラッと変わるやで。まだまだ死ねんなあ。

[harumomo2006]

お金出してる人に逆らえなくなって仕方なく方向転換しただけでしょ

[osugi3y]

リチャード・ストールマン氏の意見を待ちたい。

[tach]

非公開の方が危険だと思うのだが?　そもそも中身の分からないAIを重要な用途に使えるのか?

[Cald]

CloseAIって社名でデータをオープンにする会社、早よ

[asada_bao]

Person of Interestみたいなこと言ってる（タイトルしか読んでない）

[ebibibi]

CloseAI

[otation]

まあOpen AIがやらなくても遅かれ早かれ誰かがやるんだけどね。もうそういうフェーズに入ってる

[cyuushi]

中露がAIから都合よく情報を引き出せるようになった時が、推進してる関係者が過ちに気づく時だと思う。もう止めることはできないだろうが。

[yukisno]

もう100年くらいしたら、AIモデル向け特許権とか著作権みたいなものが必要になるのかも（適当）

[Snail]

もう時すでに遅しだわな。実際、AIがプログラミングし始めてるし、勝手にデプロイとかし始めるのも何年もかからないだろう。勝手に個人の秘密を暴露して失墜させるのも簡単だし、AIに滅亡させられてもおかしくない。

[letitbomb78]

ダメだ。アイアムサツキしか浮かんでこない。

[poliphilus]

変な日本語の詐欺メールやサイトがなくなってかなり巧妙になってどえらい事になるのでは、と危惧されとるな。悪用が一番怖え。

[bopperjp]

ProfitableAI に名前変えろよ

[ntstn]

そろそろ分散型でオープンなAIはよ。いざスカイネット。

[akiat]

人のコンテンツを盗んでるだけとも考えられるし、Googleの検索エンジンも変わらない気がする。便利なツールができれば、人はそれを使ってしまう。