タグ

関連タグで絞り込む (2)

タグの絞り込みを解除

securityとriskに関するdiet55のブックマーク (1)

  • 「ChatGPT」の成功がAIに与える非オープン化の弊害、第一人者のベンジオ氏が警告

    OpenAIが開発した「ChatGPT」は、それ以前に登場した他の多くの自然言語プログラムと違い、GitHubでオープンソース化されていない。 そして米国時間3月14日、同社はChatGPTの言語モデル「GPT」の最新バージョンである「GPT-4」の技術的な詳細を公開することさえ拒否するという、ある種のマイルストーンを達成した。 ChatGPTとGPT-4における透明性の欠如は、ディープラーニング(深層学習)AIにおける慣例を破るものだ。この分野では、学者であっても企業の研究者であっても、オープンソースソフトウェアの伝統にならって情報を積極的に公開し、希望すれば誰もがすぐにコードを入手できるようにするのが常だった。 しかし、ChatGPTが持つ閉鎖的な性質が、AIの世界ではむしろ標準的なものとなる可能性があり、この点で倫理的な問題をはらんでいると、AIのパイオニアでカナダのケベック州にある

    「ChatGPT」の成功がAIに与える非オープン化の弊害、第一人者のベンジオ氏が警告
    diet55
    diet55 2023/03/19
    「現在のAIの進歩は、研究室の間で異花受粉(中略)論文が果たした役割が非常に大きい」「私たちは他の人が書いたコードの上に自分たちのコードを書いている」「一般社会に対して与える危害を見えにくくしてしまう」
  • 1