韓国・ソウルで開催された第2回のAIサミットで、AI開発に取り組む世界の企業16社がAIの安全性で合意しました。合意に関連して、「GPT-4o」などを開発するOpenAIは安全性に関して自分たちが取り組んでいる実践例を公開しています。 OpenAI safety practices | OpenAI https://openai.com/index/openai-safety-update/ 1：リリース前の実証的のモデルへのレッドチーミング(敵対的攻撃)とテスト OpenAIでは、AIのリリース前にモデルの安全性を社内外で実証的に評価しています。リスク閾値が準備フレームワークで中程度を超えた場合、緩和後スコアが中程度に戻るだけの安全対策を行うまで新モデルはリリースしません。また、70人以上の外部の専門家がレッドチームとしてGPT-4oのリスク評価に協力しました。 2：アラインメントと安全

by Jernej Furman OpenAIでAIの安全性を確保するための部署である「スーパーアライメント」チームが事実上解散したと報じられています。決め手となったのはイルヤ・サツキヴァー氏とヤン・ライク氏というチーム幹部2人の退社で、ライク氏はX(旧Twitter)に「OpenAIで安全性が軽視されている」とポストしています。 OpenAI researcher resigns, claiming safety has taken ‘a backseat to shiny products’ - The Verge https://www.theverge.com/2024/5/17/24159095/openai-jan-leike-superalignment-sam-altman-ai-safety What happened to OpenAI’s long-term AI r

米OpenAIのグレッグ・ブロックマン社長は5月18日（現地時間）、前日にヤン・ライケ氏が退社報告の中で同社がAIの安全性を軽視していると警鐘を鳴らしたことについて説明する長文ポストを、サム・アルトマンCEOとの共同署名付きでXで公開した。 ライケ氏の退職により生じた疑問への対応として、OpenAIの全体的な戦略について説明するとしている。 ライケ氏は、人間よりもはるかに賢いAI「Superintelligence」（超知能）の制御を目指して昨年結成されたSuperalignmentチームの共同トップだった（もう1人のトップだったチーフサイエンティストのイリヤ・サツケバー氏は14日に退社している）が、OpenAIの幹部チームが「安全性を輝かしい製品の開発より後回しに」しており、その方針に同意できなかったため退社すると説明した。 ブロックマン氏は長文ポストでOpenAIによるAGI対策として

米OpenAIで人間よりもはるかに賢いAI「Superintelligence」（超知能）の制御を目指して昨年結成されたSuperalignmentチームのトップ、ヤン・ライケ氏は5月17日（現地時間）、退社するとXで発表した。 「私がOpenAIに参加したのは、ここが超知能の研究を行うのに世界で最適だと思ったからだ。だが、OpenAIの幹部チームと中核的優先事項についてずっと同意できず、限界点に達した」という。 Superalignmentチームはライケ氏と、共同創業者でチーフサイエンティストのイリヤ・サツケバー氏が率いてきた。サツケバー氏は14日に退社を発表している。 ライケ氏は、「超知能の構築は本質的に危険な取り組み」であり、「OpenAIは人類全体に大きな責任を担っている」が、「安全性が輝かしい製品の開発より後回しになっている」と警鐘を鳴らす。 OpenAIは昨年2月、AGI（Ar

【ニューヨーク=清水孝輔】米ニューヨーク市の老舗タブロイド紙「デイリー・ニューズ」など米8紙は30日、生成AI（人工知能）を開発する米新興企業オープンAIと同社に出資する米マイクロソフトを著作権の侵害で提訴した。米紙ニューヨーク・タイムズ（NYT）に続き、AI開発企業に対応を求める動きが小規模な新聞に広がってきた。米ヘッジファンドのアルデン・グローバル・キャピタル傘下の8紙が共同で提訴した。両

BlogOpenAI’s commitment to child safety: adopting safety by design principles We’re joining Thorn, All Tech Is Human, and other leading companies in an effort to prevent the misuse of generative AI to perpetrate, proliferate, and further sexual harms against children. OpenAI, alongside industry leaders including Amazon, Anthropic, Civitai, Google, Meta, Metaphysic, Microsoft, Mistral AI, and Stabi

アメリカの日刊紙であるニューヨーク・タイムズは2023年12月に、ChatGPTが自社の記事をコピーしてほとんどそのまま出力したとして、OpenAIを著作権侵害で提訴しました。OpenAIは、「ニューヨーク・タイムズは意図的に不具合を引き起こしてChatGPTが記事をコピーしているように見せている」と反論していましたが、これに対してニューヨーク・タイムズが「不具合を起こさせたのではなく、ChatGPTが有料記事を盗用した証拠である」と再反論しました。 NYT to OpenAI: No hacking here, just ChatGPT bypassing paywalls | Ars Technica https://arstechnica.com/tech-policy/2024/03/nyt-disputes-openai-hacking-claim-by-pointing-to-

2024 年 2 月 20 日 (火) 東京ビッグサイトにて開催されたMicrosoft AI Tour Tokyo, Japan Theater1セッションでお話しした内容です。

米OpenAIの共同創業者でもある実業家のイーロン・マスク氏が2月29日にOpenAIとサム・アルトマンCEOを契約違反で提訴したことについて、同社幹部は社内メモで「マスク氏の主張は現実を反映していない」と語った──。このメモを入手した米Axiosなど複数のメディアが3月1日に報じた。 マスク氏は、OpenAI設立時、アルトマン氏が「人類のためにAIを開発するオープンソースの非営利企業を設立する」と語っていたにもかかわらず、米Microsoftが出資するOpenAIが営利を追求しており、また、GPT-4をオープンソースにしていないのは契約違反だと主張している。 OpenAIはMicrosoftとの提携で、AGIの開発に成功した場合、AGIにはMicrosoftのライセンスは適用されなくなるという契約条件だが、GPT-4は既にAGIであり、ライセンスを適用するべきではないともマスク氏は主張す

アメリカの起業家、イーロン・マスク氏は29日、生成AI、ChatGPTを開発したアメリカのベンチャー企業、オープンAIを提訴しました。オープンAIが非営利で設立されたのに利益を追求しているのは契約違反だなどと主張しています。 アメリカの起業家、イーロン・マスク氏は29日、オープンAIとサム・アルトマンCEOらを相手取って、アメリカ西部カリフォルニア州の裁判所に訴状を提出しました。 訴えによりますと、オープンAIは2015年に、人類に恩恵をもたらすため、利益を出すことを目的としない非営利で設立されたのに、会社とサム・アルトマンCEOらがIT大手のマイクロソフトの子会社として利益を追求しているのは契約に違反しているとして、提供した資金の返還などを求めています。 マスク氏はアルトマン氏とともに、2015年のオープンAIの設立に携わりましたが、その後、会社を離れ、去年、新会社の「xAI」を設立して

米実業家のイーロン・マスク氏が、対話型人工知能（AI）「チャットGPT」を手掛ける米新興企業オープンAIとサム・アルトマン最高経営責任者（CEO）を提訴した。マスク氏は共同創業者の一人で、アルトマン氏とは盟友関係だったが、同社がマイクロソフト（MS）との資本提携を機に利益追求に転じたと主張。「人類の利益」を目指す非営利組織という設立の理念に反していると訴えている。 提訴は2月29日付。マスク氏は訴状で「オープンAIはMSの事実上の子会社に変貌した」と批判。基盤技術を社会に公開する「オープンソース」を掲げていたにもかかわらず技術の詳細を明かさず、MSのみが同社の技術を商業利用しているとしている。 マスク氏は2015年設立のオープンAIの経営に携わってきたが、路線対立で18年に取締役を離れた。公共の利益に貢献するとの理念に共鳴し、計4400万ドル（約66億円）以上を寄付したと主張しており、これ

マスク氏の弁護士は「米Microsoftが出資するOpenAIが営利を追求しているのは契約違反だ」と主張。また「大規模言語モデル『GPT-4』の設計を完全に秘密にしていた」とも話している。 マスク氏は15年にOpenAIを共同で創業したが、18年に同社の理事会から退いていた。 関連記事 「サム・アルトマン解任騒動」とは何だったのか　Microsoftも得はせず 「なにがなんだかわからない」。11月17日（現地時間）から始まったOpenAIを巡る騒動を、そんな思いで見ている人も多いのではないだろうか。OpenAIとサム・アルトマンになにが起きたのか、そして、今後どうなるのかを、不透明なりに考えてみたい。 サム・アルトマン氏、米OpenAIのCEOに返り咲き　公式Xで発表 米OpenAIは11月22日、サム・アルトマン氏が同社のCEOに就任すると発表した。 OpenAI、GPT-4が怠け者にな

生成AIのChatGPTが記事を盗用したとしてニューヨーク・タイムズから提訴されているOpenAIが、新しくインターネットメディアのThe Intercept、Raw Story、AlterNetから著作権侵害訴訟を起こされたことが明らかになりました。 Digital Media Outlets Sue OpenAI for Copyright Infringement - The New York Times https://www.nytimes.com/2024/02/28/technology/openai-copyright-suit-media.html The Intercept, Raw Story, and AlterNet sue OpenAI and Microsoft - The Verge https://www.theverge.com/2024/2/28/24

米New York Times（以下、NYT）が昨年12月に米Microsoftと米OpenAIを著作権侵害で提訴した訴訟で、OpenAIは2月26日（現地時間）、ニューヨーク州南部地区地裁に訴訟の一部の却下を求める申し立て（リンク先はPDF）を提出した。 OpenAIは、NYTは著作権侵害の例を作成するために、ChatGPTなどのOpenAIのツールを「誰かに金を払ってハッキングさせた」と主張する。 文書によると、NYTが提示したような「異常な結果を生成するためには数万回の試行が必要」で、NYTはOpenAIの利用規約に明らかに違反する欺瞞的なプロンプトを使って例を生成したという。 NYTは、OpenAIとMicrosoftがNYTのコンテンツに基づいてAIモデルをトレーニングしたため、ChatGPTがNYTの記事をほぼそのまま再現できると主張し、訴状でそうした例を複数提示した。こうした

アメリカの大手新聞社であるニューヨーク・タイムズは、OpenAIとMicrosoftがChatGPTやその他のAIシステムのトレーニングにニューヨーク・タイムズのコンテンツを利用したとして、両社を訴えています。これに対し、OpenAIは、「ニューヨーク・タイムズがOpenAIの利用規約に違反するプロンプトを用いて証拠を生成した」と主張しました。 OPENAI MICROSOFT NEW YORK TIMES mtd.pdf (PDFファイル)https://fingfx.thomsonreuters.com/gfx/legaldocs/byvrkxbmgpe/OPENAI%20MICROSOFT%20NEW%20YORK%20TIMES%20mtd.pdf OpenAI says New York Times 'hacked' ChatGPT to build copyright laws

スペイン在住のAI技術批評家アルベルト・ロメロ（Alberto Romero）氏がMediumに投稿した記事『ニューヨーク・タイムズ vs OpenAIは単なる法廷闘争ではない』では、ニューヨーク・タイムズ紙がOpenAIを著作権侵害で訴えた事案の意義を考察しています。 同紙の記事が許可なく生成AIの学習データに使われたとするこの訴訟に関して、ロメロ氏は3つのレイヤーがあると指摘したうえで、それぞれのレイヤーを以下のように説明しています。 ニューヨーク・タイムズ vs OpenAI訴訟の3つのレイヤー 法的レイヤー：ニューヨーク・タイムズ紙が提出した訴状には、GPT-4が同紙記事をほぼ逐語的に出力する事例が掲載されていた。この事例は、著作権侵害の動かぬ証拠のように見える。 技術的レイヤー：AI専門家によれば、LLMはインターネットの全情報を非可逆的に圧縮するJPEGのようなものであり、入力

The day after The New York Times sued OpenAI for copyright infringement, the author and systems architect Daniel Jeffries wrote an essay-length tweet arguing that the Times “has a near zero probability of winning” its lawsuit. As we write this, it has been retweeted 288 times and received 885,000 views. “Trying to get everyone to license training data is not going to work because that's not what c

「同意なく自分たちの書籍がAIのトレーニングに使用された」として、3人の作家がOpenAIを相手に起こした著作権侵害訴訟で、OpenAI側の主張のほとんどを認める判決が下されました。 Judge dismisses most of Sarah Silverman's lawsuit against OpenAI | VentureBeat https://venturebeat.com/ai/judge-dismisses-most-of-sarah-silvermans-copyright-infringement-lawsuit-against-openai/ Judge rejects most ChatGPT copyright claims from book authors | Ars Technica https://arstechnica.com/tech-policy/2