ブックマーク / www.technologyreview.jp (3)

  • 生成AIにアーティストが反撃、汚染データでモデルを壊す新技術

    AIによる画像の無断利用にアーティストたちが対抗する新たなツールが開発された。人間の目にはわからない加工を画像データに施すことで、この画像データを訓練に使った生成AIモデルを破壊できるという。 by Melissa Heikkilä2023.10.27 41 22 アーティストがこの新しいツールを使用すると、自分の作品をインターネット上にアップロードする前に、作品内のピクセルに対して目に見えない変更を追加できる。人工知能AI)企業が、この変更を加えた作品を収集し、生成AI(ジェネレーティブAI)の訓練に使用すると、AI学習モデルが無秩序で予測不可能な状態に破壊される可能性がある。 「ナイトシェード(Nightshade)」と呼ばれるこのツールの目的は、アーティストの許可なく作品を使用してモデルを訓練しようとするAI企業に反撃する方法を提供することだ。「ダリー(DALL-E)」、「ミッドジ

    生成AIにアーティストが反撃、汚染データでモデルを壊す新技術
    wornoutemperor
    wornoutemperor 2023/10/28
    おもしろ。どんどんやりあって欲しい。行き着く先にルール化というか法整備とかがあるんだろうしな。
  • ジェフリー・ヒントン独白 「深層学習の父」はなぜ、 AIを恐れているのか?

    Geoffrey Hinton tells us why he’s now scared of the tech he helped build ジェフリー・ヒントン独白 「深層学習の父」はなぜ、 AIを恐れているのか? 深層学習の父と呼ばれるジェフリー・ヒントンが誌の取材に応じ、グーグルを退社した理由を語った。グーグルを辞めてから話したい「AIの問題」とは何か? by Will Douglas Heaven2023.05.08 233 54 ジェフリー・ヒントンがグーグルを退社するという電撃発表をした5月1日の4日前、私はロンドン北部の美しい通りにあるヒントンの自宅で彼に会った。ヒントンは、「バックプロパゲーション(逆伝播)」と呼ばれる現代の人工知能AI)の中核をなす非常に重要な技法の開発に貢献した深層学習のパイオニアだ。しかし、グーグルに10年間在籍したヒントンは、AIについて現在

    ジェフリー・ヒントン独白 「深層学習の父」はなぜ、 AIを恐れているのか?
    wornoutemperor
    wornoutemperor 2023/05/08
    楽観視点と悲観視点噛み合ってなくね?悲観視点は超AIがいかに悪意にコントロールされるか、楽観視点は超AI単体の話をしてるような。悪意を持つアホな人間が超AIに介入することで脅威になるってことちゃうんか。
  • 生成AIが新章突入、Stable Diffusion共同開発元が動画版を発表

    画像生成AI「ステーブル・ディフュージョン」の最初のバージョンを開発した英国のスタートアップ企業が、映像を生成するAIを発表した。既存の映像にテキストや画像を指定すると、新しい映像に変換できるという。 by Will Douglas Heaven2023.02.08 413 19 生成AI(ジェネレーティブAI)のスタートアップ企業であるランウェイ(Runway)は、テキスト入力や参照画像で指定した任意のスタイルを適用して、既存の映像を新しい映像に変換できるAIモデル「Gen-1」を発表した。同社は、2022年に話題となったテキストから画像を生成するモデル「ステーブル・ディフュージョン(Stable Diffusion)」を、スタビリティAI(Stability.AI)と共同開発した企業である。 ランウェイのWebサイトに掲載されているデモリールでは、Gen-1が道行く人々をクレイアニメの

    生成AIが新章突入、Stable Diffusion共同開発元が動画版を発表
    wornoutemperor
    wornoutemperor 2023/02/08
    デジタル作品の低コスト化で富裕層が物理至上主義に回帰する、に一票。
  • 1