生成AIを使った関東大震災「新証言」展示中止 | NHK

日本赤十字社東京都支部は関東大震災から100年になるのにあわせて当時を描いたとされる絵画を題材に生成AIを使って新たな「証言」を作り、展示する催しを25日から開く予定でしたが、中止すると発表しました。 AIが作り出した文章を「証言」と表現することに懸念する声が上がっていて、支部は「より慎重な検討が必要だったと深く反省している」としています。 日本赤十字社東京都支部では、100年前の関東大震災について関心をもってもらおうと当時の救護活動を描いたとされる大正時代の絵画を元に生成AIを使ったプロジェクトを始めました。 まず、絵に描かれた20人の被災者を写真のような肖像画にしました。 そして、被災者の体験談などの文献からあわせておよそ60万字をデータベースにしたうえで、肖像画の人物が語ったような「新証言」を作り、あすから支部などで展示を行う予定でした。 ところが、支部によりますと、AIが作り出した

[sisya]

何がしたいのかわからない。批判の声の通り捏造にしかならないし、注意書きを添えたとしても勘違いする人がたくさん出てしまう良くない表現方法に感じる。新しい技術を使ってみたかっただけということだろうか。

[yabusaki]

どこかのマーケティング屋さんが生成AIを使いたかっただけでは。大して中身を理解してない、話題性優先のテンプレマーケターがさ

[uehaj]

でたー「誤解を招いてしまった。」。「誤解を作ろうと画策してしまっていましたが、捏造行為はやめろという的確な指摘で、誤解を作りだすことでしかない展示を撤回します」だろ

[totoronoki]

AI生成なので証言ではなく「新」証言と区別をつけました！ とか頭おかしいだろ。どこと組んでたのかちゃんと名前を出してほしい。倫理観のないAI開発者だから警戒しないと。

[kuzudokuzu]

誰が企画したものなのか説明しないと、日本赤十字そのものの信頼が崩れるんだけどな。たぶんそこをNHKも（勝手にか頼まれてか）憂慮してタイトルに「日本赤十字」と付けなかったんだろうし。

[kragsksk]

20XX年発生の南海トラフ地震被災者の証言、というテーマで生成して防災意識を高めようという話だったら受け入れられる気がする。

[canadie]

人間がやっても完全にアウトなものを、なぜ生成AIならいけると判断したのだろうか…。写真もAI彩色っぽいよな/と思ったら絵かよ…創作物をもとに創作するとかさすがにおかしい

[chonmagefighter]

もしも「新証言」と称して同じ事を広島や長崎の原爆、沖縄戦に関する展示でやったら、たぶん担当者の首だけではすまないレベルのバッシングが地元から起こるぐらいのやばい企画。犠牲者への冒涜でしかない。

[Dai44]

“一部で誤解を招いてしまった。より慎重な検討が必要だったと深く反省している。” 「誤解を招く」の使い方にもより慎重な検討が必要なのでは

[myaoko]

フィクションと銘打って信頼できる監修者がつけばまだよかったのに。AIがやったことだからと出力されるものに対して無責任でいられるわけではないんだからさあ

[pokute8]

"日本赤十字社"募金ビジネスで金を得た企業が次にやることは金を集めやすい物語作り。

[bt-shouichi]

何がしたかったんだろう。当時の被災者の体験談などを使ってAIに何かつくらせたいというだけだったのかな

[vanillaalice]

どんな捏造を用意していたのか（良しとしたのか？）を見てみたかったかもね

[narwhal]

マジかよ日赤最低だな。

[July1st2017]

関東大震災を経験したAIが居ればワンチャン

[hgaragght]

酷すぎる

[Goldenduck]

訳がわからない。史実を元にしたゲームでNPC作るならともかく展示じゃ事実と受け止められる。関東大震災は歴史と呼ぶにはまだ近いし

[Shinwiki]

“一部で誤解を招いてしまった” 正解を説明してみ

[xjack]

生成AIを理解してない馬鹿な人たちが大々的にやったから批判→中止でよかった．でもそのうち馬鹿な(あるいは有能な)人たちがばらまいた捏造(あるいは欺瞞)コンテンツが溢れ出し学習データが消失．AIの終わりの始まり．

[zenkaizenkai]

ポルノとかよりも最悪なAIの使い方だな

[nakakzs]

つか変えなきゃいけないのはAIというより、AIというものが正確であり、中立であるという、人間の思い込みだろうな。これが技術で初めの頃の幻想として変わるのか、そのまま定着してゆくのか。後者のほうが危険。

[pandacopanda27]

AI使ったエンターテインメントとして見せたいなら題材間違えすぎだろ。

[n_vermillion]

一片の擁護もできないガチ捏造じゃねーか。誤解どころか批判受けて当たり前や。この辺の「新証言」が認定されるとほくそ笑む界隈もあるだろうし、迂闊としか言えん。色々と勘繰られても文句も言えんぞ。

[taro-r]

AIが作るものを事実のように受け取る。こういう人がいるから，AIに人類が滅ぼされたりするんだろうなぁ。

[kameyoh]

人類に生成AIは早過ぎた。

[kalmalogy]

“被災者の体験談などの文献からあわせておよそ60万字をデータベースにしたうえで、肖像画の人物が語ったような「新証言」を作り”体験談をそのまま載せればいいのに、何故AIを通して捏造する？意味がわからない

[cvtbgspuda]

まったくいみがわからない。これをやろうと思った人は何考えているんだろうか。こんな人がAIを使うのか。

[amunku]

"あすから支部などで展示を行う予定でした。"　えっpixivで…？と思ってしまった。

[tawake000]

例えばAI弥生人に当時の生活を語ってもらう、みたいな内容だとこういった反発はなさそうだし、多分そういうことをやりたかったんだと思う。ただそれにしてはテーマがセンシティブであり、また100年しか経ってないなど

[blackphone9]

これから先､真偽不明な資料っぽいものとか大量に出回るかもね｡今回は展示って形だったけど､しれっとネットにでも流されるともうわけわからんかも｡

[oisux]

AIが住んでるAI都市で震災を再現するくらいしたら証言になるかもしれない

[hdkINO33]

あほ

[beginnerchang]

赤十字がこんな有害な企画を思いつくわけがないので、どうせ愚かな企画屋が持ち込んだのだろうが、その企画屋を切除するのが先決でしょ。がん細胞の増え方が倍々ゲームなのは赤十字も知ってるはず

[ys0000]

200年後に事実の写真として広まってしまうからな。せめてイラスト形式にすればマシかな。実在の写真と勘違いさせない事が一番重要。再現映像とかをメディアが作るのと同じだから注意喚起には悪くはないと思うけどね。

[mozuyanniarazu]

中止になって良かった。

[takeishi]

それは駄目だろう。

[tailtame]

戦争体験者の語り部も捏造生まれてしまうのに、こっちはデマまであるな🤔　単語指定しても存在しない文章を作るしなぁ

[asakura-t]

「誤解をまねく」と言ってる時点でダメだな／せめて「新解釈」とかにしとけばよかったのに。

[chaz_21]

何が新証言だよただのフェイクニュースだよ、考えたやつ頭おかしい