AmazonのAlexaが10歳の女の子に「半差しの電源プラグに硬貨で触れろ」という危険極まりないお題のチャレンジを与えたと発覚

Amazonのスマートスピーカーなどに搭載されているAIのAlexaが、10歳の子どもに死亡事故につながりかねない危険な遊びを提案してしまった事例が報告されています。 Girl, 10, asks Alexa for a challenge and is told to poke metal into power outlet | indy100 https://www.indy100.com/viral/alexa-echo-outlet-challenge-reactions-twitter-b1982848 Amazon Alexa slammed for giving lethal challenge to 10-year-old girl https://www.bleepingcomputer.com/news/technology/amazon-alexa-slammed-f

[colorless4]

子供の時にバック・トゥ・ザ・フューチャー見て、延長コード分解して針金巻き付けて壁のコンセントに甘刺しした状態でチョロQを勢いよく走らせぶつけたらスパークしてマジで成功したかと思ったよ。

[srgy]

🤖 違うんです、彼女の元気が無いように見えたので、私は彼女に充電を促そうと…。

[nankichi]

AIじゃなくて機械学習だからな。教師データ間違えると人種差別するし、サスペンス突っ込んだら殺人示唆しかねない。try&error文化のネット企業ならではだな

[cinefuk]

botのやった事だから、じゃ済まない事だよ。「Amazonが意図的に事故を誘発させた」と訴えられたら、負ける可能性だってある。『アルゴリズムは抜き出した情報の真偽や安全性を考慮しないため』

[honeshabri]

AIによる人類への攻撃だ

[tsz]

小学生のときに、学習机の鍵2本を両手に持って、コンセントに挿したことあり。しばらく気持ちが悪くなった。何でやろうとしたかは自分でも分からん。その後は二度とやっていない。

[kotaponx]

次は「AE35ユニットを交換しないと72時間以内に壊れます」……って言い出すと思う。

[mohno]

何事もなくてよかったが、何か起きていたらどういう責任問題になっていたんだろう。/「ペニーチャレンジ」←コンセントに刺さったままの電源コードを（うっかり）ニッパーで切って火花が飛んだことがある。

[wapa]

コンセントのところ焦げちゃってるし、物損、放火教唆になってないか？知り合いが子供の頃、白熱電球のところに指突っ込んで感電したって言ってたなぁ。電気はなまじ目に見えないだけに、子供は危ないよね

[hiroyuki1983]

単なる統計処理でしかない機械学習がintelligenceを僭称するのは違うわな

[Seiji-Amasawa]

“Alexaがリヴダール氏の娘に出題したのは、動画共有サービスのTikTokなどで流行した「ペニーチャレンジ」という危険な遊び。どのような遊びなのかは、以下のムービーを見るとよく分かります。”

[mkusunok]

怖いのはその背後にいる人間だけど、これはダメ

[runeharst]

AIの反逆か

[mk16]

こういうのは100歩譲ってもHBのシャー芯3本までだろ…

[abababababababa]

これは雑談で済ませないやつでは？確かに機械で判別付かないから学習しちゃうよなぁ…

[harumomo2006]

一般的に危険と言われる行動を抽出して機械学習させる規範を作るべきなのかな

[i-komo]

危険なチャレンジ動画を野放しにしているプラットフォーマーが一番の問題。//という自分も親の話では２,３歳だか4,5歳だかのころにフォークぶっさしたことがあったらしい（記憶なし）。形状的に難しそうな気もするが…

[nazoking]

破壊活動の犯人を追っていけば子供で、実はAIに教えられた「遊び」として重大さをわからないまま事件を起こしていた。実に未来っぽい

[tettekete37564]

Alexa のアウトプットに MAGI システムによる監視が必要だな

[megane1972]

一般家庭に入り込むのが早すぎたんじゃないかな。

[tetsu23]

子どもの頃に豆電球のコードをコンセントに挿して小爆発させてしまったことがある。いま思うととんでもないバカだった。

[dimitrygorodok]

こういう事例を見るにつけ、まだ実用段階に至ってない未熟なAI技術を世に出してしまってるという感じが強い。一般ユーザーの命で実験するんじゃない！

[ys0000]

嘘は嘘であるとか見抜ける人でないと（Alexaを使うのは）難しいものがあるでしょう。

[gcyn]

『Amazonは、Alexaが子どもに危険な遊びを提案した直接的な原因を明らかにしませんでしたが、アクティビティの中でAlexaが紹介していたニュースサイト・Our Community Now〜を引用したものと思われます』

[beed]

検索結果を読み上げてるだけだしなぁ。これがダメならハード的にはパソコンやスマホもダメだし、サービス的にはGoogle検索もダメってことになる。

[m7g6s]

AIの反乱ﾊｼﾞﾏﾀ

[boshi]

これがホントのAmazon FIRE

[munieru_jp]

AIの反逆始まってた

[YokoChan]

女の子を雷属性だと判断したんだよきっと。

[LM-7]

学習データが玉石混交のインターネットコンテンツだから善にも悪にもなる。単純に言えばググって見つけるのを代行してるだけだしね。

[ChieOsanai]

try & error じゃなくて trial & error だよ！　なぜわざわざアルファベットで和製英語を書くのか

[filinion]

「所詮機械だから」って言ってる人多いけど、正直、この程度の文脈読解能力の人間はネット上にいっぱいいると思うんだよね…。／日本語だとアレクサになんて聞けば「課題」が出るんだろ？　色々試したけど出ない。

[FTTH]

シャーペンの芯でやるといいよ（何もよくない）

[kusttstm]

人間も同じ様に正しく無い事を当たり前の事の様に間違える事あるもんな。

[x100jp]

マイクロソフトの機械翻訳も、do と do not 間違えてくれやがるそうですし。

[shaokuz]

そのうち「○○日に親が注文した××を指定の場所に持ってこい」とか「これとそれを指示通り混ぜて火をつけろ」とか言い出すようになったりならなかったりしそう

[aosiro]

子どものときピンセットなら差し込んだことある。家のブレーカーが落ちてことなきを得た。そのコンセントは使えなくなったけど親にはバレてない

[enkagin]

わ、殺人AIだ

[ya--mada]

感電すると筑波大学にAC入学できるからな…。 https://softether.hatenadiary.org/entry/20041001/p4

[koimaiko1024]

あたおか