「オレオレ詐欺」にAI製クローン音声を用いる事例が急増、被害額は年間15億円近くに

知り合いなどを装って金銭をだまし取る「オレオレ詐欺」で、AI技術を用いて作った音声が利用されるケースが出てきていることが報告されています。2022年の「オレオレ詐欺」による被害額は、アメリカだけでも1100万ドル(約14億9000万円)に上っています。 Scammers are now using AI to sound like family members. It’s working. - The Washington Post https://www.washingtonpost.com/technology/2023/03/05/ai-voice-scam/ new: AI voice-cloning tech is making phone scams frighteningly believable. I talked to some who got duped. They w

[taruhachi]

AIに奪われる仕事だ。

[ryusso]

今度は受信する方もＡＩでいいんじゃないか?

[brusky]

“技術の進歩により、YouTubeやFacebook、TikTokから30秒ほどの音声を手に入れれば、クローン音声を生み出せるようになっています”コナン君の蝶ネクタイ型変声機

[zkq]

こんなにの引っかかるのは日本人だけかと思っていただそうでもないのか。国によってストーリーに差はありそうだが。

[us36]

良くも悪くもAIを使いこなしてんなぁと。俺も野沢雅子の声で「オッス、オラ悟空！オラに現金を分けてくれ！げんきんだまだ！」という電話かかってきたら、うっかり振り込んじゃうかも。

[pptppc2]

「ゆっくり霊夢よ」「ゆっくり魔理沙だぜ。今日はオレオレ詐欺で電話先の相手に詐欺を働いてみるぜ」

[KoshianX]

海外はDXが進みまくっててオレオレ詐欺のグループまでAIを使いこなしてるのか。日本のITは本当に遅れまくってるなあ……いやでもこの場合は今から対抗策考えられるメリットもあるか

[yomichi47]

親と電話をする時に合言葉が必要になるな

[fn7]

折り返し電話して本人確認するのは？

[nagapong]

AIが話すなら「歴代プリキュアを言ってみろ」みたいな返しはもちろん、個人的な話も多少は合わせられるんだろうな。

[morita_non]

別にそんな高度な技術なんかなくても、すでに日本の振り込め詐欺の被害額は330億円もあるから心配すんな。

[prna79]

“知り合いなどを装って金銭をだまし取る「オレオレ詐欺」で、AI技術を用いて作った音声が利用されるケースが出てきていることが報告されています。”

[misshiki]

“「オレオレ詐欺」で、AI技術を用いて作った音声が利用されるケースが出てきていることが報告されています。2022年の「オレオレ詐欺」による被害額は、アメリカだけでも1100万ドル(約14億9000万円)”

[Jasmine356]

音声認識での認証とかもうできないんだな

[caligo]

こういうのって総当りだと思っていたけど、親戚関係とか把握してから狙い撃ちでやってるってこと？余計こわい。

[prjpn]

声優につかわれるべき技術。声質の販売と演技は分けたほうがいいんだよ。

[kuzumaji]

本当に有用な技術って大抵エロと犯罪にまず普及するよね…

[theta]

邪神ちゃんがオレオレ詐欺に使われるようになるのか……

[U2400]

登録してない番号から掛かってきたらAIが対応するサービスでないかな。

[urtz]

AIにシナリオ書かせるまで行ったら違う次元になりそう。全部自動化出来るかもしれない。電話だけで完結する詐欺なので全自動化が可能

[kawabata100]

受け答えとかどうなってるんだ？あと、顔出し実名活動(YouTubeや芸能人など)も声抜かれるリスクあるんやな。

[m_yanagisawa]

そもそも日本だけじゃなかったのか！＞オレオレ詐欺

[zgmf-x20a]

京都府警が開発者を逮捕とならなければ良いけど。

[ookitasaburou]

“「オレオレ詐欺」のようななりすまし詐欺はアメリカで行われる詐欺で2番目に多く、2022年の発生件数は報告があるだけで3万6000件以上。このうち、5100件以上が電話で行われ、1100万ドル(約14億9000万円)の被害が出ています

[tetsuya_m]

アメリカにもオレオレ詐欺はある、FB等から音声データ抜いてAIクローン音声を詐欺に使うというDX化が海外の犯罪集団では起きている。2つの学びがある記事だ

[itochan]

AI美空ひばりプロジェクトより高音質？

[ayumun]

“保釈金が必要” アメリカみを感じると思ったらカナダか。

[zzteralin]

俺ならドラえもんの道具でこう金儲けする、が現実になった明るい21世紀。やったね！

[adsty]

30秒ほどの音声があればクローン音声を生み出せてしまう。

[domimimisoso]

欧米は銀行口座が社会保険番号に紐づけられてたからこれまでは振り込め詐欺が起こりにくかったが、paypayやalipayみたいなシステムが普及して急速に被害が広まってるらしい。

[exciteB]

ほんと。電話の応答もAIでいいよな。

[avictors]

取引先で用事の電話を待ってた時、非通知で何度もかけてきて、怪しいと思いながら出たら、ずっと黙ってるので、一度もしもし？と言って切ると、即また掛けてきて、その「もしもし？」と言った自分の声を再生された。

[hearthewindsing]

ビデオ通話が基本になるかもな。10年も経たないうちにスムーズなクローン動画もできるかもだけど。

[macro1597]

詐欺だからダメなわけで、息子や孫の声で物を買わせたら法的にどうなの？

[gryphon]

今さらだがオレオレ詐欺、カナダとか欧米でもかなりあるの？当初「いかにも日本的」、後に韓国や中国にも拡大したら（以前からあったかも？）「アジア的」みたいな論評を目にしたが。／他ブクマ見ると金額は少ないね

[harumomo2006]

詐欺をする側もひとりで全部できるようになるので組織が崩壊してAIを使えないものは失業する

[laislanopira]

Aiを使いこなせず闇バイトの人海戦術に頼るしかない日本人詐欺師

[quwachy]

こういう人ってトルコで5万人死んだとか信じてるのかな

[shunkeen]

声や顔がフェイクかもしれない世界だと、元々登録していた電話番号、メール、LINEにコールバックするような、デジタルなIDを本人確認の手段とした方が、アナログな生体情報で確認するよりも信頼性が高くなる不思議。

[m7g6s]

一般人がAI使ってもろくなことがないのに何故一般公開するのか。学者や技術者のみが使えれば十分だろ