知らない番号に間違えて出たら、義妹そっくりの声で詐欺電話がかかってきた→留守電からAIで似せた声を作ってるらしい

Sao🇨🇦 @seikatau さっき知らん番号に間違って出たら義妹から大変なトラブルに巻き込まれているからお金至急送って欲しいって言われた。誰って言ったら義妹の名前言うし私の名前も言う….声も義妹で電話番号だけが違う。とりあえずかけ直すわって電話切って本人にかけたらやはり詐欺電話だと判明。 2023-10-24 09:15:50 Sao🇨🇦 @seikatau 留守番電話の設定を自分の声で登録してる人は気をつけて。どうやらそこから個人情報とか取られ、声までもAIで似せてかける詐欺電話が最近北米で流行ってるらしい。その場で変なこと言わずとりあえず事実確認した方がいいよ！ 2023-10-24 09:15:51

[kazatsuyu]

留守電の声と義妹の名前をどうやって結びつけるんだ？

[sds-page]

技術的には可能かもしれんけどそこまで手間かけるのってピンポイントで狙われてるんじゃないの

[mahinatan]

やっぱ犯罪方面の技術進化は早いよね…

[mujisoshina]

留守電の声以外の経路からも色々情報を抜かれていないと説明がつかない気がする。

[behuckleberry02]

“そこから個人情報とか取られ” ここだけ意味不明で眉唾だが。ディープフェイクを使った詐欺は増えるでしょうね。

[pribetch]

実在しない姉からの電話だったら引っかかりたい

[ivory105]

YouTuberとか偽物作り放題じゃん！真偽はともかく留守電ゆっくりで作って変えようかな…

[k2wanko]

AIでもなく、声が似てただけの人だったのでは

[wdnsdy]

AIを使った音声変換アプリを使って違和感のない女声に変換して電話で喋っていたのを「AIで音声をコピーされた」という話として盛ってるのでは

[bocuno]

ほんとに…？名前と電話番号と親族だって情報をどう紐づけたの？本当だとしたら凄い近くの人の犯行なのでは？

[ysync]

「はい、マユでーす！でもごめんなさい、いまマユはお話できません。」

[mas-higa]

スマホから持ち主の声とアドレス帳を盗めるって、他のブコメにもあるけど、スマホ乗っ取られてるんじゃ? そのスマホから電話するとこまで後一歩なんじゃね?

[richest21]

「エロがテクノロジーを発展させる」て良く言うけど犯罪もそうなのかも

[houyhnhm]

流石にそれは無駄が大きいというか。電話越しの声なんて大して分かってないよ人間。

[mionhi]

嘘松やんな

[ootsukawaiwai]

義妹の個人情報 (身内含む) 入手 → 留守電ボイス入手 → ツイ主を狙う、てことかな。んでツイ主も留守電の自声をAIに (義妹も？) と。確かに手間多いけど成功率高そう。義姉っつー電話番号知らなそうな続柄狙ったのかな

[mobile_neko]

そのうち応答もAIでできるようになるからオレオレ詐欺業界も失業対策で組合とか作っておかないとな

[kensetu]

この話の真偽は分からんけど攻殻機動隊だったら余裕で出てくる技術、いや簡単すぎて出てこないかも

[gm91]

実家にオレオレオレダケドってかけたら小遣いくれ！って言われた。

[mellhine]

義妹が嘘をついた可能性があるな（名推理）

[Iridium]

本人がお金に困って、振込め詐欺を装って電話かけてきたなら話はわかる。

[cl-gaku]

電話越しの親戚の声なんか俺絶対聞き分けれんわ

[otation]

お姉ちゃんAIの亜種

[sinoh]

まぁ嘘松やね

[mojimojikun]

留守電の応答に使ってる声を使って学習してるのと、名前や家族構成も把握した上で電話かけてくるのか。テキトーな対応だと駄目かもわからんね。最近はそこまで手間かけてるんか。怖いなぁ。

[avictors]

仮にその話自体は創作でも、ボイチェン使う悪人がAI使わない理由は費用だけでしょ。非通知で無言電話が何度も来て、2度目にとると無言、次は暫く待ち「もしもし」と返すと切れ、4度目ではその録音流されたこともある

[hgaragght]

わざわざ吹き込まない気がするけど、事例としては興味深い。

[www6]

留守電？今、令和やけど

[hokkairo221]

怖いな

[pptppc2]

留守番電話を自分の声で登録してる人なんているんか…。まぁ声優さんみたいな声なら俺もやりたかったが（ドブボ）

[ghostbass]

留守電程度の音数でそれなりの会話ができる程度の学習ができるとは思えんが、そこから生成してもそれなりに騙されそうな気もするしうーん/方言使う人なら方言の語彙トーンが障壁になるかも

[tadasukeneko]

詐欺電話を判別するAIの開発が待たれる

[togetter]

個人情報とか大金の扱いには気を付けて、いろんなところに確認をとってみるしか対策はないのかも…。

[aburi_engawa]

よくわかんないけど音声出来ても、てにをはをうまいこと作れるんだろうか。スパムメールの日本語が完ぺきになったら困るなって思ってる。貴様とか言われてる間は安心なんだけど。日本人が文章作るんだったらヤダな

[neco22b]

ターミネーター？

[raebchen]

中国で、ビデオ通話で8500万円だまし取られた事件あったろ😨 https://diamond.jp/articles/-/324341 誰もが被害に遭うわけじゃないが、ピンポイントに狙われたらひとたまりもないということでは…😨