新たなAI音声生成ツール、公開直後から著名人の声でヘイトスピーチや不適切発言させるディープフェイクボイスが横行 | テクノエッジ TechnoEdge
ガジェット全般、サイエンス、宇宙、音楽、モータースポーツetc... 電気・ネットワーク技術者。実績媒体Engadget日本版, Autoblog日本版, Forbes JAPAN他 1月23日、音声AI技術を開発するスタートアップElevenLabsが、1分以上のサンプル音声があれば、そのサンプルの人物の声で自由に喋らせられるAI音声生成プラットフォームをベータ版として無料公開しました。 ところが、簡単に誰かの声を使って何かを喋らせられるとなれば、著名人の声を自由自在に操り、本来なら聴くことができないような発言をさせてみたいと誰もが思うことでしょう。インターネット掲示板サイト4chanには、このツールを使って続々と有名人がヘイトスピーチや、絶対に話さないような内容の話をする音声クリップが投稿されはじめました。 最初に人々の目をひいたのは、ヒトラーの著書「わが闘争」を英国の女優エマ・ワトソ
AIが生成した文章によるフィッシング詐欺が現実になりつつある
Tripwireはこのほど、「AI-generated phishing attacks are becoming more convincing」において、AIによって作成された文章が、フィッシングをはじめとするサイバー犯罪に利用可能だという研究の結果について伝えた。WithSecureが実施した調査によると、言語モデル「GPT-3」を利用することで、一見信頼できそうな内容の悪意のあるコンテンツを驚くほど簡単かつ高速に作成できることが明らかになったという。 Creatively malicious prompt engineering - WithSecure Labs GPT-3は、OpenAIが開発した高性能な自然言語モデルであり、深層学習を使用して人間が作成したかのようなテキストを自動生成することができる。2022年後半に話題となったチャットAIもGPT-3による成果物の一つである
ChatGPTを用いた「ロマンス詐欺」が増加の兆し、専門家が警告 | Forbes JAPAN 公式サイト（フォーブス ジャパン）
ネットの地下フォーラムの犯罪者たちは、AI（人工知能）を活用したチャットボットの「ChatGPT」を悪用してマルウェアを作成したり、実在しない女性との会話をでっち上げるボットを作成して、ロマンス詐欺を行おうとしている。セキュリティの専門家は、このような事例が今後増えると予測している。 サイバー犯罪者は、オープンAIのチャットボットChatGPTを使用して、ごく短期間でハッキングツールを作成しているとセキュリティ研究者が警告した。詐欺師たちはこのツールを用いて若い女性になりすますボットを構築する場合もあるという。 昨年11月末にリリースされたChatGPTが、ランサムウェアの作成に用いられる可能性は、以前から指摘されていたが、イスラエルのセキュリティ企業「チェック・ポイント」の報告によると、アンダーグラウンドの犯罪者向けフォーラムでその事実が確認された。同社によると、以前Android向けマ
仮想空間「メタバース」でセクハラ横行…「とにかく気持ち悪い」 - ライブドアニュース
2022年11月21日 15時27分 by ライブドアニュース編集部 ざっくり言うと ネット上の仮想空間「メタバース」でハラスメントが横行しているという 女性型のアバターを使う利用者は、「執拗に触られる」などの被害を告白 VRゴーグルを使っているため臨場感があり、「とにかく気持ちが悪い」と話す インターネット上の仮想空間「メタバース」で、ハラスメントが横行している。 有志の調査では、利用者の半数が被害に遭ったことがあると答えた。メタバース市場は２０２６年度に１兆円を超えるとの試算もあり、子どもたちが利用する機会も増える。対策は急務だ。（大重真弓、隅谷真） 「自分のを執拗（しつよう）に触られたり、つきまとわれたり。１日に１度は迷惑行為に遭遇する」 そう話すのは、約１０か月前から日本企業が運営するメタバースを利用する４０歳代の男性だ。気軽に多くの人と交流できることに面白さを感じ、女性型のアバタ
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
