タグ

機械学習とspamとdeeplearningに関するstealthinuのブックマーク (7)

  • スパムはいらない ―― TensorFlow を使って Gmail から新たに 1 億以上のスパム メッセージを除去 | Google Cloud 公式ブログ

    ※この投稿は米国時間 2019 年 2 月 7 日に Google Cloud blog に投稿されたものの抄訳です。 毎月 Gmail を使っている人は 15 億人、G Suite の一部として Gmail を有料で使っている企業は 500 万社に上ります。一般ユーザーと企業ユーザーのどちらにとっても、Gmail の最大の魅力は、あらかじめ組み込まれているセキュリティ保護機能でしょう。 セキュリティが優れていることは、常に脅威よりも優位に立っていることを意味します。Gmail で従来から使用されている機械学習(ML)モデルは非常に強力で、ほかの保護機能とともに、スパムやフィッシング、マルウェアの 99.9 % 以上を Gmail の受信トレイから遠ざけてきました。 私たちは、セキュリティ保護機能を絶えず強化するとともに、利用者保護の観点から ML の機能向上に努めてきました。Google

    スパムはいらない ―― TensorFlow を使って Gmail から新たに 1 億以上のスパム メッセージを除去 | Google Cloud 公式ブログ
    stealthinu
    stealthinu 2019/03/19
    Gmailのスパム検出はTensorFlow使って機械学習でやってると。『正常な範囲のトラフィックで少量のスパムをこっそり送ろうとする』これとかも対応してるのか。
  • ネットのグニャグニャ文字認証、AIが楽々突破:朝日新聞デジタル

    ネット上の「文字認証」を簡単突破できる人工知能(AI)を、米ベンチャー企業が開発した。視覚にかかわる脳の機能を再現し、文字の特徴を効率的に学習できるようになったという。27日付の米科学誌サイエンスに発表する。 ネットで会員登録する際などに使われる、グニャグニャとゆがんだ文字が乱雑な背景の上に書かれた文字認証「CAPTCHA(キャプチャ)」は、人間には読み取れても、コンピューターが識別するのは難しいという特徴を応用した仕組みだ。 米ヴァイカリアス社は、人間の脳にある「視覚野」の構造をコンピューターで再現し、画像の「輪郭線」を見つけ出すことで、見たものの中に何があるかを把握できるAIを作った。 このAIを使って文字認証を解けるか試したところ、正解率は66%だった。通常、数個つらなったアルファベットや数字を読み取る確率が1%を超えれば、認証は「突破された」とみなされるため、今回の結果は極めて高率

    ネットのグニャグニャ文字認証、AIが楽々突破:朝日新聞デジタル
    stealthinu
    stealthinu 2017/10/27
    まだcaptchaって解けない問題だったっけ?学習画像が少なくても良いってとこがメイン?しかしcaptchaやめてじゃあ次はなに使うか難しいところ。
  • Mastodonスパムをディープラーニング技術により判定、ウェブクライアント「Naumanni」に実装 

    Mastodonスパムをディープラーニング技術により判定、ウェブクライアント「Naumanni」に実装 
    stealthinu
    stealthinu 2017/06/12
    ディープラーニングでスパム判定する機能を追加できるマストドンクライアント。ネットワークの詳細は書いてないがLSTM利用とのこと。
  • 「Gmail」に機械学習による不正メール検出機能--99.9%超の精度

    Googleは「Gmail」に、専用機械学習モデルに基づくフィッシング検出など、複数のセキュリティ機能を追加した。 Gmailで受信されるメッセージの50~70%がスパムメールだが、Google機械学習を採用することによって、スパムやフィッシングのメッセージを99.9%を超える精度で検出できるという。 同社の最新機械学習モデルは、一部のメッセージ(平均でメッセージ全体の0.05%未満)をさらなるフィッシング分析のために遅延させることによって、この処理を改善する。 Googleによると、同社の新しい検出モデルによってURLクリック時の新しい警告も生成され、疑わしいリンクをクリックした場合に警告メッセージがユーザーに表示されるという。新しいパターンが検出されるにつれてモデルが適応していき、時間の経過とともに改良されていくという。 またGoogleは、保護すべきデータを誤って社外の人物に送信し

    「Gmail」に機械学習による不正メール検出機能--99.9%超の精度
    stealthinu
    stealthinu 2017/06/01
    ああ… 昔自分はBPでやろうとして重くて止めたのだが、Gmailの規模でこれが出来るだけのパワーがあるのだな。もう対抗しようもない。
  • 「Gmail」のスパムフィルタ、人工ニューラルネットワークで進化

    Googleは、「Gmail」の受信トレイに迷惑メールが振り分けられる可能性は平均0.1%未満であり、一方で必要なメールが迷惑メールフォルダに振り分けられる可能性は0.05%にも満たないと述べている。 Googleによると、人工ニューラルネットワーク(神経回路網)を利用して膨大な数の受信メールを取捨選択し、不要なメッセージやフィッシング攻撃を除去することで、この数字を実現できたという。 Googleがスパムの除去にあらゆる手を尽くしていなければ、Gmailは利用に耐えるものではないだろう。セキュリティ企業のKaspersky Labによると、同社が2015年第1四半期にフィルタリングしたすべてのメールのうち、59.2%はスパムだったという。スパムの送信者たちは、「.work」や「.science」など新しく利用可能になったドメインをいち早く利用してスパムフィルタをかいくぐり、広告やマルウェ

    「Gmail」のスパムフィルタ、人工ニューラルネットワークで進化
    stealthinu
    stealthinu 2015/07/24
    あー、迷惑メールもだけどフィッシング対策も強化するため、ヘッダ情報見て送信元と送信者の情報が違うと厳しい判定になるよう学習しちゃったのでは。だからML系は誤検出しやすいとか。
  • “Linuxの父”トーバルズ氏、Gmailのスパムフィルター新機能に怒る 「3分の1以上は必要なメールだった」

    Linuxカーネルの開発者として知られる“Linuxの父”ことリーナス・トーバルズ氏が、米GoogleのGmailに苦言を呈しているようだ。米Wall Street Journal(WSJ)などがそんな話を伝えている。 WSJによると、Gmailでは7月半ばごろから、トーバルズ氏宛ての正当なメールをスパムメールとして分類するようになっていた。それに気付いた彼がおかしいと思って調べてみたところ、迷惑メールボックスに振り分けられていた約3000通のメールのうち30%超(1190通)は、Linuxカーネル開発者たちのメーリングリストを含む“必要なメール”だったという。 トーバルズ氏は「Gmailがどんなメールを迷惑メールとして判定して破棄しているのか知らないが、率直に言ってひどすぎる。とても受け入れられたものじゃない。Googleがここ数日でGmailに加えた変更は完全におかしい」と自身のGoo

    “Linuxの父”トーバルズ氏、Gmailのスパムフィルター新機能に怒る 「3分の1以上は必要なメールだった」
    stealthinu
    stealthinu 2015/07/23
    ニューラルネットでスパムフィルタするようになったが逆に誤検出増えたという話。学習サンプルに偏りがあったのかねえ。
  • Gmailのスパムフィルターがニューラルネットワークで強化、大量送信者向け新ツールも公開

    By Will Lion Gmailのスパムフィルターは、受信トレイにスパムメールが入り込む割合を平均0.1%以下、読みたいメールが迷惑メールフォルダに分類されてしまう確率を0.05%以下まで落とすことに成功しています。そんな高精度な分類機能を既に有しているGmailのスパムフィルターが、Google検索やGoogle Nowと同じニューラルネットワークを応用することでさらに精度の高い分類を行えるようになり、さらに月次計算書や領収書などのスパムメールに分類されやすいメールを迷惑メールに分類されないようにするための送信者向けツール「Postmaster Tools」も新たに公開されました。 Postmaster Tools – Google https://gmail.com/postmaster/ Official Gmail Blog: The mail you want, not th

    Gmailのスパムフィルターがニューラルネットワークで強化、大量送信者向け新ツールも公開
    stealthinu
    stealthinu 2015/07/10
    deep learningでなのだろうな。これ自分も昔、BPでやろうと思ってたけど負荷高杉でやめたのだよな。
  • 1