AIでネット有害投稿監視 警察庁、削除要請拡大へ - 日本経済新聞各地で強盗や特殊詐欺の被害が相次ぐ中、警察庁は28日、SNS（交流サイト）上にある犯罪との関連が疑われる有害投稿の監視に初めて人工知能（AI）を活用することを決めた。29日に導入し、監視・削除要請する対象を拡大。「闇バイト」「高収入」など高額報酬を示唆する表現と、「受け子」「運び屋」など実行役を募る文言の両方が書かれた投稿にも目を光らせる。AIは、警察庁が監視業務を委託する民間団体「サイバーパ
殺人依頼投稿も削除要請 警察庁、SNS事業者に 来年3月めど | 毎日新聞
ネット交流サービス（SNS）などに投稿された殺人やストーカー行為の依頼を募る投稿について、警察庁は、民間委託している事業を通じてSNS運営事業者に削除要請する方針を決めた。安倍晋三元首相が2022年7月に銃撃されて死亡した事件を受け、銃器や爆発物の製造情報の削除要請は決めていたが、生命・身体に危害を加える危険性や緊急性が高い投稿を広く対象に含めることにした。23年3月をめどに実施する。 警察庁によると、「有害情報」として新たに削除要請の対象となるのは、拳銃の譲渡等▽爆発物・銃砲等の製造▽殺人等▽臓器売買▽人身売買▽硫化水素ガスの製造▽ストーカー行為等――の7類型。現時点では自殺勧誘のみが対象となっており、大幅に増えることになる。
銃や爆発物製造“有害情報” サイト管理者に削除要請へ 警察庁 | NHK
安倍元総理大臣が銃撃されて死亡した事件を受け、警察庁は、銃や爆発物などの製造に関するインターネット上の書き込みやサイトを「有害情報」として扱い、サイトの管理者に削除を要請するなど、対策を強化する方針です。 安倍元総理大臣が銃撃されて死亡した事件では、襲撃に使われた手製の銃や火薬が、インターネット上の動画や情報を参考につくられたとみられることが分かっています。 先月、警察庁が公表した警備の検証結果についての報告書では「ネットを通じて、誰もが簡単に、銃などの製造情報を入手でき、新たな脅威が生じている」として、対策の必要性が指摘されました。 これを受け、警察庁は、銃や爆発物などの製造に関するネット上の書き込みやサイトを、人の命に危険を与えかねない「有害情報」として扱い、サイトの管理者などに削除を要請することになりました。 これまでは、警察庁が業務を委託している「インターネット・ホットラインセンタ
「消去覚悟」で事件後も続く、銃の作り方動画投稿 SNS規制の壁
《消去覚悟》──。事件後、YouTubeには、こんな題名で銃の構造を解説する動画の投稿があった。 YouTubeやTwitterは、銃や弾薬などの製造方法を紹介する投稿を禁じ、違反した場合は削除やアカウントの停止といった措置を取っている。しかし明らかな違反であっても、膨大な投稿の中から見つけ出し、削除するまでにはタイムラグが生じてしまう。 SNSに氾濫する違法・有害情報は武器の製造方法に限らない。誹謗(ひぼう)中傷やフェイクニュースといった情報にも重大な問題性がある。 法務省の人権擁護機関などが削除を要請することはあるが、強制力はない。法務局が2019年1月～21年10月に削除要請した約1200件のうち、対応は約7割にとどまった。 海外ではより踏み込んだ法整備が進む。欧州連合（EU）各国と欧州議会は4月、違法コンテンツを抑止するよう巨大IT企業に義務付けるデジタルサービス法案に合意。英国も
性的虐待、テロ宣伝…ネット有害情報、企業に罰金 英国：朝日新聞デジタル
英国政府は、ネット上の「有害情報」に対応しなかった企業に罰金を科す新たな方針を発表した。子どもの性的虐待の温床になったり、テロ組織の宣伝に使われたりすることを防ぐ狙いだ。ただ、企業側が過度な「取り締まり」に動くことで、表現の自由が制約されかねないとの不安の声も上がっている。 ８日発表された新方針によると、政府は有害コンテンツのブロックなど、企業に利用者保護にさらに責任を持たせる新規範をつくる。独立した監督機関も設け、規範に違反した企業には罰金などを科す。企業にネット上の安全を向上させる投資も促している。 ８日に記者会見したジャビド内相は、ニュージーランドで起きた銃乱射事件で犯人が犯行の様子をライブ配信したことなどを問題視。フェイスブックやインスタグラム、ユーチューブなどの名前を挙げて、「ＳＮＳは多くの人に大きな喜びと満足を与えているが、世界中で個人や組織が忌まわしい犯罪を企てたり助長したり
テレコムサービス協会
違法情報等対応連絡会 テーマ・目的 「インターネット上の違法な情報への対応に関する検討」 設置要綱 ガイドライン・手引き関連 2014.12 インターネット上の違法な情報への対応に関するガイドライン 2016.04 違法・有害情報への対応に関する契約約款モデル条項 2023.10 違法・有害情報への対応に関する契約約款モデル条項の解説 2020.08 違法・有害情報への対応に関する契約約款モデル条項（英語版） 2020.08 違法・有害情報への対応に関する契約約款モデル条項の解説（英語版） セミナー（講演会）・展示会・報道発表・意見募集 2023.10.02 違法・有害情報への対応等に関する通信事業者向け説明会 日 時：２０２３年１１月１日（水）午後２時～ 2023.10.02 【契約約款モデル条項・解説の改訂】 「違法・有害情報への対応等に関する契約約款モデル条項の解説」の改訂について
機械学習による「不適切コンテンツ検出」の実装と成果
こんにちは、株式会社ミクシィで SNS「mixi」事業を担当している岩瀬です。 本記事では、「mixi」における 「健全化活動」と、近年実施した「機械学習による不適切コンテンツ（規約違反投稿）検出」の取り組みについてご紹介したいと思います。 はじめに「mixi」 は、サービス開始からまもなく 15 周年を迎えるソーシャルネットワーキングサービスです。 長く運用したサービスでは古くなった仕組みの更新が欠かせませんが、「mixi」でもそうした取り組みの一つとして、 2018 年末にかけ「健全化活動」にかかわる仕組みの更新を行いました。 今回のケースでは、「健全化活動」において懸案とされてきた課題に対して、機械学習による解決を試みました。「機械でできることは機械に任せ、より複雑さの求められる領域に人間が注力できるようにしよう」とする取り組みです。 「mixi」の「健全化活動」と課題「mixi」の
ヘイトスピーチのネット監視 法制度上の限界も | 週刊金曜日オンライン
インターネット上で野放し状態にあるヘイトスピーチ（差別煽動表現）を抑止するため、兵庫県と鳥取県がネットの書き込みを監視し悪質なものは削除要請するモニタリング（監視）事業を今年度から開始する。 部落差別を中心としたモニタリングは２０００年ごろから西日本の一部自治体が実施しているが、16年にヘイトスピーチ解消法、部落差別解消法の２法が施行されたのを受けて自治体での取り組みが広がりを見せている。 兵庫県人権推進課によると、ネットモニタリング事業は掲示板などの書き込みについて「ヘイトスピーチ」「部落差別」などを対象に一定のキーワードを設定して検索。悪質な書き込みについては該当する各市町に情報提供するとともに掲示板管理者やプロバイダ（接続事業者）に削除要請し、神戸地方法務局にも削除要請を依頼する。検索業務は兵庫県人権啓発協会に委託し、随時実施する。 また各市町でのモニタリングを促進するため、検索の方
ウェブ業界で最悪の仕事、「不快動画」削除
サラ・カッツさん（27）は、就業2日目にしてこの仕事の不快さを実感していた。フェイスブックでコンテンツのチェックをしていたカッツさんは、ユダヤ人に対する差別的な発言、残虐な写真、画面の外にいる大人からお互いに性的な接触をするよう言われているらしい少女と少年の動画を見たと話す。
官房長官 座間事件受け不適切サイト対策強化を指示 | NHKニュース
神奈川県座間市のアパートで９人が遺体で見つかった事件を受けて、関係閣僚会議が開かれ、菅官房長官はインターネットの事業者などと連携し、不適切なサイトへの対策を強化することなどを指示しました。 この中で、菅官房長官は今回の事件について「ツイッターなど人の目が届きにくいＳＮＳを利用し、自殺願望を投稿するなどした被害者の心の叫びに付け込んで言葉巧みに誘い出して殺害する極めて卑劣な手口と見られ、犯行の経緯を徹底的に明らかにし、再発防止に努めなければならない」と述べました。 そのうえで、菅官房長官はインターネットの事業者や関係機関と連携し「自殺サイト」などの実態を把握し、サイトの削除や書き込み制限など対策の強化を図ることや、ネットを通じて自殺願望を発信する若者が適切な相談相手にアクセスできるよう取り組むことなどを指示しました。
ヘイトスピーチ排除と表現の自由、欧州の対ソーシャルメディア規制に温度差【訂正あり】
ＥＵでは昨年から、「２０１０年オーディオ・ビジュアル・メディア・サービス指令（ＡＶＭＳＤ）」の改正案の検討が続いている。 この中に盛り込まれているのが、ソーシャルメディアに対する暴力やヘイト扇動コンテンツ排除の義務づけだ。 フェイスブックやユーチューブなどのソーシャルメディアが規制対象となる。 ＥＵ内では、表現の自由の観点から、よりソーシャルメディア側の自主的取り組みを重視する声も強く、今回の改正提案も自主規制を法規制を組み合わせた「共同規制」を掲げている。 ただ、規制のあり方をめぐっては、ＥＵ内にも温度差がある。 ドイツ政府は今年に入って、ソーシャルメディア上のヘイトコンテンツをめぐって、ソーシャルメディアがヘイトスピーチやフェイクニュースなどの違法コンテンツをすみやかに削除しなかった場合、最大５０００万ユーロの罰金を科す法案を作成している。 まだ、ＥＵ離脱を表明した英国では、ユーチュー
小池都政になって「表現の自由」はどうなる？不健全図書指定の運用は…
こんにちは、おときた駿＠ブロガー都議会議員（北区選出）です。 10月から続いてきた ・決算特別委員会 ・オリンピックパラリンピック推進対策特別委員会 ・総務委員会（事務事業質疑） の質問ラッシュが、ようやく昨日でヤマを超えました…。途中で次女の出産も加わり、6月の「舛添問題」につづいて慌ただしくなった11月でした。 質問の内容は折に触れて順次ご報告していこうと思っているのですが、今日は青少年治安対策本部への事務事業質疑から「表現の自由」「不健全図書」に関わる部分をば。 知事選の時から 「小池百合子氏は、表現規制派なのでは？」 という説が流れており、小池都政が誕生すると過激な（と行政が判断した）作品が恣意的に取り締まられ、表現の自由が侵されるのではないかという懸念が噂されていました。 参考：小池百合子候補の「コミケ応援宣言」、その真意は？表現の自由について直接聞いてきた http://oto
ＦＣ２にわいせつ動画配信容疑 社長逮捕 NHKニュース
インターネットの動画投稿サイト「ＦＣ２動画」の会員にわいせつな動画を配信したとして、警察は大阪のインターネット関連会社の社長を公然わいせつの疑いで逮捕しました。社長は容疑を否認しているということです。警察は、この会社が「ＦＣ２動画」の実質的な運営会社とみて捜査を進める方針です。 京都府警察本部などは、インターネットの動画投稿サイト「ＦＣ２動画」にわいせつな動画を投稿したとして、大阪市の男と兵庫県内の女子短大生を公然わいせつの疑いで逮捕するとともに、足立社長の会社が「ＦＣ２動画」の配信に関わっているとみて、去年９月に会社を捜索するなど捜査を進めていました。 その結果、足立社長が違法な動画と知りながら会員に配信していた疑いが強まったとして、２３日、公然わいせつの疑いで逮捕するとともに会社などを捜索しています。 足立社長は「間違いです」と供述し、容疑を否認しているということです。 「ＦＣ２動画」
時事ドットコム：３Ｄ銃図面は「有害情報」＝ストーカー依頼も−ネット掲載、削除対象に・警察庁
３Ｄ銃図面は「有害情報」＝ストーカー依頼も−ネット掲載、削除対象に・警察庁 ３Ｄ（３次元）プリンターで殺傷能力のある銃が製造された事件を受け、警察庁は７日、業務委託団体が３Ｄプリンター用の銃の設計図面をインターネットの「有害情報」に加えたと発表した。掲載を確認すれば、サイト管理者に削除を求める。また、ストーカー行為を依頼したり盗撮を誘引したりする書き込みも有害情報に追加した。 この団体は「インターネット・ホットラインセンター（ＩＨＣ）」。児童ポルノや規制薬物広告などの違法な情報と、違法行為を誘引する有害情報を一般から受け付け、警察に連絡したりサイト管理者らに削除を要請したりしている。（2014/08/07-10:14）2014/08/07-10:14 前の記事へ 次の記事へ
通報求む、違法ネット情報＝巧妙化か、初の大幅減―２ちゃんねるは削除０％・警察庁 – ガジェット通信
警察庁の委託団体「インターネット・ホットラインセンター（ＩＨＣ）」に２０１３年、違法・有害な情報だとして寄せられた通報は１３万７２０件で、前年より３３％減ったことが２４日、同庁のまとめで分かった。０６年に運用を始めてから増加傾向が続いていたが、初めて大幅に減少した。 規制薬物の売買やわいせつ画像などの通報が大幅に減った。通報を端緒にした摘発も、わいせつや児童ポルノ事件を中心に激減。１８５１件減の１４５２件となった。 警察庁の担当者は「違法な書き込みが減っているとは考えにくく、見つかりにくいよう巧妙に掲載している恐れもある。不審に思ったら遠慮せずに通報してほしい」と話している。 一方、国内最大級のネット掲示板「２ちゃんねる」が、ＩＨＣから違法情報の削除を要請されながら１３年下半期（７〜１２月）は一切応じなかったことも判明した。 ２ちゃんねるをめぐっては、警視庁が１１年１１月、覚せい剤売買の書
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
有害情報の削除拡大、開始前倒し 警察庁、「闇バイト」の監視強化：東京新聞 TOKYO Web
犯罪に誘う情報、監視対象に追加 警察庁、ネット対策強化へ：朝日新聞デジタル
https://www3.nhk.or.jp/lnews/wakayama/20190228/2040002253.html
韓国政府、アダルトサイトを１１日から遮断…「独裁時代か」の声も
Expired