Apple、児童ポルノ検知機能追加を延期 プライバシー抗議受け

米Appleは9月3日（現地時間）、8月5日に発表した児童の性的虐待対策の実施を延期すると発表した。ユーザー、プライバシー保護団体、研究者などからの批判的なフィードバックを受けての決定だ。 これらの対策は当初、まずは米国で、iOS 15、iPadOS 15、watchOS 8、macOS Montereyのアップデートで年内に追加する計画だった。 同社は8月5日に公開した関連文書に「2021年9月3日現在の更新：以前、コミュニケーションツールを悪用して子供を脅かす性的略奪者から児童を保護し、児童の性的虐待資料の拡散を制限することを目的とした機能の計画を発表した。お客様、擁護団体、研究者などからのフィードバックに基づいて、これらの非常に重要な児童保護機能をリリースする前に、今後数カ月にわたって情報を収集して改善するために、さらに時間をかけることにした」という文言を追加した。 8月に発表された

[ms05b]

自分の子供と風呂に入ってる写真とかで通報されたらたまらねーよな、どうせコンピュータが検索するんだろうし、適当な写真でアカウントロックとかされたら怖くてiPhoneなんか使えない

[circled]

勘違いしてる人が多いが、照合されるのはCSAMに登録された児童ポルノ認定済み画像のハッシュ値なので、自分の家の子供の画像が勝手に児童ポルノ扱いされたりはしない。あとgmailには既にphotoDNAが導入済みだったりする。

[Kukri]

何を対象にしているかは問題じゃない。これの本質は、入れ物が勝手に中身を検閲してどうするか決めるってところだ

[naratas]

iCloudでは専門機関が提供する『既知の児童ポルノのハッシュ値』とのマッチングだけを確認するので自分の子供の入浴写真を誤検知するようなことは起こらない。iMessageは機械学習に基づくが警告以外の動作はしない。

[ys0000]

ハッシュ照合による既知の画像と一致するものだけが通報対象なのは知ってるが、フットインザドア・テクニックにならないかというのを心配しているのだと思っている。つまりバージョン2でAI診断が追加される未来を。

[chiba1008]

アップルはプライバシーを尊重とか言ってるけどグーグルとか広告業界とかに嫌がらせしたいだけだからなあ

[lli]

子供を守るという姿勢はいいけどやり方はもう少し穏やかな方がいい

[hogeaegxa]

児ポをお題目にしても、反対派に性犯罪のレッテル貼って、なんでも押し通せるわけではないっていう前例が出来たのは良かったね

[ot2sy39]

当然こうなるとは思っていたが、まあ良かった。でも反対の意思表示をサボってると、ある日するっと導入されるかも。

[develtaro]

ニルヴァーナのアルバムジャケットもアウトになりそうだもんな

[taguch1]

androidみたいにサーバーの検閲よりは誤認する確率は低いだろうけど、やっぱり仕組みを誤解してる人がほとんどかな。気になるのは別の用途でこの仕組みを流用できるのでAppleが国家の圧力を退けられるかくらい。

[yarumato]

“当初、iOS、iPadOS、macOS のアップデートで年内に追加する計画だった。”　iPhoneだけならまだしも、クリエイター向けiPad,macOSで検閲が追加とはね。わざわざ検閲されたいクリエイターなんてどれだけいるんだ？

[gamecome]

そのうちFANZAみたいに文字列一致で、ファイル名やら文面が●●●みたいになったりしてな

[nemuiumen]

ハッシュ値だからへっちゃらだという人はなんで楽観的なんだろう。一度仕組みができたらいくらでもどうにでもなるぞ。子供の写真を預けていて他に逃す手間がキツい身分としては気が気じゃない。

[forestk]

賛否両論あると思うが、事前に告知してくれてこういう議論ができるだけでも好感が持てる。ほかの会社だと「導入しました」というアナウンスが後から出てくるところとかありそうで。

[gameloser]

“Appleは、8月に発表した児童の性的虐待対策機能のiCloudとiMessageへの追加を延期すると発表した”

[njsjn]

医者に見せるために子供の皮膚の状態の写真撮ることあるので怖い

[brain-owner]

コメの『勘違いしてる人が多いが』と書いてるヤツ。グレーゾーンが色々ありそうな案件で「お前は勘違いしてる」と否定の断定してる。「オレは絶対勘違いなどしない！」とセットで自尊心形成。ウゼーwww

[Tatada]

PhotoDNAってのがあるんだ。理念はわかるし、超頭いい人が作ったんだろうから、ハッシュ衝突やらはごく低い確率なんだろうけど、それでもいい気分はしないな。後ろ暗い所がなくたって常に監視なんてな。

[TownBeginner]

この辺、情報セキュリティとか倫理とかで一番注視しないといけない話の一つ。

[AmNotHumanAtAll]

自分の子どもと風呂に入ってる時に写真撮るの？なんで？

[kesyomota]

顧客からすれば実質ブラックボックスだし雑に入れてはいけない取り組みだけど、雑な反発も良くない

[spark7]

検閲を要請してる政治の方に不満が向かないのが不思議。アメリカも中国と変わらん姿勢よね。

[shiori_lov]

ハッシュ値だけなら個人の所有するデータを勝手に覗いてもセーフとか怖い

[otihateten3510]

そりゃそうだ

[sadn]

冤罪作成機になるのは目に見えてる、延期ではなくやめるのがいいと思う

[takeishi]

赤ちゃん裸の写真なんて、有名なレコードジャケットじゃないけど歴史的には特に問題視されてこなかったもんな

[ultimatebreak]

クラウドストレージは基本検閲ありと思ってる。プライベートなものはクラウドにあげてはいけない。さすがに端末内まで検閲されるとかならクソすぎてiPhone捨てるが、今回はiCloudに上げた写真の話だよね？

[dekijp]

air drop 経由で他人のiPhoneを停止させる事ができるのではないか？

[aa_R_waiwai]

id:naratas 今までのアップルの行動を見ていれば、機能が実装されたあとは、さらに機能の「改善」が盛り込まれると容易に想像できる。「警察への自動通報機能」とか「機械学習による検知機能」とか。

[kamiokando]

Appleは個人を特定できなくてさらに最週的には人の目で確認すると言ってたと思ったけど、その人の目が正しく判断できるかどうか。

[nyokkori]

外人が考えた仕組みだから漫画とかも規制になるんじゃねえの？俺ら日本のオタクは全員規制されるぞw

[maiani]

AppleまでGoogleやFacebookのように検閲してしまうのかと思ったけど、安心した。Appleとしてもプライバシーで差別化したいという姿勢は続いてるんだな。元々端末内で判別する方法で配慮はしていたようだし。