研究者がGoogle Driveに「装甲車の歴史」に関する資料をアップ→AIにテロリスト認定されて垢BANされた事例が怖すぎる

新山祐介 (Yusuke Shinyama) @mootastic 個人のGoogle Driveに「装甲車の歴史」に関する研究資料を置いておいたら、自動的にテロリストと判定されbanされた研究者の話。アカウントごと削除されているため、サポートすら受けられないらしい。個人的なメールや写真も削除された。 support.google.com/drive/thread/1… 2021-09-23 07:47:11

[mohno]

“プラットフォーム”化したサービスが民間企業だからと独自判断でBANしてよいのか、という問題。私はネットサービスに“全幅の信頼”を置いていないので、あくまでバックアップとして使っているだけだが。

[Kukri]

最近Appleがローカルデータに手を出し始めたし、もうすでに「絶対にAIの手が届かない」が売り文句になる時代が来てしまっていると思う

[n_y_a_n_t_a]

今OneDriveに撮影した動画を置いてるんだがハッシュ値がたまたま同じになったら垢BANされる可能性あるのか？旅行先のたわいもない動画なのだが、AIがどう判定するかなんて分からんよな

[kamezo]

〈スマホの写真を自動アプロードとかしてると赤ちゃんの入浴の写真とか児童ポルノになってアカウント消される〜メールも全て消される〉あーね。

[skypenguins]

Appleの件は全ユーザーのデバイスをスキャンしようとしてたけど、クラウドサービスは最悪アップロードしなきゃ良い話だし同一に語るのは難しいと思った

[hib3]

自分はITの「貧富の格差が少なくアナーキーなところ」に魅力を感じてたのでSaaSとかの格差を広げる実社会に近いIT社会が嫌いだったけど、段々とアナーキーじゃないと自分を守れないって感じになってきてて良いと思う

[KoshianX]

アルカイダの広報誌を持ってたらbanって、敵性語を禁じた大日本帝国を思い出す話だなあ……。こういう対応の端緒になったのもやっぱいわゆる児童ポルノなんだよねえ。あの法律は本当にダメだったな……

[brusky]

確認なくとりあえずBANして、抗議があったら対応するかも、ぐらいの感覚。

[shoot_c_na]

マイドキュメントとマイピクチャはDドライブに手動で作った。GoogleDriveとOneDriveは、共有フォルダとしてしか見てない。

[minamihiroharu]

youtubeに上げた自分の子供の写真か動画かが児童ポルノ判定されて、googleアカウントごと凍結されたって例も見かけた記憶があるなあ。　クラウドは事実上検閲される世界になってて超管理社会も杞憂じゃ無くなってきた

[diveintounlimit]

パーフェクトな処理は無理だろうから多少の誤差は当然生じるだろう。それだけの話だと思う。

[taron]

クラウドサービスも当てにならない話。

[zzzbbb]

そもそもローカルに保存してないの？っていう素朴な疑問

[kijtra]

逆の例(これのおかげでテロが未然に防げた例)も知りたいなあ。

[rider250]

最初からクラウドなぞ信用してない（ハッキングされる可能性もある）から一切使ってない。NASがあるから別に困らない。こうなってくるとマジ「使わなくて正解だった」と思う。何が引っかかるかわかったもんじゃない。

[Dai44]

垢BANクラウドなどという笑えないシャレしか浮かばなかった

[peppers_white]

もうディストピアの世界は来てるし今はそれと戦うターンに来てしまっている、打破した時何が起こるかはみんな身構えておいた方がいい

[amebacore]

クラウドのみにデータ置くのはリスクあるな。banリスク下げるにはメール、写真、ドキュメントなど用途ごとにアカウント変えればいいのかな。

[wwolf]

各社のサービスに不信感高まり過ぎてセルフホスティングに回帰する流れ来ると思うんだよな。

[hiroomi]

“「装甲車の歴史」に関する研究資料を置いておいたら、自動的にテロリストと判定されbanされた研究者の話。アカウントごと削除されているため、サポートすら受けられないらしい。”

[Tiantian]

Google is Google.

[noho-sibe]

クラッカーに仕込まれるとか考えると怖い、もうGoogleなしでは生きていけない体になってる

[dogusare]

Gアカはデータもメールも一緒にBANされたらなかなか復旧やり取りが大変そうだなぁ。怯えつつも何もしない怠惰…。せめて、警告確認のステップは無いのかしら。

[aox]

せめてスリーアウトにして欲しいです ʕ•̫͡•ʕ•̫͡•ʔ•̫͡•ʔ•̫͡•ʕ•̫͡•ʔ•̫͡•ʕ•̫͡•ʕ•̫͡•ʔ•̫͡•ʕ•̫͡•ʕ•̫͡•ʔ•̫͡•ʔ•̫͡•ʕ

[yazuka08]

こういうのがあるから、クラウドストレージは共有のために使ってバックアップとしては使わん。

[klaps]

やっぱり人類はAIの誤作動で滅ぶんじゃないですかねえ

[totoronoki]

これだと例えば小説漫画やアニメの設定資料みたいな架空のものでもダメそうだな。

[demcoe]

これgoogleがどうこうじゃなくて、将来の対人戦争に備えてAIが人類の弱体化を図ってるんだよな……

[number917]

バカすぎるAI問題は実被害が大きすぎる

[eru01]

じゃけんCryptonatorでE2EEしましょうね〜

[spark7]

検閲しまくりだな。検索性を犠牲にして圧縮ファイルにしておくしかないのかね

[hapilaki]

戦車だけに誤爆されたんだな。

[nabinno]

Google Workspaceのドライブで同じように装甲車の資料をためた場合もWorkspaceアカウントごとBANされるのだろうか。

[ene0kcal]

Dropboxも同種の事例あるのかな？