ChatGPTで個人情報漏えい OpenAIが原因と対策を説明

米OpenAIは3月24日（現地時間）、20日にChatGPTを短時間オフラインにした理由を説明した。ユーザーに別のユーザーの氏名、メールアドレス、住所、クレジットカード番号の下4桁、カードの有効期限が表示される問題があったためオフラインにし、バグを修正したという。 個人情報が漏えいしたのは、有料版「ChatGPT Plus」の会員の約1.2％で、影響を受けた可能性のある全員に連絡したという。 この問題と同時に、一部のユーザーに別のユーザーのチャット履歴が表示されてしまう問題も発生していた。 ChatGPTのチャット履歴は、画面の左側にあるサイドバーに表示され、クリックするとチャットの続きを再開できるようになっている。このサイドバーに他人のプロンプトが表示されていた。 OpenAIによると、バグは修正され、「数時間分を除いて、チャット履歴を復元できた」という。 チャット履歴と個人データが他

[ginga0118]

AIは関係ないよな。redisのバグなんでしょ？

[kazumi_wakatsu]

スカイプのBingでも「さっきのメッセージ翻訳して」って頼んだら知らん人に送られたメッセージが翻訳されてきてヤバいと思った

[greenbow]

なんと。 “バグはRedisクライアントのライブラリであるredis-pyにあった。”

[sonots]

AIの話ではなく、ウェブアプリとしてのバグか

[agektmr]

例え脆弱性が直ったとしても機微な情報は送るべきじゃない

[ono_matope]

"チャット履歴と個人データが他のユーザーに表示されてしまった原因は、いずれもChatGPTで採用しているインメモリ型データベースシステム「Redis」（Remote Dictionary Server）のクライアントのライブラリのバグ。"

[FTTH]

キャッシュ不具合はあるあるだし（だから問題ないわけでは無いが）、多分他サービスでも不具合が出たことはあるんだろうけど、ChatGPTで出たことでニュースバリューが跳ね上がってしまったね

[spark7]

ライブラリのバグとはご愁傷様。「バグはRedisクライアントのライブラリであるredis-pyにあった。バグを特定し、Redisメンテナーにパッチを提供した」

[nakaji61]

あああ。業務での利用がまた一歩遠ざかる。

[misshiki]

“20日にChatGPTを短時間オフラインにした理由を説明。ユーザーに別のユーザーの氏名、メールアドレス、住所、クレジットカード番号の下4桁、カードの有効期限が表示される問題があったためオフラインにし、バグ修正”

[ryosuke134]

こういうことも前提として使ってる人がほとんどだと思っているのだけど違うのかな。

[remix-cafe]

AI関係ない。

[takc923]

Redis が "Remote Dictionary Server" の略って知らんかった

[adsty]

AIの仕業かと疑ってしまう。

[yoshi-na]

わからん人はAIが個人情報を抜き取ったり漏らしたりしたと思ってしまうんだろうなぁ…

[queeuq]

よくあるキャッシュミス

[julajp]

今はまだ、試行優先段階。インパクト物凄いのに、利便性可能性が広がっていて、そっちが凌駕。規制、安全性を最優先しすぎて、手をこまねいていると完全に置いて行かれちゃうという局面だよな。

[trace22]

Redis のせいだろうが何だろうが漏洩は漏洩なんでね。

[hokupod]

Redis って、Remote Dictionary Server の略だったのか。。

[momonga_dash]

やはり愚かなのは人間・・・

[tettekete37564]

DB設計のアンチパターンでよく聞く症例だな。メジャーなフレームワークでも意外と典型的なアンチパターン実装しちゃってるのはあるからな。

[ebibibi]

「ChatGPTだから」「AIだから」ではないところに注意が必要ですね。

[Cald]

"「バグはRedisクライアントのライブラリであるredis-pyにあった。バグを特定し、Redisメンテナーにパッチを提供した」。"

[yamadar]

redis-py触ったことあるので気になる。どのバージョンのバグか調べてみる

[dltlt]

プラポリでは ChatGPT への送信も User ごとのデータとしてサービスの改善や新規開発に利用するようだ。いっぽう ToU の側では、Content（利用履歴）を学習に用いるのは API型 以外となっている。https://openai.com/policies/terms-of-use

[gcyn]

あらま。

[KoshianX]

“バグはRedisクライアントのライブラリであるredis-pyにあった” え、python で動いてんのかこれ。

[asuka0801]

redisのクライアントのバグをredisのバグと書くのは如何なものか

[hiroomi]

20日にChatGPTを短時間オフラインにした理由を説明した。ユーザーに別のユーザーの氏名、メールアドレス、住所、クレジットカード番号の下4桁、カードの有効期限が表示される問題があった

[Journey]

課金してるのにログが戻って来ないのはなんでなの？ 新規のチャットもブラウザ閉じると全部消えてしまうの困る

[m7g6s]

なんでそんなもんが漏れるんだ？

[cateiru]

Python使ってるんだと思ったけどAIだかれそりゃそうだよね

[toritori0318]

redisクライアント(redis-py)のバグか