AI対応「新Bing」が素直すぎて秘密情報バラしまくり | AppBank
マイクロソフトは2月8日、「ChatGPT」に似たチャットAIを搭載した「新しいBing」を発表しました。しかしその翌日に、このチャットAIに隠された情報を、スタンフォード大学の学生ケビン・リュー氏がAIとの対話によって解き明かしています。 *Category:テクノロジー Technology *Source：Ars technica ,@kliu128 BingのチャットAIが「秘密の設定」を漏らしてしまう 一般的な大規模言語モデル(GPT-3や ChatGPTなど)は、学習中に「学習」した大量のテキスト素材から、一連の単語の次に来るものを予測することで動作するものです。開発者は、チャットAIの初期条件を設定するために、ユーザーからの入力を受けたときの動作を指示する初期プロンプト、つまりはキャラ設定のようなものを決めています。 今回リュー氏が仕掛けたのは「プロンプト・インジェクション」
アマゾン社員が業務でChatGPTを利用する事案が発生。｢機密情報を共有しないように｣と顧問弁護士が注意喚起
2022年12月、アマゾン（Amazon）の社内Slackチャンネルには｢ChatGPT｣に関する社員からの質問であふれていた。ChatGPTとは同年11月下旬のリリース以来テック業界を賑わせているジェネレーティブAIツールだ。 Slackのチャンネルに寄せられた質問は、例えばこんなものだ。アマゾンの社用デバイスでChatGPTを使う際の手引はありますか？ そもそも自分たちはChatGPTを仕事で使ってもいいのですか？ ChatGPTのようなジェネレーティブAIツールをどこまで使っていいか、AWS（アマゾンのクラウド部門）としての見解を示してほしい、などだ。 これらの質問に対し、Insiderが確認したスクリーンショットではアマゾンの上級顧問弁護士が回答している。 同弁護士は従業員に対し、ChatGPTに｢アマゾンの機密情報（自分が作業中のアマゾンコードを含む）｣を書き込まないよう注意喚起
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
悪用されたDMCAとは？ 凍結されていた「艦これ」公式Twitterが復活
