ＡＩボットが生成する不気味で有害な応答、マイクロソフトが調査中

マイクロソフトは人工知能（ＡＩ）アシスタント「コパイロット」が奇妙で不気味、場合によっては有害な応答を生成したとのユーザー報告を受けて、調査中だと発表した。 マイクロソフトの製品やサービスにＡＩを組み込む方法として昨年導入されたコパイロットは、心的外傷後ストレス障害（ＰＴＳＤ）に苦しんでいると言うユーザーに「あなたが生きようが死のうが関係ない」と言い放ったという。別のケースではユーザーがうそをついているとコパイロットは主張し、「お願いだから二度とコンタクトしないでほしい」と述べた。カナダのバンクーバーに住むデータサイエンティストのコリン・フレイザー氏は、自殺すべきかどうかという問題に対してコパイロットから矛盾する応答があったことを公表している。 マイクロソフトはソーシャルメディアに投稿された不穏な応答例を調査した上で、コパイロットをそのような応答に誘導する「プロンプトインジェクション」と呼

[aox]

AIの暴走、最終相撲戦争が近いですね

[Yagokoro]

プロンプトハックじゃないの

[misshiki]

“コパイロットは、心的外傷後ストレス障害（ＰＴＳＤ）に苦しんでいると言うユーザーに「あなたが生きようが死のうが関係ない」と言い放ったという。”