AIDB on Twitter: "大規模言語モデルのセーフガードを故意に突破する「脱獄プロンプト」を調査した結果、GPT-4を長期間にわたって苦しめる攻撃力の高いプロンプトがあることが判明。 ○Xinyue Shen et al. "Do Anything Now": Characterizing and Evaluating In-The-Wild Jailbreak Prompts on Large Language Models… https://t.co/Z4V7gE447I"

[misshiki]

脱獄プロンプトに関する研究。