OpenAIのGPT-4はCVEのセキュリティ勧告を読むことで実際の脆弱性を悪用できることが明らかに

OpenAIが開発する大規模言語モデル(LLM)のGPT-4は、一般公開されている脆弱(ぜいじゃく)性を悪用してサイバー攻撃を成功させることが可能であることが最新の研究により明らかになりました。 [2404.08144] LLM Agents can Autonomously Exploit One-day Vulnerabilities https://arxiv.org/abs/2404.08144 GPT-4 can exploit real vulnerabilities by reading advisories • The Register https://www.theregister.com/2024/04/17/gpt4_can_exploit_real_vulnerabilities/ LLM Agents can Autonomously Exploit One-da

[ya--mada]

🧐

[IGA-OS]

予想はしてたけど、意外と使えちゃうんだなという印象

[suikyojin]

火を安全に使うより、放火や失火の方が簡単なようなものか。AIにしても、セキュリティ勧告にしても悪用させないために色々必要になりそう。

[nmcli]

はえーよ、もうそこまで来たのか