2025年12月23日,OpenAI在博客中承认,提示词注入攻击短期内无法被完全防御,其ChatGPT Atlas浏览器面临安全挑战。此类攻击通过隐藏指令操纵AI执行恶意操作,已被证实可影响多款AI浏览器。为应对威胁,OpenAI采用强化学习训练自动化攻击程序,在模拟环境中预演并发现漏洞,提前加固系统。尽管已部署多层防御机制,并要求关键操作需用户确认,但公司仍表示全面防护难度极大。英国国家网络安全中心亦警告,该类攻击或永远无法彻底消除。专家指出,AI智能体的高访问权限与自主性加剧了风险,当前安全策略重在降低影响而非绝对防御。
免责声明:本文内容由开放的智能模型自动生成,仅供参考。

扫一扫关注微信