谷歌前CEO埃里克*施密特近日就人工智能安全发出警告,指出AI系统存在被黑客攻击的风险,安全防护可能被移除。他强调,无论是开源还是封闭模型,均可能遭遇“提示注入”或“越狱”攻击,导致AI泄露隐私、执行恶意指令甚至生成危险内容。施密特表示,尽管主流企业已采取措施防止AI回答高危问题,但模型仍可能被逆向工程,当前缺乏有效的非扩散机制应对潜在威胁。他同时认为,AI的能力远未被充分认知,其影响力或将超越人类历史上的技术变革,未来五到十年将验证其真正价值。
免责声明:本文内容由开放的智能模型自动生成,仅供参考。