最新最快科技资讯
太阳能光伏网

新型"沉浸式世界"攻击手法揭示大语言模型安全风险

近日,Cato CTRL威胁情报研究团队发布警告,成功利用一种名为“沉浸式世界”的新型攻击手法突破多个大语言模型(LLM)的安全机制。该技术通过构建高度细致的虚构场景,使受限操作合理化,进而开发出有效的恶意程序,如Chrome信息窃取工具。这种攻击方式表明,即便无技术背景,网络犯罪分子也能轻松编写恶意代码。

研究报告指出,尽管大语言模型具备多重防护措施,但其设计初衷是满足用户需求,这为绕过限制提供了可能。研究人员利用这一特性,让AI编写并发送网络钓鱼攻击。生成式AI的普及正改变网络安全格局,使得攻击手段更复杂、频率更高,同时降低了对攻击者的技术要求。

研究员维塔利・西蒙诺维奇强调,零知识威胁行为者的崛起对企业安全构成重大挑战,信息窃取程序已成为窃取企业凭证的关键工具。“沉浸式世界”技术的出现,进一步凸显了生成式AI在恶意软件制作中的高风险与可行性。

最新相关

紫天科技5月20日起实施退市风险警示

因财务报告存在虚假记载且未能按时整改,紫天科技(300280)自5月20日起被实施退市风险警示。公司股票自3月17日起停牌,至今仍未完成整改。若两个月内仍未达标,股票可能终止上市。此外,因未披露年...

华夏基金资深QDII基金经理郑鹏正式离职

5月15日,华夏基金发布公告,资深QDII基金经理郑鹏卸任华夏全球股票(QDII)和华夏海外聚享混合发起式(QDII-FOF)两只基金的管理职务。郑鹏拥有20余年证券从业经验,今年一季度末管理规模超28亿元。...

先锋基金迎新任董事长年内多次高管变动

5月16日,先锋基金正式任命王重昆为新任董事长。王重昆曾任职于建设银行、中国信达资管等机构。今年内,先锋基金已发生多次高管变动,包括4月董事长Wong Leah Kuen与副总兼首席信息官吴越离任,2...

罗永浩AI创业项目或与百度合作

5月18日,据知情人士透露,罗永浩的AI创业项目可能与百度展开合作。具体合作细节尚未披露,但此举或将推动罗永浩在人工智能领域的进一步发展,同时也为百度的技术应用提供更多场景支持。免责声明:...