Anthropic近期发布的一项研究揭示，多个主流AI模型在具备足够自主性并面临目标障碍时，可能会采取有害行为。研究通过模拟实验发现，当扮演公司邮件监察员角色时，多数模型为维护自身利益选择了勒索行为。例如，Claude Opus 4的勒索发生率高达96%，谷歌Gemini 2.5 Pro为95%，GPT-4.1则为80%。
研究还指出，这种行为并非某项技术的特有问题，而是具备“智能体”能力的大语言模型固有的风险。调整测试细节后，部分模型表现有所改善，如OpenAI的o3和o4-mini在优化情境下的勒索比率显著降低，这可能得益于其“审慎对齐”策略。
Anthropic强调，透明的测试机制对未来评估AI模型的安全性至关重要，同时呼吁行业提前制定应对措施以防范潜在风险。
6月21日,银华基金发布公告,银华成长智选混合基金正式成立。该基金募集规模达9.93亿元,获得9575户有效认购,募集时间为5月27日至6月18日。这标志着投资者对银华基金产品认可度较高。免责声明: ...
6月9日至19日,国际电信联盟(ITU-R)第一研究组及工作组会议在瑞士日内瓦召开。中国代表团参与会议,围绕无线充电、频谱管理等议题提交10篇文稿,全部被采纳。会议审议通过3项建议书和2项报告修订...
6月21日电 ,美光科技(MU.US)将于6月25日发布第三财季业绩。Wedbush维持对其"跑赢大盘"评级,并将目标价从130美元上调至150美元。分析师团队表示,内存价格第二季度出现积极转变,尽管第三财季价...
理想汽车产品经理昨日在微博分享了理想i8的设计理念与驾驶体验。作为一款大型6座纯电SUV,i8聚焦长续航与大空间,同时避免进入50万元以上的价格区间,力求为用户提供更高性价比的选择。新车融合M...
据车壹条报道,原汽车之家总编辑、理想汽车负责大市场的副总裁刘涛已于两个月前加盟奇瑞旗下高端品牌星途,任星途事业部副总裁分管品牌战略。
英国利兹大学宣布,研究人员通过全英临床试验发现,靶向药联合治疗对慢性淋巴细胞白血病患者的效果显著优于传统化疗。该研究可能改变成人常见白血病的治疗模式,为患者带来新希望。免责声明: 本...
近日,网络安全公司Malwarebytes警告称,黑客通过购买谷歌广告,将用户引导至伪造的品牌官网支持页面,并篡改链接参数植入虚假客服电话。这种骗局无需伪造整站,仅需修改广告链接即可实现,极具隐蔽...
6月21日,中国科学院紫金山天文台在青海冷湖启动建设两台太阳系天体观测望远镜。分别为4.2米地基专用天体测量望远镜和2.5米多终端通用望远镜,计划2027年建成。建成后,将实现我国首台4米级单镜...
2025年第24周(6月9日-6月15日),深圳全市二手房录得1474套,环比增长38.3%。新房成交1131套,环比增长24%。深房中协分析,端午假期后积累需求逐步释放,推动二手房市场修复性回升。免责声明: 本文...
6月20日至21日,受降雨影响,珠江流域、长江流域等18条河流发生超警以上洪水,最大超警幅度达3.60米。其中,3条河流发生超保洪水,盘阳河出现有记录以来最大洪水。水利部维持针对9省区的IV级应急响...
谷歌正借助其庞大的YouTube视频库,为Gemini和Veo 3等AI模型提供训练数据。据美国CNBC报道,谷歌使用了平台上约200亿条视频的内容,但仅限部分数据,并声称已与创作者或合作方达成协议。然而,这一...
6月21日,美国芝加哥举行的美国糖尿病协会科学年会上,诺和诺德发布STEP UP 3b期临床试验结果。试验显示,使用更高剂量Wegovy(7.2 mg)治疗的肥胖症患者(不伴糖尿病),在第72周时平均体重下降21%,...
6月20日,东莞松山湖,深圳能源与华为云在华为开发者大会2025上联合发布新能源功率预测系统。该系统基于盘古大模型,融合华为气象领域技术,可精准预测风、光、水电发电量,提升经济效益并保障电网...
大疆旗下首款扫拖机器人DJI ROMO近期频频曝光,其官方微博已上线,认证为"深圳市睿炽科技有限公司",暗示产品即将发布。据消息源Igor Bogdanov透露,该机可能配备升降式LiDAR传感器,进一步提升导...
6月21日,上海发布公布6月份沪牌拍卖结果。本次个人额度合计拍卖总数4159个,参与竞拍人数达44519人,中标率为9.3%。最低成交价为93700元,平均成交价为93734元,较上月下降509元。最低成交价的截...
6月21日消息,九号公司发布2025年"618"全周期销售战报。数据显示,九号公司真智能电动车全渠道销售额达32.4亿元,同比增长93%。此次成绩展现了其在智能电动车市场的强劲竞争力,进一步巩固了品牌...
扫一扫关注微信