最新最快科技资讯
太阳能光伏网

字节跳动推出VAPO强化学习框架,显著提升大模型复杂任务推理能力

字节跳动Seed研究团队近日发布VAPO强化学习训练框架,该技术针对大型语言模型在复杂任务中的推理能力进行了专项优化。研究显示,采用VAPO框架的Qwen2.5-32B模型在AIME24基准测试中得分从5分跃升至60.4分,超越当前最优方法DAPO达10分。

VAPO全称为"增强价值的近端政策优化",通过三项核心技术突破解决了传统价值导向方法在长链式推理任务中的局限性:构建精细价值训练框架、引入长度自适应GAE机制、整合多项协同优化技术。测试表明,该框架不仅使训练曲线更为平滑,还能在仅用60%更新步骤的情况下实现性能突破。

该研究的消融实验验证了七项关键技术的有效性,包括价值预训练、解耦GAE等技术组合,为大型语言模型在数学推理等复杂任务中的应用开辟了新路径。

最新相关

恒生指数收盘涨2.3% 科技股表现强劲

5月14日,港股市场走强,恒生指数收盘上涨2.3%,恒生科技指数涨2.13%。其中,腾讯音乐涨幅达13%,京东健康、理想汽车均涨约5%,百度集团涨约4%。此次上涨主要受科技股和部分权重股带动,显示市场情绪...

*ST大立与云洲智能签署战略合作协议

5月14日,*ST大立公告与云洲智能达成战略合作。双方将结合技术研发、资金资源等优势,推动水上智能无人装备发展。此次合作有助于拓展智能光电系统在无人船艇领域的应用,提升公司全产业链竞争优...

伦敦金属交易所多种金属库存显著下降

5月14日,伦敦金属交易所(LME)数据显示,铜库存减少4075吨,锌库存减少900吨,铅库存减少2900吨,镍库存减少84吨,锡库存减少15吨,而铝库存保持不变。此次库存变化反映了市场供需动态,可能影响未来...

博腾生物与华隆生物携手加速MATC细胞疗法开发

博腾生物近日与华隆生物达成战略合作协议,双方将共同推动MATC(多重活化的T淋巴细胞)疗法的研发进程。根据合作内容,博腾生物将为华隆生物提供从工艺优化到注册申报的全流程服务。这一战略合作...

美股盘前部分科技股及中概股上涨

5月14日,美股盘前,部分科技股表现强劲。超微电脑涨约8%,因Raymond James给予其股票超配的初始评级;英伟达与特斯拉分别涨约2%。中概股方面,百度涨约2%,阿里巴巴涨约1%,理想汽车涨约3%。市场情...

Steam账户信息或遭泄露,8900万条数据暗网待售

近日,有消息称约8900万条Steam账户信息正在暗网上出售,售价为5000美元。若此消息属实,大量用户账户可能面临安全威胁。许多Steam用户的账号包含价值不菲的游戏库,一旦被盗,损失将难以估量。据X...

通甬高铁苏州东隧道首个盾构区间顺利贯通

近日,新建南通至宁波高速铁路(简称通甬高铁)苏州东隧道传来好消息,"通甬园梦号"盾构机成功完成5434米掘进任务,标志着"中国城市高铁第一隧"首个盾构区间顺利贯通。苏州东隧道作为通甬高铁的关...

CARVYKTI全球治疗突破,患者受益超6000名

CARVYKTI(®)(西达基奥仑赛,cilta-cel)近期表现亮眼,净贸易销售额达约3.69亿美元。截至目前,该药物已成功惠及超过6000名患者,在临床和商业治疗中展现了显著价值。为满足日益增长的全球需求,公...