近日，英伟达与麻省理工学院、香港大学合作推出Fast-dLLM框架，旨在解决扩散模型（Diffusion-based LLMs）在实际应用中的效率瓶颈。尽管扩散模型采用双向注意力机制具备理论优势，但其高昂的计算成本和多词元同步解码时的质量下降问题，限制了其广泛应用。
Fast-dLLM通过引入块状近似KV缓存机制和置信度感知并行解码策略，显著优化性能。其中，KV缓存将序列划分为块并预计算激活值，减少冗余计算；置信度解码则通过选择性处理高置信度词元，避免依赖冲突。测试结果显示，该框架在GSM8K数据集上实现27.6倍加速，准确率达76.0%，同时在其他基准测试中也表现出色。
这项研究有效平衡了速度与质量，为扩散模型在语言生成任务中的实际应用开辟了新路径。
北京时间2025年6月27日,人民财讯报道,下周将有68只个股迎来解禁,合计解禁市值约为816.71亿元。其中,中无人机解禁市值最大,达200.2亿元,涉及4.03亿股上市流通。紧随其后的是迪哲医药-U,解禁市...
2025年6月27日,中国新能源汽车制造商比亚迪在匈牙利科马罗姆为其电动大巴和卡车工厂扩建项目举行奠基仪式。此次扩建将进一步提升产能,助力匈牙利增强在电动汽车制造领域的竞争力。匈牙利外交...
随着AI智能体日益自主化,如何识别操作后果成为关键问题。苹果与华盛顿大学联合研究提出一种多维度分类法,用于评估手机App操作的风险等级,帮助AI判断是否需用户确认。例如,"转账"属高风险,而"...
6月27日至29日,意大利多个主要城市如罗马、米兰、佛罗伦萨和威尼斯等将遭遇大范围高温天气。意大利卫生部已发布高温红色预警,预计高温将持续三天,影响全国12个城市。相关部门呼吁市民注意防暑...
2025年5月,丰田汽车全球销量达到898,721辆,创历史新高。此次增长主要得益于北美和亚洲市场的强劲需求,以及供应链效率的持续优化。丰田表示,将继续推进电动化战略以应对市场变化。免责声明: 本...
2025年6月27日,AutoAI Nanjing Technology正式向香港交易所提交首次公开募股(IPO)申请。该公司总部位于南京,是一家专注于人工智能技术研发与应用的科技企业。此次IPO拟募集的资金将用于技术研...
2025年6月27日,健康科技公司160 Health向港交所提交了首次公开发行(IPO)申请。该公司总部位于中国,致力于通过数字化平台提供健康管理服务。此次IPO计划募集的资金将主要用于技术研发和市场扩...
北京时间2025年6月27日,据媒体报道,保时捷正在考虑出售其旗下的跨国管理和IT咨询公司MHP。此次潜在出售涉及的MHP公司成立于1986年,总部位于德国,是汽车领域知名的管理与信息技术解决方案提供...
2025年6月27日,据利弗莫尔证券显示,四维智联(南京)科技股份有限公司正式向港交所提交上市申请书,独家保荐人为中信证券。此次申请标志着该公司正式启动港股IPO流程。免责声明: 本文内容由开放...
2025年6月27日,南京埃斯顿自动化股份有限公司正式向香港交易所提交上市申请书,独家保荐人为华泰国际。此举标志着该公司正式启动港股IPO流程。免责声明: 本文内容由开放的智能模型自动生成,仅...
2025年6月26日,小米YU7正式发布后,仅三分钟大定数量便突破20万台。据闲鱼平台数据显示,该车型一夜转单量达小米SU7同期的3倍以上,"小米YU7订单转让"更成为平台热词。相较小米SU7发售时七分钟破...
在2025年618大促期间,抖音电商平台超500个红人店铺销售额突破千万元,其中超20个红人店销售额超亿元。平台直播成交额中有一半来自店播模式,且破千万元销售额的商家中近七成采用该模式。此外,红...
在第30届上海电视节白玉兰颁奖典礼上,《英雄联盟: 双城之战》第二季荣获最佳动画片奖。该剧第二季于2024年11月9日首播,共9集,已于11月23日完结,目前豆瓣评分8.6,其中51.3%的观众给予5星好评。...
6月26日,民航局发布新规,自6月28日起禁止旅客携带无3C认证或被召回的充电宝乘坐境内航班。此举引发广泛讨论,多地机场出现大量无3C认证充电宝被扣留情况。小米、安克、罗马仕等头部品牌部分产...
今日,数据显示26股特大单净流入资金超过2亿元。其中天风证券以18.60亿元特大单净流入位居榜首,恒宝股份以9.37亿元位列第二。此外,大位科技、二六三、深圳华强等个股也呈现较大资金流入。在资...
2024年我国网络表演(直播)行业市场营收达2126.4亿元,同比增长1.5%。截至2025年5月末,行业主播账号累计开通近1.93亿个,同比增长7.2%。数据显示,月活跃开播账号约3326.7万个,全年新增开播账号达...
扫一扫关注微信