为满足未来生成式AI日益增长的算力需求,Arm公司近日正式推出可扩展矩阵扩展2(SME2)技术,旨在提升AI工作负载效率,助力移动设备实现更智能的功能。当前,生成式AI已不仅限于聊天机器人和虚拟助手,还涵盖文本、图像、视频生成及自然语言处理等高级任务。
SME2首次亮相于2022年底,作为Armv9架构中SME的升级版本,新增多项功能,支持实时移动端推理。据Arm介绍,在SME2增强的硬件上,Google的Gemma 3模型运行速度比未启用SME2的设备快6倍,显著提升AI应用效率。
此外,SME2具备更强的可扩展性,适用于笔记本电脑、平板电脑及高端智能手机。目前,安卓系统已支持SME2,并集成于主流AI框架,如llama.cpp、MNN和ONNX等,为开发者提供便捷集成路径。