近日,移远通信发布了其端侧大模型解决方案,该方案融合了LLM(大语言模型)、RAG(检索增强生成)与Agent(智能代理)等前沿技术,旨在实现“情景理解、知识融合、智能交互、自主决策、任务执行”等核心功能,目前已在服务机器人领域加速应用。
该解决方案基于移远边缘计算智能模组SG885G-WF,搭载高通QCS8550平台,综合算力高达48 TOPS,为服务机器人提供了强大的计算支持。在移远大模型解决方案的助力下,服务机器人可实现1秒以内的意图识别,解码速率超过15 tokens/s,显著提升了智能交互的效率和精准度。
随着人工智能技术的快速发展,移远通信的端侧大模型解决方案为服务机器人等智能设备提供了更加高效、灵活的技术支持,进一步推动了智能终端产业的创新与升级。