安谋科技近日在上海新品发布会上推出新一代NPU IP“周易”X3,该产品采用DSP+DSA混合架构,适用于基础设施、智能汽车、移动终端及智能物联网等领域。其设计兼顾CNN与Transformer,单集群FP8算力达8~80 TFLOPS,单核心带宽为256GB/s,并支持W4A8/W4A16计算加速模式,可高效运行端侧大模型。
“周易”X3搭载Compass AI软件平台,兼容TensorFlow、ONNX、PyTorch等主流AI框架,支持GPTQ量化方案及Hugging Face模型库。据官方数据,其FP16算力较上代提升16倍,核心带宽增至4倍,CNN模型性能提升30%-50%,同算力下AIGC大模型能力实现10倍增长。
免责声明:本文内容由开放的智能模型自动生成,仅供参考。

扫一扫关注微信