摩尔线程终于在fp8的研发上弄出了不少名堂,说起来国内也就少数几家能像他们这样

摩尔线程这次在FP8的研发上弄出了不少名堂,说起来国内也就少数几家能像他们这样搞出系统性的突破。他们声称技术水平在英伟达那儿也能排得上号。经过长时间攻关,这堆家伙终于把从设计到应用的全套东西搭好了,给AI训练推理提供了新的路子,还能帮图形渲染和流体仿真这些领域开辟新路,算是能在产业上派上大用场。至于技术细节,“平湖”架构让算力大增,用它做的MTT S5000直接把原生的FP8精度支持给搞出来了,单卡的稠密算力最高能到1000TFLOPS,配上80GB显存和1.6TB/s的带宽,互联也有784GB/s的速度。MUSA平台更是把PyTorch、Megatron-LM、vLLM和SGLang这些主流的生态给兼容了个遍。它不光支持FP64、FP32、TF32、FP16、BF16、FP8这些精度,INT8也没落下。目前他们已经推出了五代GPU(苏堤、春晓、曲院、平湖、花港),不管是AI智算还是专业图形加速都能覆盖到,在某些性能指标上甚至已经追上了国际先进水平。