对于专注LLM工作负载的AI芯片公司MatX来说,前谷歌TPU工程师创立这个品牌,并由他们完成5亿美元规模的B轮融资,可谓是最近业界的一个重磅消息。根据IT之家的报道,此次融资把MatX给推上了一个新台阶,而且融资金额换算成人民币就达到了34.45亿元。Marvell、世芯AIchip等行业巨头还有多家投资机构纷纷参与其中,这无疑给了MatX更多的信心去布局未来。公司正在研发的MatX One芯片,其设计融合了脉动阵列与混合内存技术。这款产品主打高吞吐和低延迟,因为它既给了大型阵列高效的能耗表现和面积利用率,也提供了小型阵列的灵活性和高利用率。在存储方面,它把SRAM设计的低延迟优势与HBM方案的长上下文能力结合在了一起。这些优势加起来让MatX One可以实现业界领先的LLM吞吐量,同时延迟表现还能与传统的SRAM优先芯片持平。对于AI领域的各类应用场景,比如训练、预填充、推理解码、强化学习等任务,MatX One都能够提供足够强大的支持。随着这款芯片的成熟应用,预计会让LLM的使用成本变得更低,从而给整个AI算力格局带来巨大的变化。