AI技术在各个领域发挥着重要作用,不过要想让它真的用起来还得把模型能力无缝融入业务场景。中新网北京11月5日消息,记者刘育英报道了一场专门的研讨会。 会上,中国信息通信研究院组织了一场活动,主题是怎么用先进存力给AI大模型发展添砖加瓦。原来,存储对大模型训练和推理效果太关键了。大家都知道,现在的AI推理已经在各行各业普及开来,可效率和存力的问题还得解决。 2023年10月,工信部等六部门出台了一份计划,特别强调要发展存力技术。石友康就给企业提了个醒,先进存力能帮着提升推理效能、降低成本。于是中国信通院联合产业链企业成立了一个工作组,专门琢磨存算网协同的事儿。 华为这边有个叫王旭东的人说,IT基础设施现在面对三大难题:数据管不好、算力喂不饱、成本降不下。针对这个情况,他们推出了UCM推理记忆数据管理技术。 另外还有个叫唐安波的人也发表了看法,说可以通过适配多模态模型和昇腾硬件来优化DeepSeek模型,这样就能把性价比给提上来。 中国移动云能力中心的周宇也没闲着,他说以后移动云要推动存储变成智算协同。比如分阶段落地高密全闪存储、数据高速互联这些技术,长远点还得把池化多体存储体系给构建起来。 这次活动是在北京举办的,主要有中国信通院和中国信息通信研究院组织。虽然AI技术已经在文档处理这些场景证明了自己的价值,不过真正要落地还得解决不少问题呢。