中国信通院认证元脑SD200超节点,Token生成速度突破8.73ms
随着大规模语言模型在千亿乃至万亿参数级的应用需求持续攀升,传统的一机八卡服务器已难以满足日益增长的训练与推理性能需求,超节点这一新型计算架构应运而生。中国信息通信研究院(以下简称“中国信通院”)一直致力于服务器及超节点等前沿计算产品的研究与评测工作,推动产品不断优化并加速行业应用落地。
2025年11月,浪潮信息推出的“元脑SD200”超节点服务器在中国信通院组织的评估测试中成功通过评测。该测试依据中国信通院主导制定的《超节点测试大纲》,重点考察互联带宽及基于大语言模型DeepSeek-R1-671B的推理性能。测试结果表明,元脑SD200的Token生成速度(TPOT)达到8.73毫秒,展现出其在支持大规模模型推理和智能体系统部署方面的成熟能力,成为国内首个通过该测试的本土超节点产品。
浪潮信息元脑SD200超节点
元脑SD200超节点采用浪潮自主研发的多主机低延迟内存语义通信架构,基于开放系统设计,在单机内部实现64路国产AI芯片的高速互联。该产品不仅能够承载高达4万亿参数的单体模型,还可部署多个万亿参数模型组成的智能体系统,支持多模型协同处理复杂任务。
稿源:美通社