腾讯发布高性能算力集群:专为AI大模型训练准备

2023-04-16 03:57:14
关注
摘要 根据腾讯云官方的数据,新的HCC计算集群能够将大模型的训练时间从上一代的11天压缩至4天,有效节省了大量时间。

  4月14日获悉,腾讯云宣布发布面向大模型训练的新一代HCC(High-Performance Computing Cluster)高性能计算集群。
 

  该计算集群的整体性能比过去提升了3倍,堪称国内目前性能最强的大模型计算集群。
 

  据悉,该计算集群搭载NVIDIA H800 Tensor Core GPU,能够提供高性能、高带宽、低延迟的算力支撑。
 

  而针对大模型训练,计算集群有着训练框架AngelPTM,该框架对内支持了腾讯混元大模型的训练,并在去年10的的万亿参数大模型训练中,成功将时间缩短了80%。
 

  此外,腾讯用于AI推理的自研芯片紫霄已经完成量产,它采用自研存算架构与加速模块,能够提供高达3倍的计算加速性能,以及超过45%的整体成本节省。
 

  而腾讯云提供的大模型能力与工具箱,也能够帮助企业根据具体需求和场景精调训练,从而进一步提升效率,实现AI应用的快速部署。
 

  根据腾讯云官方的数据,新的HCC计算集群能够将大模型的训练时间从上一代的11天压缩至4天,有效节省了大量时间。
 

  原标题:全国性能最强!腾讯发布高性能算力集群:专为AI大模型训练准备

您觉得本篇内容如何
评分

相关产品

MEIGLink 高算力AI模组SNM970 高算力AI模组

™ CPU(1x Kryo Prime 3.36 GHz+ 3 x Kryo Performance 2.8 GHz+4 x Kryo Eficiency 2.0 GHz),内置Adreno 740 GPU60Hz的显示器,支持高达8K@60fps的视频解码,模组还集成了升级的高通神经网络处理单元Qualcomm Hexagon Tensor Processor,新增INT4精度AI计算的支持,综合AI算力高达

评论

您需要登录才可以回复|注册

提交评论

提取码
复制提取码
点击跳转至百度网盘