本文作者:访客

国内最大智算中心正式投用:每秒690亿亿次浮点运算 可训练万亿参数大模型

访客 2024-08-31 11:00:29 27700 抢沙发
国内最大智算中心正式投用:每秒690亿亿次浮点运算 可训练万亿参数大模型摘要: 8月31日消息,日前,由中国移动承建的国内运营商最大单集群智算中心在哈尔滨正式运营。据悉,该智算中心具有单集群算力规模最大、国产化网络设备组网规模最大等特点。...

8月31日消息,日前,由中国移动承建的国内运营商最大单集群智算中心在哈尔滨正式运营。

国内最大智算中心正式投用:每秒690亿亿次浮点运算 可训练万亿参数大模型

据悉,该智算中心具有单集群算力规模最大、国产化网络设备组网规模最大等特点。

单集群智算中心把所有AI加速卡打造成1个集群,用以支持千万亿级参数的大模型进行训练。

这个集群智算中心通过先进的智算网络技术把上万块GPU芯片像积木一样拼接在一起,大幅提升GPU节点间的通信效率,将数据训练完成时间缩短20%,从而形成超级算力集群。

这个单集群智算中心共有超过1.8万张AI加速卡,运算能力达到每秒690亿亿次浮点运算,能满足万亿参数的大模型训练要求。

据项目负责人介绍,该只算中心相当于300多万台高性能个人计算机每秒的计算能力,单集群相当于编队,减少互相传输时间,在编队内就把整个计算完成了。

阅读
分享

发表评论

快捷回复:

评论列表 (暂无评论,27700人围观)参与讨论

还没有评论,来说两句吧...