您的位置:首页 >观察 >

算力发展调研:布局大模型,算力够不够用?“东数西算”难点在哪?


(资料图片仅供参考)

当前,生成式大模型引发全球新一轮人工智能技术发展浪潮。在这背后,算力能否支撑大模型需求?我国算力的利用率有多高?“东数西算”进展如何?数据中心如何节能降碳?带着这些问题,记者日前跟随工信部新闻宣传中心前往广东,调研采访了多家算力提供商。

算法、算力、数据是大模型研发中的三大基础要素。其中,算法和数据要通过算力支撑,所以某种程度上说,大模型是用算力“堆”出来的。统计显示,ChatGPT需要7-8个算力500P的数据中心才能支撑运行。目前,国内多家企业正在布局大模型,算力需求暴增,算力提供商怎么更好地满足这些需求?

广东联通算网研究运营基地市场总监骆益民说:“目前大模型还是基于整个节点租赁提供算力服务的这种模式。如果要满足这种超大规模计算、高通量的带宽,我们只能把业务的需求和算力节点更加靠近一点,来解决传输时延的问题,以及节点内通讯的问题。第二是要做算力梯次化、层次化、合理化布局,将来实现算力、标注、训练一体化的功能。”

近年来,我国算力增长迅速。但也有一些报告指出,当前我国数据中心的利用率整体不高,有的上架率甚至还不到20%。那么,实际情况到底如何?广东移动计划建设部高级项目经理张剑麟说,从不同维度衡量,数据中心的利用率也不一样。比如从区域来看,广东数据中心的热点集中在珠三角地区。

张剑麟说:“对于珠三角地区,目前我们的上架率平均大概是百分之六十多,特别是在广州和深圳就比较高了,像深圳已经是超过90%了。但是像汕头的上架率大概是40%-50%之间,湛江也差不多是这个幅度。另外,不同的业务类型,这个数据也会不一样。再有,从IT负载率就是功耗方面来说,可能也会不一样。”

“东数西算”是我国正在推进的一项工程,相关基础设施建设布局进展迅速。在这样的背景下,东部的企业是否愿意把数据迁往西部?从媒体之前的报道看,不少企业有这种需求,但有些企业担心东西部网络传输时延太长,迁移数据的积极性不高。而在记者的采访中,也有一些企业反映的是传输成本问题。

万国数据副总裁陈演丹说:“做完算力传送回来,从西部要传到广州、深圳,其实客户对时延的要求是不高的,但他们对成本的要求非常高。所以现在最重要的就是解决长传成本问题。运营商如果长传的成本能够降得下来,我相信对于客户去部署东数西算这样大的IT布局也是非常有帮助的。”

数据中心如何降低能耗也是一大热点问题。根据工信部、国家发改委等7部门联合印发的行动计划,到2025 年,全国新建大型、超大型数据中心电能利用效率(PUE)降到1.3 以下。近年来,液冷技术的兴起为数据中心节能降耗带来了巨大潜力。那么,当前液冷技术研发应用进展如何?一些企业表示,已经在这方面做了很多研究和创新,但用户对这项技术还有一些顾虑。

浩云长盛产品总监曾懿文说:“目前来看,可能部分客户顾虑最大的一个点就是设备浸没到液体当中是否跟放在空气当中是一样的效果,液体会不会对零部件有些腐蚀。这一块的验证,目前来看好像做得不是特别多,这也让一些用户会有一些顾虑和担心。但是趋势是不可改变的。”

标签:

热门资讯

图片新闻

精彩新闻