神州鲲泰推出全新智算架构及硅光+液冷整机柜,破解多云异构绿色智算难题

在数字经济时代,算力资源已经成为新的“能源”,为人工智能、云计算等等科技界前沿领域持续供能。5月9日,数云原力大会2024在神州数码国际创新中心(IIC)盛大召开。在开幕式上,神州数码副总裁、神州数码信创控股董事长韩智敏重磅发布新一代神州鲲泰绿色异构智算中心全液冷整机柜新品,在异构智算的时代,通过软硬件协同创新,为客户提供性能强、能效高、节能环保的新选择。

66441fc9e93f6-1

神州数码副总裁、神州数码信创控股董事长韩智敏

异构智算时代,企业智算落地如何兼顾效率与成本?

我们迎来了一个全新的异构智算时代。在当前的算力环境下,多云异构智算基础设施已成为必然。异构算力资源如何得到充分利用?在混合云部署下,如何应对算力构建选型、部署、运维复杂度和难度的挑战?这个独特的“智算攒机时代”,正在呼唤全新的智算架构。

与此同时,随着大模型和生成式AI加速落地,大量的模型训练和推理任务,在唤醒底层算力海量需求的同时,也对资源利用率提出了巨大挑战。有关资料显示,OpenAI训练GPT-4的MFU(Model Flops Utility)在32%到36%之间。而目前行业MFU利用率的平均水平仅为30%~40%,智算资源利用率尚有很大的提升空间,利用率提升也将为企业节省大量成本。

能耗是另一个大的挑战,算力本身会成为主要的能耗和二氧化碳排放来源。明显可预见的就是,GPU的能耗本身是CPU能耗的2倍以上。根据MIT研究表明,未来人类需要为人工智能相关应用新增10%的能源需求。也就是说,“炼”大模型会比炼钢还费电。对于一个企业来说,每新增一个用于智算的机架,其运行一年约等于增加15w度电,约等于100个家庭的年用电量,约等于1.5吨二氧化碳排放,能耗和碳排放十分巨大。

尽精微,神州鲲泰异“双管齐下”提升算力资源利用率

神州鲲泰推出HISO异构智算调度运营平台、HICA异构智算加速平台,有效解决智算集群间以及集群内面临的复杂异构兼容问题,并显著提升算力资源的利用率。

HISO异构智算调度运营平台,基于云原生技术,整合GPU硬分片和虚拟分片技术,能实现GPU资源虚拟化或池化,完成跨集群之间的算力调度。根据用户业务需求,该平台可以在整个异构智算资源池中匹配优选算力组合,提升GPU服务器集群的资源使用率。HISO异构智算调度运营平台拥有将国内外GPU资源混合组网、混搭调度,算力精细隔离等关键能力,可以“像管理一台GPU主机一样,管理和调度多个集群的GPU资源”。通过GPU容器直通、IaaS卸载,该平台加速了模型加载时间,相比传统方式,模型加载速度提升3倍。同时还能实时收集智算中心全栈、全链路指标,发现和定位软硬件故障,实现算力可观测性。

HICA异构智算加速平台则着重解决集群内部的算力调度优化问题,通过屏蔽集群内底层算力生态差异,突破关键计算效率瓶颈,有效提升算力利用率与可用性。HICA异构智算加速平台通过自研的服务层、中间适配层以及调度编排算法,采用数据并行、模型并行等方式,把并行计算任务进行有效分解,匹配相应的软件栈和算力资源来承接。当GPU资源变化,该平台可以实时动态调度计算子任务并调整模型拓扑和架构,以充分聚合各种算力资源。

HICA异构智算加速平台具有一云多芯特性,支持国内外主流AI芯片,可实现训练推理任务在不同品牌、不同型号芯片组成的智算集群中的混合训练推理,预计可降低20%闲置算力。

此外,根据不同模型、不同算子之间集合通信流特点,该平台还可自适应选择最合适的通信参数,达到更高的通信效率。同时,在不同模型运行过程中,充分考虑存算比要求的不同,HICA异构智算加速平台还可从宏观到微观多个尺度选择最合适的存算比资源加载模型,加速吞吐,降低时延,使MFU提升10~20%,MBU提升5%。

硅光+液冷,一体化交付冷却跳动的电表

随着生成式AI落地对算力需求的暴涨、带宽的狂飙提速,智算中心节点的高能耗痛点日益加剧。而以一个万卡智算中心为例,采用200G接口互联,需要约80000个光模块,其互联所需的能耗则占到总体的5%。节点间互联的高能耗问题也日益凸显。

针对节点间互联的能耗问题,神州鲲泰采用硅光技术,通过单光源多调制器,降低调制器电压,同时采用分布式反馈激光器等一系列技术,有效降低25%的互联能耗。

同时,针对节点的能耗问题,神州鲲泰推出液冷服务器,通过一体化冷板,智能流量调节来提升系统的散热效率,采用负压管线系统,漏液近端探测技术,并联动服务管控系统提升冷却系统的可靠性,有效降低30%的节点能耗。

而为了帮助客户规避接口多、接头复杂、现场实施部署难度大、实施周期长等难题,数云原力大会2024开幕式上,神州鲲泰正式发布“KunTai Pod2000全液冷整机柜”方案产品。采用一体化交付方式,有效降低部署和运维的复杂度的同时,整机柜还能实现100%全液冷及高性价比液冷方案,助力数据中心PUE迈向1.15,并且凭借60KW+的最大单柜功率,实现1.5倍于行业平均水平的能效比,在为客户提供强打算力的同时有效控制能耗成本。

66441fca2de34

随着2022年底ChatGPT的问世,AI正成为推动创新的核心引擎。现在的IT基础架构已经到了一个由模型和算力相互促进,螺旋上升的新发展阶段。面对新的发展机遇,神州鲲泰从智算中心系统整体性能提升出发,提出了走新智算架构之路的策略,建立了高通量、高并行、高效率,低能耗的多样化智算架构。新的智算架构能够快部署、低投入地突破算力瓶颈,构建出性能更优、成本更低、能效更高的智算中心。未来每个智算中心,每台计算机都将是这样一种新的智算架构,从而实现算力的普惠。

此文内容为本网站刊发或转载企业宣传资讯,仅代表作者个人观点,与本网无关。仅供读者参考,并请自行核实相关内容。如有侵权、违规,可直接反馈本站,我们将会作删除处理,转转请注明出处:https://news.dedikeji.com/4970.html

赞 (0)
福建商报的头像福建商报
上一篇 2024年5月19日 下午3:15
下一篇 2024年5月19日 下午3:17

相关推荐

  • 完美落幕!昇腾AI创新大赛2024福建区域赛成功举办,获奖名单出炉!

    9月27日,由福州市工业和信息化局、福州市数据管理局指导,华为技术有限公司、福州市电子信息集团有限公司主办,福建人工智能计算中心、福建人工智能生态创新中心承办的昇腾AI创新大赛2024福建区域赛在福州成功举办。 本届大赛以“数智未来,因你而来”为主题,旨在鼓励全产业开发者基于昇腾AI技术和产品,打造软/硬件解决方案、探索模型算法,加速AI与行业融合,推动人工…

    2024年9月30日
    00
  • 鼎信通讯在青岛国际软件博览会上展示电力物联网创新成果

    鼎信通讯在青岛国际软件博览会上展示电力物联网创新成果 青岛国际软件融合创新博览会在青岛国际会展中心盛大开幕。青岛鼎信通讯股份有限公司(以下简称“鼎信通讯”)作为电力物联网的领军企业,携其最新研发成果亮相,展示了包括载波通讯、智慧消防、智能电表、AFDD、超声波水表、10KV等在内的前沿产品和系统,彰显了其在配用电领域的创新实力和行业领导地位。 鼎信通讯自成立…

    2024年5月9日
    00
  • 科技守护自然,AI助力武夷山国家公园物种保护走向智能化系统化

    在我国闽赣交界之处,屹立着一座生态瑰宝–总面积达 1280 平方公里的武夷山国家公园。作为我国首批正式设立的国家公园之一,武夷山国家公园拥有浙闽沿海山地最具代表性、世界同纬度最典型的原生性中亚热带森林生态系统。其“碧水丹山”的独特景观风貌,不仅使其成为华东地区的生物多样性宝库,更是重要的生态安全屏障。这座国家公园还承载着独特的荣誉,是我国唯一一个…

    科技视角 2025年4月30日
    00
  • Soul App发力AI社交,让年轻人快速发现更聊得来的人

    Soul App发力AI社交,让年轻人快速发现更聊得来的人 ChatGPT出现后,AI社交产品层出不穷,很多现有社交产品也在不断探索AI在社交平台的应用落地,以此来提升社交体验。Soul作为深受年轻人喜爱的社交平台,近年来一直在探索AI技术在社交产品领域的应用落地,从AI推荐关系到AI辅助对话,从降低表达门槛到提升互动体验,持续为广大年轻人提供无压力社交体验…

    2024年5月9日
    00
  • 狄耐克与脑机顶尖专家达成合作,共推非侵入式脑机交互技术新突破

    在科技快速发展的今天,人才是推动创新的核心力量。为了更好地推进非侵入式脑机接口技术的发展,狄耐克公司邀请了国际知名的脑机接口专家——关存太院士担任特别顾问。此次合作不仅是对狄耐克在智能科技领域深耕二十年的认可,更是其迈向脑机交互产业化的重要一步。 关存太院士不仅是一位杰出的人工智能专家,还在脑机接口领域有着深厚的造诣。他长期致力于非植入式脑机接口的算法和系统…

    2025年7月28日
    00

联系我们

QQ在线咨询:2062886936

邮件:s5868f@qq.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信
自6.2开始主题新增页头通知功能,购买用户可免费升级到最新版体验