绿茶通用站群绿茶通用站群

没有港口是永远的停留的寓意是什么 集装箱到港口可以停留多长时间

没有港口是永远的停留的寓意是什么 集装箱到港口可以停留多长时间 “AI春晚”英伟达放大招:亮算力“杀器”、助游戏“捏人”;黄仁勋帮算账:GPU多买多省

  “AI热潮”最大赢家之(zhī)一、英伟(wěi)达背后的(de)那个身穿(chuān)黑色皮衣的(de)男人(rén)又(yòu)来(lái)了。

  前脚才交出亮眼业绩狂拉(lā)股价,英伟达(dá)CEO黄仁勋(xūn)后脚就在昨日的COMPUTEX大会上宣(xuān)布,“我们已到达生(shēng)成(chéng)式AI引爆点。从此,全世(shì)界的每(měi)个(gè)角落,都会(huì)有计(jì)算(suàn)需求(qiú)。”

  如(rú)今英伟达掌握着全球多家(jiā)科(kē)技公司“算力命脉(mài)”,而在这场大会上,黄仁勋激情演讲(jiǎng)2个小(xiǎo)时,甩出了多(duō)项重磅新发布,包括(kuò)算力“杀器(qì)”DGX GH200超级(jí)计算机、针(zhēn)对游戏的(de)ACE代工服(fú)务、MGX服务器规(guī)范等(děng)内容。

  算力“杀(shā)器”:DGX GH200超(chāo)级(jí)计算机(jī)+GH200超级芯片

  先看“集成(chéng)了英伟达最先进(jìn)加速计算和(hé)网络技术”的(de)DGX GH200人(rén)工智能(néng)超级计算机

  这款超算专为大规模生(shēng)成式AI的负载所设(shè)计,由256块GH200超(chāo)级芯片组成,拥有1 exaflop超凡AI性(xìng)能(néng)、144TB内存(是英伟达(dá)目(mù)前DGX A100系统的近500倍)、150英里光纤(xiān)、2000多个风(fēng)扇。

  DGX GH200重达40000磅(约合18143千克),堪比四只成年大象的体重。

  预计DGX GH200将于今年年(nián)底投入问世,英伟达暂未公布价(jià)格,而(ér)谷歌云、Meta与微软没有港口是永远的停留的寓意是什么 集装箱到港口可以停留多长时间将(jiāng)是首批(pī)用户

  同(tóng)时,英伟达(dá)也正(zhèng)在打(dǎ)造自家基于DGX GH200的大型(xíng)AI超级计算机NVIDIA Helios,以支(zhī)持(chí)其研究和开发(fā)团队的工(gōng)作。其中(zhōng)采用4个(gè)DGX GH200系统(tǒng)、1024颗Grace Hopper超(chāo)级芯片(piàn),每个都将(jiāng)与英伟达Quantum-2 InfiniBand网(wǎng)络连接,带宽高(gāo)达(dá)400Gb/s,将于今年(nián)年底上线。

  值得一提(tí)的(de)是,黄仁勋透(tòu)露,DGX GH200集成的GH200 Grace Hopper超级芯片已进(jìn)入(rù)全面生产

  “拉踩”CPU:成(chéng)本、功耗、处(chù)理(lǐ)数(shù)据量不如GPU

  在本次大会(huì)上,黄仁勋还“拉踩(cǎi)”了一波(bō)CPU。他从(cóng)功耗、处理数据(jù)量等方面,指出使用GPU胜过CPU。

  举例(lì)来(lái)说,花费1000万(wàn)美元,可(kě)以建(jiàn)设一(yī)个有960颗CPU的数(shù)据中心,其可处理1X LMM(大语言(yán)模型(xíng))数据量,需(xū)要11GWh功耗;

  同样成本下,也(yě)可以建(jiàn)设(shè)一(yī)个有48个(gè)GPU的(de)数据中心,其可处理(lǐ)44X LLM数据量(liàng),仅需要3.2GWh功耗。

  若只想处理1X LMM数据量,则只需40万美元(yuán),便可(kě)拥有一个搭载2个(gè)GPU、功耗仅0.13GWh的(de)数(shù)据中心。

  “买(mǎi)越多,省越多(duō)(The more you buy, the more you save)。”黄仁勋(xūn)再次表(biǎo)示(shì)。

  同时,他(tā)也列出了数据中(zhōng)心成本公式:数据(jù)中心总持有(yǒu)成(chéng)本=f[成本(芯片、系统、硬件生态系统)、吞吐量(GPU、Algo软件(jiàn)、网络、系统软件、软件生态系统)、使用率(Algo Lib, 软件生态系统)、采购运营、生命周期最佳化、电力]

  ACE代(dài)工服务:用AI激(jī)活NPC生命

  游(yóu)戏一直(zhí)是备受关(guān)注的一大AI应用落地(dì)领域。英伟达也在大会上宣布,推出面向(xiàng)游戏的定制AI模型(xíng)代工(gōng)服务NVIDIA Avatar Cloud Engine(ACE)

  它能赋予(yǔ)非(fēi)玩(wán)家角色(NPC)更智能且不断进(jìn)化(huà)的(de)对话技能,中间件、工具和(hé)游(yóu)戏(xì)开发者可使(shǐ)用它来构(gòu)建和部署定(dìng)制的语(yǔ)音、对话和动画AI模型(xíng)

  其(qí)中包括:英(yīng)伟(wěi)达NeMo,使用专有数(shù)据构建(jiàn)、定制和部署语言模型;英伟达Riva,用于(yú)自动语(yǔ)音识别和文(wén)本转语音实现实时(shí)语(yǔ)音对(duì)话;英(yīng)伟达Omniverse Audio2Face,用于(yú)即时创建(jiàn)游戏角色表情动画,以匹配任何语音轨道。

  开发(fā)人员(yuán)可(kě)选择集成(chéng)整个(gè)NVIDIA ACE for Games解决方案,也(yě)可仅使用需要(yào)的组件。

  新参考工作流程:帮助建设数字化智能(néng)工厂(chǎng)

  黄仁勋表示,全球电(diàn)子制造商正(zhèng)在(zài)使用一种全新的综合参考工作流程(chéng)推进(jìn)工业数字化工作,该工作流程结合(hé)了英伟达用(yòng)于生(shēng)成(chéng)式AI、3D协作(zuò)、仿真和自主机器(qì)的技术,包括:

  英(yīng)伟(wěi)达Omniverse,其连接了顶级计算机辅助设计应用(yòng)以(yǐ)及生成式AI的API和前沿框架(jià);用于模拟(nǐ)和测试机器人的英伟达(dá)Isaac Sim应用程序;英伟达(dá)Metropolis视觉AI框架,用于自动(dòng)光学检测(cè)。

  同时,黄仁勋现场展示(shì)了一个完全数(shù)字化(huà)的智能工厂(chǎng)的演(yǎn)示(sh没有港口是永远的停留的寓意是什么 集装箱到港口可以停留多长时间ì)。

  目前(qián)富士康工业(yè)互联网、宜鼎国(guó)际、和(hé)硕(shuò)、广达和纬(wěi)创正在使用(yòng)这一参考工作流程(chéng),具体(tǐ)用(yòng)例包括(kuò)电(diàn)路(lù)板质保检(jiǎn)测点自动化(huà)、光学(xué)检测自动化(huà)、建设虚拟工厂、模拟协作(zuò)机器(qì)人(rén)、构建及运营数字孪生等。

  MGX服务(wù)器规范:快速高效(xiào)构(gòu)建百余种服务器配置

  英伟达发布NVIDIA MGX服务器规范(fàn),为(wèi)系统制造商提供模(mó)块化参考架构,满足各(gè)种规模(mó)的数(shù)据中心需求。系统(tǒng)制造(zào)商可使用(yòng)它(tā)快速且经(jīng)济(jì)高效地构建100多(duō)种(zhǒng)服务(wù)器配置,以(yǐ)适应广泛的AI、HPC及(jí)NVIDIA Omniverse应用。

  MGX支(zhī)持(chí)英伟达全系列GPU、CPU、DPU和(hé)网(wǎng)络适(shì)配器(qì)、各种x86、完整软(ruǎn)件堆(duī)栈(zhàn)及Arm处理器,还可集(jí)成到云和企业数据中(zhōng)心(xīn)中。

  华(huá)硕、和硕(shuò)、QCT、超微(Supermicro)等都将(jiāng)采用(yòng)MGX构(gòu)建下一代(dài)加速计算机,可(kě)将开发成本削减多达(dá)3/4,并(bìng)将开(kāi)发时(shí)间(jiān)缩短(duǎn)2/3至仅需(xū)6个月

  其中,QCT和(hé)超(chāo)微基于(yú)MGX的(de)设计将于(yú)8月面世。超微昨日(rì)公(gōng)布的ARS-221GL-NR系统将采用Grace CPU,而QCT的(de)S74G-2U系统将采用(yòng)Grace Hopper。

  推出Spectrum-X网络平台 构建超大规模(mó)生(shēng)成式(shì)AI超级计算机Israel-1

  另(lìng)外,黄仁勋宣布推(tuī)出(chū)NVIDIA Spectrum-X网络平台,旨(zhǐ)在(zài)提高基于以(yǐ)太(tài)网的AI云的性能和效率。

  相比传统(tǒng)以太网结构,Spectrum-X可实现1.7倍的整(zhěng)体AI性能(néng)和能(néng)效提升,并具有高度(dù)通用性(xìng),可用于各种AI应用(yòng)。它(tā)使用完(wán)全基于标准的(de)以(yǐ)太网,并可与基于(yú)以太网的堆栈(zhàn)互操作。该平台支(zhī)持256个200Gb/s端(duān)口,通过单个交换机连(lián)接,或(huò)在两层(céng)leaf-spine拓(tuò)扑(pū)中提供(gōng)16000个端口,以支持AI云增长和扩展,在保持性能的同时最(zuì)大限度减少网络(luò)延迟。

  全球领(lǐng)先云计算提供商正在采用(yòng)Spectrum-X平台扩展生成式AI服务,而(ér)Spectrum-X、Spectrum-4交换机、BlueField-3 DPU等已在戴尔、联想等系统制造商处提供(gōng)。

  此外,作为Spectrum-X参(cān)考设计的蓝图和测试(shì)平台,英伟达正构建一台超大规(guī)模生成式AI超级计算(suàn)机Israel-1。这台AI超算价值(zhí)数亿美(měi)元,将采用(yòng)戴尔PowerEdge XE9680服务器、英伟(wěi)达HGX H100超级计算平台、内置(zhì)BlueField-3 DPU和(hé)Spectrum-4交换机的(de)Spectrum-X平台。

  结语

  “40年来(lái),我(wǒ)们创造了(le)PC、互联网、移动、云,现(xiàn)在是(shì)人工(gōng)智能(néng)时代。你(nǐ)会创(chuàng)造什么(me)?不(bù)管(guǎn)是什(shén)么,都要像我(wǒ)们一样追赶它。要(yào)奔(bēn)跑(pǎo),不(bù)要走。要么为(wèi)了食物(wù)奔跑,要么(me)作为食物(wù)奔跑(pǎo)。”

  在(zài)5月27日(rì)的台(tái)湾大学发表了毕业典礼演(yǎn)讲上(shàng),黄仁勋(xūn)再次强(qiáng)调了掌握AI技(jì)术的重要性:很多人担心,AI会抢走自己(jǐ)的工作。但真正会(huì)抢走你饭碗的,是掌(zhǎng)握(wò)了AI技(jì)术的人(rén)。

  他表示,从各方(fāng)面来看,AI的兴盛是计算(suàn)机产(chǎn)业的再生契机。在下(xià)个十年,我们的产(chǎn)业(yè)将使用新型AI电(diàn)脑,取代价(jià)值(zhí)万亿美元的传(chuán)统(tǒng)电脑。

  而从(cóng)昨日(rì)大会上黄(huáng)仁勋的展示中,人(rén)工智能(néng)时代的未来轮廓(kuò)似乎已逐渐浮现(xiàn)。

未经允许不得转载:绿茶通用站群 没有港口是永远的停留的寓意是什么 集装箱到港口可以停留多长时间

评论

5+2=