老黄携「超级GPU」炸场!E级AI超算性能飞升,买越多越划算,谷歌微软Meta抢先试用-全球热头条

2023-05-29 17:47:31   来源:创业邦

英伟达又放大招了,这次直接用超级GPU GH200燃爆了市场。

编者按:本文来自微信公众号 吴晓波频道(ID:wuxiaobopd),作者:巴九灵,创业邦经授权发布。


(资料图片仅供参考)

今日的COMPUTEX大会上,英伟达CEO黄仁勋向全世界宣布——

我们已经到达了生成式AI的引爆点。从此,全世界的每个角落,都会有计算需求。

股价刚刚暴涨2000亿美元的英伟达,为这一刻早已做好准备。

一开场,身着黑皮衣的老黄慷慨激昂地走上舞台,「大家好!We’re back!」

随后,便祭出大杀器——「超级GPU」 GH200,并宣布谷歌云、Meta和微软将率先获得GH200。

据称,有超过3500人亲临现场,体验了这个长达2个小时的激情演讲。

时隔4年,阔别已久的老黄也是狂飙中文。

「超级芯片」GH200

要说,这次演讲中,重头戏还是在GPU上。毕竟AI的iPhone已经来临。

老黄左右手分别端了一个芯片,重磅宣布,「GH200超级芯片」已经全面投产。

这一「超级GPU」使用NVLink-c2c互连技术,将基于ARM节能的GraceCPU和高性能NVIDIA H100 Tensor Core GPU结合在一起,提供了高达900GB/s的总带宽。

目前,由GH200加持的系统加入了400多种系统配置。

这些系统配置由英伟达最新的CPU、 GPU和DPU架构的不同组合提供动力。

其中包括Grace、Hopper、Ada Lovelace和BlueField,这些架构的创建是为了满足对生成式AI不断增长的需求。

此外,老黄还宣布了一个更重磅的:256个GH200组成的超算来了。

超算DGX GH200,今年上市

英伟达表示,全新DGX GH200人工智能超级计算平台,是专为大规模生成式AI的负载而设计。

这台由256块Grace Hopper超级芯片组成的超算,将拥有高达1 exaflop的超凡AI性能,以及144TB的共享内存(比上一代DGX A100多了近500倍)。

举个例子,在GPT-3训练中,它能比上一代DGX H100集群快2.2倍。

此外,这个庞然大物还包含了150英里的光纤和2,000多个风扇。

目前,英伟达已经与三大巨头进行了合作,谷歌、 Meta和微软。

由于生成式人工智能的爆炸式增长,微软、谷歌等巨头希望拥有更强大、性能更好的系统。

而DGX H200的设计目的是,通过使用英伟达定制的NVLink Switch芯片,绕开InfiniBand和以太网等标准集群连接的局限性,为最大工作负载的大规模可扩展性提供最大的吞吐量。

另外,英伟达表示正在建造自己的大型AI超级计算机NVIDIA Helios,预计在今年上线。

它将使用4个与NVIDIA Quantum-2 InfiniBand网络连接的DGX GH200系统,以提高数据吞吐量,以训练大型AI模型。

以往的数据中心都非常庞大,而且是基于CPU的,算法的迭代要花很长时间,大部分算法,也都是CPU中心的。

而现在,有了Grace Hopper,只需要几天甚至几个小时,就能完成这个过程。简直要把整个行业都革命掉了!

(等等,PaLM的参数不是540B么?)

老黄:买越多,越省钱!

作为现在的扛把子,这样一个重65磅,价值200000美元的H100计算机,是世界上第一个搭载了Transformer Engine,也是目前全世界最昂贵的计算机。

老黄表示,可以说,像这样的产品,你买得越多,就省得越多。

接下来,老黄提到1964年的IBM 360,强调了CPU的重要性。

老黄自信地重复表示,「而60年后,我们现在有数据中心。今天,数据中心就是一个计算机。」

正如老黄所说,一种新的计算模式正在被创造。

为什么使用GPU胜过使用CPU?

老黄从配置上给出了分析:花费1000万美金成本,你可以建置一个有960颗CPU的数据中心,但这个数据中心要11GWh的功率,处理1X LMM(大语言模型)的数据量。

但一样的钱,你可以建置一个配备有48个GPU的数据中心,但只要3.2GWh的功耗,而且可以处理44X LLM的数据量。

要知道,如此配置已经足够惊人。然而,这还不够。

为了获得极致性能,你可以在功耗不变的情况下,把GPU数量直接拉到172个。

此时的算力,可以高达CPU数据中心的150倍。当然,预算也提高到了3400万美元。

此外,如果你就只是单纯地想完成手头的工作(1X LLM),老黄也帮你把成本打下来了——

只需花40万美金,就能买一个搭载了2个GPU的数据中心,功耗仅0.13GWh。

台下响起一片掌声,老黄又拿出了口头禅「The more you buy,The more you save」,甚至重复了三遍。

这背后的策略,究竟是什么?老黄给了一个公式。

MGX:模块化架构

与此同时,老黄还推出了NVIDIA MGXTM,一个供系统制造商快速、低成本地构建100多个服务器变体的参考架构。

据称,这个规范可以将开发成本削减多达四分之三,并将开发时间缩短三分之二,仅需要6个月。

有了MGX,科技公司可以为他们的服务器优化加速计算的基本系统架构,然后选择自己的GPU,DPU和CPU。

MGX还可以很容易地集成到云和企业数据中心。

除了硬件之外,MGX还得到了英伟达完整软件栈的支持,这使得开发者和企业能够构建和加速 AI、 HPC 和其他应用程序。

这包括NVIDIA AI Enterprise,NVIDIA AI平台的软件层,其特点是有100多个框架、预训练的模型和开发工具,以加速人工智能和数据科学,为企业人工智能开发和部署提供充分支持。

将AI引入游戏,实时语音聊天的NPC角色来了

这次演讲的亮点,还有全新的定制AI模型代工服务 ——Avatar Cloud Engine (ACE) for Game。

现场,老黄右手手持一块RTX 4060 Ti,左手手持一台电脑,展示了运行实时光线追踪的Cyberpunk 2077。

在一个充满「赛博朋克」风格的拉面店场景中,玩家按下一个按钮,可以用自己的声音说话,然后店主Jin会进行回答。

Jin是一个NPC角色,但他的回答是由生成式AI根据玩家的语音输入实时生成的。Jin还有着逼真的面部动画和声音,与玩家的语气和背景故事相符。

这个逼真人物角色的生成,使用了一个实时人工智能模型渲染工具Nvidia Ace。

老黄表示,这个游戏中的角色并没有预先设定。他们有一个典型的任务提供者NPC类型。

但是从视频中,可以看到,虚拟角色的谈话有点生硬,但还不算太糟。

那些没有AI专业知识的人,将被抛弃

40年来,我们创造了PC、互联网、移动、云,现在是人工智能时代。

你会创造什么?不管是什么,都要像我们一样追赶它。要奔跑,不要走。要么是你为食物而奔跑,要么就是你任自己逃避,成为食物。

5月27日,黄仁勋在台湾大学发表了毕业典礼演讲。

此刻,他正为全世界所瞩目。

瞬间变身万亿掌门人,让他的话更有底气。

黄仁勋表示,每个公司和个人都应该熟悉人工智能,否则,就有失败的危险。

他强调:敏捷的公司会利用人工智能提高自己的地位,这样的公司不会倒闭。

很多人担心,AI会抢走自己的工作,但真正会抢走你饭碗的,掌握了AI技术的人。

当时,他在演讲中预言:从各方面来看,AI的兴盛是计算机产业的再生契机。在下个十年,我们的产业将使用新型的AI电脑,取代价值万亿美元的传统电脑。

而从今天的演讲中,我们仿佛已经窥见了这种未来的雏形。

参考资料:

https://www.youtube.com/watch?v=fHwmLOYJU_w

本文为专栏作者授权创业邦发表,版权归原作者所有。文章系作者个人观点,不代表创业邦立场,转载请联系原作者。如有任何疑问,请联系editor@cyzone.cn。

关键词:

精彩阅读

老黄携「超级GPU」炸场!E级AI超算性能飞升,买越多越划算,谷歌微软Meta抢先试用-全球热头条

资讯

老黄携「超级GPU」炸场!E级AI超算性能飞升,买越多越划算,谷歌微软Meta抢先试用,英伟达又放大招了,这次

电脑温度检测工具有哪些?win10温度监控小工具通知栏温度提示怎么设置?

资讯

电脑温度检测工具有哪些?一、魔方温度检测魔方温度监测是一款用于监测电脑设备温度的小工具,它能够支持监测CPU、硬盘、主板等设备的实时温

系统备份如何还原?系统备份软件有哪些?

资讯

系统备份如何还原?方法一:1、在控制面板中,选择系统和安全;2、点击备份和还原,选择要从中还原的备份文件即可。方法二:1、打开计算机的

火热与冷门,薛定谔的公费生

资讯

火热与冷门,薛定谔的公费生,入学签合同,毕业去乡村。

日企罗森向加盟商低下“头颅”-焦点速看

资讯

日企罗森向加盟商低下“头颅”,罗森逆势暴增,这背后或许是外资便利店品牌终于认清了眼前的局势。

曾年赚百万的美妆博主,收入大跳水

资讯

曾年赚百万的美妆博主,收入大跳水,美妆博主“躺赚”时代不再。

网约车运力饱和,下半程驶向何方?

资讯

网约车运力饱和,下半程驶向何方?,网约车行业的景气度已经逼近红线。

老板燃气灶如何换电池?老板燃气灶点不着火怎么办?

资讯

老板燃气灶如何换电池?1、把老板燃气灶从左右两边用手把燃气灶从橱柜台面给掀起来。2、燃气灶背部可以看到有一个电池盒,这个是装燃气灶电

世界焦点!宋铮直播救天涯

资讯

宋铮直播救天涯,最让老黑发愁的,是没人骂他。

【环球热闻】风投成“张一鸣们”抵御焦虑的良药?

资讯

风投成“张一鸣们”抵御焦虑的良药?,商业大佬纷纷出手。

财富

老黄携「超级GPU」炸场!E级AI超算性能飞升,买越多越划算,谷歌微软Meta抢先试用-全球热头条

资讯

老黄携「超级GPU」炸场!E级AI超算性能飞升,买越多越划算,谷歌微软Meta抢先试用,英伟达又放大招了,这次

电脑温度检测工具有哪些?win10温度监控小工具通知栏温度提示怎么设置?

资讯

电脑温度检测工具有哪些?一、魔方温度检测魔方温度监测是一款用于监测电脑设备温度的小工具,它能够支持监测CPU、硬盘、主板等设备的实时温

系统备份如何还原?系统备份软件有哪些?

资讯

系统备份如何还原?方法一:1、在控制面板中,选择系统和安全;2、点击备份和还原,选择要从中还原的备份文件即可。方法二:1、打开计算机的

火热与冷门,薛定谔的公费生

资讯

火热与冷门,薛定谔的公费生,入学签合同,毕业去乡村。

日企罗森向加盟商低下“头颅”-焦点速看

资讯

日企罗森向加盟商低下“头颅”,罗森逆势暴增,这背后或许是外资便利店品牌终于认清了眼前的局势。

曾年赚百万的美妆博主,收入大跳水

资讯

曾年赚百万的美妆博主,收入大跳水,美妆博主“躺赚”时代不再。

网约车运力饱和,下半程驶向何方?

资讯

网约车运力饱和,下半程驶向何方?,网约车行业的景气度已经逼近红线。

老板燃气灶如何换电池?老板燃气灶点不着火怎么办?

资讯

老板燃气灶如何换电池?1、把老板燃气灶从左右两边用手把燃气灶从橱柜台面给掀起来。2、燃气灶背部可以看到有一个电池盒,这个是装燃气灶电

世界焦点!宋铮直播救天涯

资讯

宋铮直播救天涯,最让老黑发愁的,是没人骂他。

【环球热闻】风投成“张一鸣们”抵御焦虑的良药?

资讯

风投成“张一鸣们”抵御焦虑的良药?,商业大佬纷纷出手。

1081万元!中国广电固定语音网络业务支撑系统工程项目|世界快讯

据工信部2022年通信业统计公报,该年共完成固定语音业务收入201 4亿元,比2021年下降了9 5%。

全球聚焦:加速科研转化,曙光智算打造“迅捷响应”计算服务

2023年,以ChatGPT为代表的AIGC浪潮引发科研、人工智能领域算力需求井喷。

抖音新规落地!虚拟主播终于“合法”,但必须自曝身份、真人驱动

抖音明确提到,使用人工智能辅助创作本身,并不会违反平台规范,是被允许的行为。

方糖星球完成数千万元融资 虚拟空间场景为何引资本关注?

元宇宙的众多垂直领域正在全面绽放。

百融云播种的AI种子,能开几季花?

高高在上的AI龙头,下不去手不应该被责怪,因为对于本金没有优势的投资人,持仓成本才是收益率的唯一抓手。

天天快播:小说的特点突出体现在哪些方面 小说的特点

今天来聊聊关于小说的特点突出体现在哪些方面,小说的特点的文章,现在就为大家来简单介绍下小说的特点突出

中铁建摘西安港务区82亩住宅用地 总价款10.35亿元|环球消息

中铁建摘西安港务区82亩住宅用地总价款10 35亿元,中铁,绿地率,住宅用地,西安港务区,西安咸阳国际机场

环球焦点!雷电预警来了!上海目前“高温+雷电”双黄预警高挂

上海中心气象台2023年05月29日14时15分发布雷电黄色预警信号:预计今天半夜以前本市大部地区将发生雷电活动

台风“玛娃”向西北方向移动 今晚开始明显减速 天天最资讯

台风“玛娃”向西北方向移动今天晚上开始明显减速。中央气象台5月29日10时继续发布台风预报。

泸溪县委办开展“庆六一”民族团结一家亲主题活动-环球新资讯

湖南日报·新湖南客户端5月29日讯(通讯员廖平伟)“六一”儿童节来临之际,湘西土家族苗族自治州泸溪县委办

剑网三手游五毒怎么样_剑网3五毒好玩吗

1、亲爱的玩家您好!五毒对操作要求较低,输出能力和治疗能力很强,可玩性一般。2、推荐:迅游网游加速器。