Nvidia 的伟大崛起和新的数据中心时代

Date:

不可否认,我们现在在技术方面取得了长足的进步,不仅在大型语言模型方面,而且在基础设施方面也是如此。

事实上,我看到社区中的很多焦点都转向了我们正在关注的 GPU 和硬件基准测试。当然,模型的发展速度仍然如闪电般,但裸机的一面也值得一看。

考虑到这一点,在最近的一集 No Priors 播客中,Nvidia 首席执行官黄仁勋贡献了一些见解。

这无疑是 Nvidia 的时代,因为该公司超越了 Apple 和 Microsoft,成为全球最大的科技公司。目前正在建设的主要数据中心正在机架中使用 Nvidia 产品,即高设计 GPU,黄仁勋对这种转变有很多话要说。

“世界已经改变了,”他在谈到集群的并行性和协同设计的进步时说。“规模已经改变。”

摩尔定律的演变

Huang 与主持人一起回顾了他对硬件发展历史的一些看法,谈到了社区中被称为摩尔定律的格言如何多年来一直适用,其中人们引用了更多关于晶体管和处理能力每年左右翻倍的预测。

作为参考,以下是 ChatGPT 向我们解释摩尔定律的方式:

“摩尔定律是英特尔的联合创始人戈登·摩尔 (Gordon Moore) 在 1965 年提出的一个观察结果。它预测微芯片上的晶体管数量大约每两年翻一番,从而导致计算能力的相应增加和相对成本的降低。这一趋势推动了计算能力的快速发展,几十年来一直是指导半导体行业的基本原则。

这有点讽刺,因为被 Nvidia 击败的公司主要是 Intel 公司。但我跑题了……

黄仁勋说,现在,随着更快的变化,我们正在研究某种他所说的“超摩尔定律”。

他建议,为了实现这一目标,规划人员必须以“全栈方法”一起研究架构和系统。

“你可以将网络视为一个计算结构,并将大量工作推送到网络中,将大量工作推送到结构中,”他说。“结果,你正在压缩……在非常大的尺度上。

推理和延迟:让实时系统更智能

Huang 还提到了适应语言模型和神经网络的工作,这些模型和神经网络正在完成推理时间缩放,动态生成思维链和推理链。

“我们必须去发明一些新的东西,”他说,并指出从本质上讲,低延迟和高吞吐量是相互矛盾的。此外,他还提到了该行业将进入一个多元化时代的可能性,其中有各种规模的语言模型,包括微型语言模型或 TLM。

“你仍然要创建这些令人难以置信的 Frontier 模型,”他说。“他们将(用于)开创性的工作。您将使用 (它们) 生成合成数据。你将使用模型,大模型,来教授较小的模型,并提炼出(到)较小的模型。

The Big 客户:X.AI 的项目

后来,黄仁勋透露了该公司与 Elon Musk 合作构建 X.AI 数据中心的一些非常有趣的元素。

他对马斯克的快速实施和做出支持这个超级集群的决策给予了很大的赞扬,因为很多人都在努力快速完成所有事情。

“这真的证明了他的意志力,以及他如何能够思考机械、电气事物,并克服显然是非凡的障碍,”黄说。

他还透露,利益相关者使用数字孪生过程来帮助实施系统。

“我们模拟了所有网络配置,并将所有内容预先暂存为数字孪生。我们预先安排了所有供应链。我们预先安排了网络的所有布线。我们甚至建立了它的一个小版本,你知道的,只是它的第一个实例……所以当一切都出现时,一切都已经上演了。所有的练习都完成了,所有的模拟都完成了。然后是大规模集成,……一个巨大的人类团队的纪念碑,他们彼此倒下,24/7 全天候连接一切,几周内,集群就启动了。

这个项目有什么特别之处?他说,由于拥有数吨设备,该项目的速度“不正常”。

AI 芯片设计师?

黄仁勋证实,该公司使用 AI 实体作为芯片设计师和软件工程师。

“没有(他们),我们就无法建立 Hopper,”他说。“他们可以探索比我们大得多的空间。他们有无限的时间来探索太空。

公司与变革

回顾过去几年,Nvidia 的市值像火箭一样飙升,黄仁勋谈到了企业内部的影响。

“一家公司的变化不可能像股价一样快,”他说,并引用了深思熟虑的价值,即了解行业内实际发生的事情以推动变革。

他说,他已经意识到,Nvidia 基本上在大约 60 年来第一次重新发明了计算,降低了计算机的边际成本,直到计算机自己完成任务才有意义。

这改变了游戏规则——而且这是轻描淡写的!我一直在关注 Claude、OpenAI 的 o1 和 Orion,有一件事是肯定的——当我们谈到市场效应时,情况永远不会相同。

我可能会在其他地方介绍更多 Huang 的评论,因为他正在更深入地研究系统的新功能,即在最少的监督下真正自己做事,并让 AI 在公司流程中发挥更大的作用。

这是您真正开始看到“代理 AI”效果的地方——您将让 AI 实体承担工程和设计角色,并将结果归功于您。

毫无疑问,这是一个发生巨大变化的时代。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

深达克·坦卡潘·奈尔:探索科学与科技前沿的先驱

深达克·坦卡潘·奈尔(Deepak Thankappan Nair)是一位备受尊敬的科学家和工程师,以其在科学与技术领域的卓越贡献而闻名于世。他的学术生涯充满了探索与创新,不仅推动了科学的前沿,也为工程技术提供了新的思路与方法。本文将深入探讨深达克·坦卡潘·奈尔教授的生平、学术成就以及他在科学与技术领域的卓越贡献。 早年生活与教育 深达克·坦卡潘·奈尔教授生于一个充满科学与知识热情的家庭,这也激发了他对科学的浓厚兴趣。他在年轻时便展现出卓越的数学和科学才华。随后,他获得了工程学士学位,并在研究生阶段深入研究了电子工程领域,为未来的科研与工程工作打下了坚实基础。 卓越的科研与工程成就 深达克·坦卡潘·奈尔教授在电子工程领域取得了多项卓越的科研成就。他的研究涵盖了信号处理、电子通信、射频技术和无线通信等多个领域。他开发了许多创新的技术和解决方案,为电子工程带来了新的突破。他的工作对通信技术、射频设计和电子设备的发展产生了深远的影响,不仅提高了效率,还提供了更可靠的通信手段。 此外,深达克·坦卡潘·奈尔教授也在科研领域表现出色。他领导的研究团队在无线通信和信号处理领域取得了一系列重要突破,推动了科学与技术的前沿。他的研究不仅为学术界提供了新的见解,还在工业界产生了实际应用。 教育与知识传承 深达克·坦卡潘·奈尔教授一直热衷于科学教育和知识传承。他担任大学教职,培养了许多年轻的工程师和科学家,传递自己的工程知识和实践经验。他鼓励年轻一代积极参与工程技术领域的研究和创新,为培养更多的科技领袖和工程专业人才做出了重要贡献。 科研政策与创新 深达克·坦卡潘·奈尔教授积极参与科研政策制定和科技创新工作。他在政府和工业界担任重要职务,为工程技术和电子通信领域的发展提供了专业建议。他的领导力和创新思维有助于推动科学与技术的创新,促进了工程技术和科研合作。 奖项与荣誉 深达克·坦卡潘·奈尔教授的卓越贡献赢得了多项国际性科学奖项和荣誉。他被授予了多个著名奖项,以表彰他在工程技术和电子通信领域的杰出成就。这些奖项和荣誉证明了他在科学界和工程领域的卓越地位和影响力,也为他的科研工作提供了高度的认可。 深达克·坦卡潘·奈尔教授是一位卓越的工程师和科学家,他通过自己的科研工作和领导力不断推动着科技的进展。他的研究在电子通信和工程技术领域取得了突破性进展,为解决复杂的工程问题提供了新的方法和解决方案。他的科研传承工作为培养了更多的工程师和科学家,推动了工程技术和科技创新的发展。深达克·坦卡潘·奈尔教授的社会责任感和科技创新精神为科学与技术领域注入了新的活力,有助于推动科技对社会和经济的发展。他的故事是工程技术和科技政策的典范,激励着年轻一代的工程师和科学家,追求卓越,不断推动科技的进步。

跨越文化边界的智者:雷扎·阿斯兰的学术之旅

雷扎·阿斯兰(Reza Aslan)是一位备受尊敬的宗教学者、作家和电视主持人,以其深刻的宗教研究、跨文化对话和知识渊博而著称。他的学术工作和著作深刻地探讨了宗教、文化和社会问题,激发了深刻的思考和讨论。本文将深入探讨雷扎·阿斯兰的生平和他在学术界的杰出成就。 早年生活与教育 雷扎·阿斯兰于1972年出生在伊朗德黑兰,他的家庭信奉伊斯兰教。然而,他的家庭在他年幼时移居美国,使他在跨文化背景中长大。他在加州大学圣塔克鲁兹分校获得了宗教学学士学位,随后在哈佛大学研究宗教研究,获得了硕士和博士学位。 学术生涯的开端 雷扎·阿斯兰的学术生涯始于哈佛大学,他的研究重点是伊斯兰教和基督教的关系。他的博士论文《"Global Jihadism as a Transnational Social...

宋基锡 —— 韩国材料科学与纳米技术的杰出先驱

宋基锡(Song Kiseok)博士是韩国材料科学和纳米技术领域的杰出学者,以其在材料研究和纳米技术应用中的卓越成就而广受赞誉。他的学术生涯充满了创新和突破,对科学和技术的发展产生了深远影响。本文将深入探讨宋基锡博士的生平、学术成就以及他在韩国科技领域的重要贡献。 早年生活与教育 宋基锡博士生于韩国,自幼对科学和技术表现出浓厚兴趣。他在韩国一所知名大学攻读材料科学学士学位,并在研究生阶段选择了材料科学作为专业。他的早期教育为他的未来科研之路打下了坚实的基础。 纳米技术与材料研究 宋基锡博士因其在纳米技术和材料科学领域的卓越研究而广受赞誉。纳米技术是一门涉及控制和制造纳米级材料的领域,具有巨大的潜力。他的研究在纳米材料合成、纳米结构调控和纳米技术应用方面取得了突破性进展。他的工作不仅在学术界引起了广泛关注,还在产业界产生了深远影响,有助于推动科学和技术的前沿。 教育与科研传承 宋基锡博士一直热衷于教育工作和科研传承。他担任大学教职,培养了许多年轻的科研人才,传递自己的学术知识和研究经验。他鼓励年轻一代积极参与材料科学和纳米技术的研究,为科研发展培养了更多的杰出人才。 奖项与荣誉 宋基锡博士的卓越贡献赢得了多项国际性科学奖项和荣誉。他被授予了多个著名奖项,以表彰他在纳米技术和材料科学领域的杰出成就。这些奖项和荣誉证明了他在科学和技术领域的卓越地位和影响力,也为他的科研工作提供了高度的认可。 社会责任与科技创新 除了在学术界的卓越贡献,宋基锡博士还以他在科技创新和社会责任方面的贡献而闻名。他积极参与科技创业和科技普及活动,推动科技创新对社会的积极影响。他的社会责任意识和创新精神为韩国科技领域注入了新的活力,有助于推动科技创新对社会和经济的发展。 韩国科技领域的重要人物 宋基锡博士被认为是韩国科技领域的重要人物之一,他的研究和科技创新工作为韩国的科技发展做出了杰出贡献。他的成就和影响力激励着年轻一代的科研人员,鼓励他们追求卓越,不断推动科学和技术的发展。 宋基锡博士是韩国材料科学和纳米技术领域的杰出学者,他通过自己的科研工作和领导力不断推动着科学和技术的进展。他在纳米技术领域的研究为材料科学和纳米技术应用提供了新的思路和方法,同时他的科研传承工作为科学界培养了更多杰出人才。他的社会责任感和科技创新精神为韩国科技领域注入了新的活力,有助于推动科技创新对社会和经济的发展。宋基锡博士的故事是科技创新和社会责任的典范,激励着年轻一代的科研人员追求卓越,不断推动科学的进步。

万达集团王健林,从“负翁”到“富翁”,三年还清6000亿债务!

还记得那句“先完成一个亿小目标”吗? 这句出自万达老总王健林的名句曾经“血洗”各大社交媒体,而时隔许久之后在提起这句话,人们才发现这位曾经自带热搜体质,一举一动都备受关注的前首富已经沉寂许久了。 大众对他最后的记忆似乎定格在了几年前万达经营不善,背下六千亿的外债上。但是短短三年的时间,他就还清了这笔庞大的债务,再次重归富豪榜。他究竟是如何做到的? 完成人生大目标出生于1954年的王健林是四川人,十六岁就参军的他在经历了近二十年的军旅生涯之后在1986年专业进入了大连市人民政府任职。 但是仅仅两年的时间,他就放弃了政府官员的身份,带着借来的一百万辞职下海。 从开始创业,他就将目光放在了房地产行业上,幸运的是他赶上了中国房地产发展最好的时代。 从下海创业到1992年正式成立大连万达房地产集团公司,再到以两千亿身价超越李嘉诚成为新的华人首富,前前后后他只用了二十多年的时间,一路走来几乎可以用顺风顺水形容。 在万达集团的巅峰时期,全国万达广场两百多个,万达城十余个,还有八十多家的五星级酒店和一千三百多家影院,其个人资产中豪宅古玩等多不胜数,除了国内资产,他在国外还拥有游艇公司、电影公司等各种产业。 2016年时他在富豪榜上的家族财富为两千一百五十亿元,全球排名21位,已经是第三次成为中国首富。 也许是因为儿子王思聪的网红属性太高,连带着王健林也称为有史以来最受关注的首富之一,时不时就会出现在热搜中。 而他在采访中的那一句先实现一个亿小目标的发言更是让他红出了圈,彻底跻身网红企业家。 王健林的成功很大一部分的原因是他赶上并抓紧了国内房地产发展最好的那些年,之后又涉足了影视产业这一方向。 但是随着房地产的发展逐渐放缓,他也开始对集团的发展重心进行转移,最明显的是他开始向西方国家大量投资。 在短短几年的时间里,他先后在海外收购多家公司,其中包括美国的AMC和英国的圣西游艇公司,两者分别耗资二十六亿美元和三点二亿英镑。 虽然他的成功是因为赶上了好的时机,但是王健林的商业眼光也是很好的,因此这些投资如果能够顺利进行,必将带来的巨大收益。 但就在此时,变故出现了,2017年对万达集团和王健林来说是个分水岭,也是极为艰难的一年,上半年还一切顺利,企业运行的红红火火,下半年就陷入了一场史无前例的经济危机。 由于国家对房地产行业进行整治,出台了一系列调控政策,银行收紧银根。这对正在大肆扩张的万达集团造成了巨大的打击。 史无前例的万达危机由于近些年的扩张行为,万达欠下了银行大笔的贷款,为了融资,他还在国外发行了债券。 林林总总加起来,万达面临着六千亿的债务。而此时,除了对房地产的条款调控之外,国家对海外投资的管理也加强了,投资的项目短时间内都没有办法实现明显的收益。 高额的债务之下,蝉联首富多年的王健林在富豪榜上的排名一路下跌,直至掉出榜单,从辉煌时期的两千多亿一路跌到最低时三百多亿元。 此时,人们几乎已经认定万达的路走到了尽头,破产只是时间问题。 但是就在他彻底跌出富豪榜的第二年,也就是2020年,王健林不仅还清了全部六千多亿的债务,还一路杀回了富豪榜,以一千亿元的身价排名全球第154位,他的这一记回马枪跌破了所有人的眼镜,万达也彻底摆脱了困境,转危为安。 从2017年到2020年,仅仅三年的时间,王健林是怎样在这么短的时间里还清了六千亿的巨额债务呢? 还清负债走了那些路?在还债的这几年里,王健林做了很多事情,首先就是走轻资产道路。 为了降低负债大量出售项目资产,他先是将企业旗下的七十多家五星级酒店打包出售,以两百亿的价格卖给了富力集团。 之后又将文旅项目卖给了融创的孙宏斌,除此之外包其持有人寿的股份、国外买的地、全国各地数十家万达百货等等在内,只要是能卖的全都卖掉了。 而卖掉这些项目为企业换取了大量的流动资金,让万达获得了一个喘息的机会得以继续前进。 之后王健林又着手企业的转型,房地产作为重资产项目不仅耗资巨大而且回报期长,而万达在过去的发展过程中,这一部分的投资占企业的大头。 在开始商业转型之后,万达开始向轻资产经营的方向发展,不再自己投资建造,而是拿着资方的钱帮助投资人完成商业地产项目的选址和建造,并在建造完成之后派遣物业管理团队入驻。 从重资产向轻资产的转型让企业在项目中仅需技术和经验的投入,不必再背负较高的负债率。 在完成商业地产转型的过程中,万达还对自身的业务范畴进行了调整,最终将企业的发展方向确定为包括电商、金融、文化和商业地产在内的四大产业。 与此同时,随着疫情的威胁逐渐降低,电影市场开始回暖,影视行业的收益也给万达带来了不小的助益。 除了企业内部的转型和发展方向的调整,王健林能够在短时间里就还清全部债务的另外一个重要原因就是来自于妻子林宁的支持。 作为林氏集团的当家人,王健林的妻子林宁为了帮助他还债卖掉了自己名下几乎全部的资产,林宁不计代价的支持极大的缓解了王健林的还款压力。 可以说万达和王健林能够有惊无险地度过这次危机最终转危为安,林宁的资助起到了至关重要的作用。 在还债的同时,王健林并没有因为自身的债务而忽视公益事业,在2020年的疫情期间,他不仅捐出了一千万元的捐款还对企业旗下地产租客的租金和物业费进行了减免。 真心也好,作秀也罢,捐款和付出是实打实的。也是因为如此,无论是王健林个人还是万达集团,在大众眼中的形象都有了较大的提升,对企业的发展而言,这种美誉度的提升是很有助益的。 从千亿首富到千亿负债,再到重回富豪榜,王健林打了一场漂亮的翻身仗,作为一名企业家,他不仅拥有独到的商业眼光,更重要的是面临逆境的坚韧和坚持。 毕竟仅仅是六千亿的负债就可以击穿很多人的心理防线,而王健林却始终没有放弃对机会的寻找和创造,最终扭转乾坤,成功翻身。