FigureAsia  Prize & Award 2024  NominationsFigureAsia  Prize & Award 2024  NominationsFigureAsia  Prize & Award 2024  NominationsFigureAsia  Prize & Award 2024  Nominations
商务合作商务合作商务合作商务合作

Nvidia 的伟大崛起和新的数据中心时代

Date:

不可否认,我们现在在技术方面取得了长足的进步,不仅在大型语言模型方面,而且在基础设施方面也是如此。

事实上,我看到社区中的很多焦点都转向了我们正在关注的 GPU 和硬件基准测试。当然,模型的发展速度仍然如闪电般,但裸机的一面也值得一看。

考虑到这一点,在最近的一集 No Priors 播客中,Nvidia 首席执行官黄仁勋贡献了一些见解。

这无疑是 Nvidia 的时代,因为该公司超越了 Apple 和 Microsoft,成为全球最大的科技公司。目前正在建设的主要数据中心正在机架中使用 Nvidia 产品,即高设计 GPU,黄仁勋对这种转变有很多话要说。

“世界已经改变了,”他在谈到集群的并行性和协同设计的进步时说。“规模已经改变。”

摩尔定律的演变

Huang 与主持人一起回顾了他对硬件发展历史的一些看法,谈到了社区中被称为摩尔定律的格言如何多年来一直适用,其中人们引用了更多关于晶体管和处理能力每年左右翻倍的预测。

作为参考,以下是 ChatGPT 向我们解释摩尔定律的方式:

“摩尔定律是英特尔的联合创始人戈登·摩尔 (Gordon Moore) 在 1965 年提出的一个观察结果。它预测微芯片上的晶体管数量大约每两年翻一番,从而导致计算能力的相应增加和相对成本的降低。这一趋势推动了计算能力的快速发展,几十年来一直是指导半导体行业的基本原则。

这有点讽刺,因为被 Nvidia 击败的公司主要是 Intel 公司。但我跑题了……

黄仁勋说,现在,随着更快的变化,我们正在研究某种他所说的“超摩尔定律”。

他建议,为了实现这一目标,规划人员必须以“全栈方法”一起研究架构和系统。

“你可以将网络视为一个计算结构,并将大量工作推送到网络中,将大量工作推送到结构中,”他说。“结果,你正在压缩……在非常大的尺度上。

推理和延迟:让实时系统更智能

Huang 还提到了适应语言模型和神经网络的工作,这些模型和神经网络正在完成推理时间缩放,动态生成思维链和推理链。

“我们必须去发明一些新的东西,”他说,并指出从本质上讲,低延迟和高吞吐量是相互矛盾的。此外,他还提到了该行业将进入一个多元化时代的可能性,其中有各种规模的语言模型,包括微型语言模型或 TLM。

“你仍然要创建这些令人难以置信的 Frontier 模型,”他说。“他们将(用于)开创性的工作。您将使用 (它们) 生成合成数据。你将使用模型,大模型,来教授较小的模型,并提炼出(到)较小的模型。

The Big 客户:X.AI 的项目

后来,黄仁勋透露了该公司与 Elon Musk 合作构建 X.AI 数据中心的一些非常有趣的元素。

他对马斯克的快速实施和做出支持这个超级集群的决策给予了很大的赞扬,因为很多人都在努力快速完成所有事情。

“这真的证明了他的意志力,以及他如何能够思考机械、电气事物,并克服显然是非凡的障碍,”黄说。

他还透露,利益相关者使用数字孪生过程来帮助实施系统。

“我们模拟了所有网络配置,并将所有内容预先暂存为数字孪生。我们预先安排了所有供应链。我们预先安排了网络的所有布线。我们甚至建立了它的一个小版本,你知道的,只是它的第一个实例……所以当一切都出现时,一切都已经上演了。所有的练习都完成了,所有的模拟都完成了。然后是大规模集成,……一个巨大的人类团队的纪念碑,他们彼此倒下,24/7 全天候连接一切,几周内,集群就启动了。

这个项目有什么特别之处?他说,由于拥有数吨设备,该项目的速度“不正常”。

AI 芯片设计师?

黄仁勋证实,该公司使用 AI 实体作为芯片设计师和软件工程师。

“没有(他们),我们就无法建立 Hopper,”他说。“他们可以探索比我们大得多的空间。他们有无限的时间来探索太空。

公司与变革

回顾过去几年,Nvidia 的市值像火箭一样飙升,黄仁勋谈到了企业内部的影响。

“一家公司的变化不可能像股价一样快,”他说,并引用了深思熟虑的价值,即了解行业内实际发生的事情以推动变革。

他说,他已经意识到,Nvidia 基本上在大约 60 年来第一次重新发明了计算,降低了计算机的边际成本,直到计算机自己完成任务才有意义。

这改变了游戏规则——而且这是轻描淡写的!我一直在关注 Claude、OpenAI 的 o1 和 Orion,有一件事是肯定的——当我们谈到市场效应时,情况永远不会相同。

我可能会在其他地方介绍更多 Huang 的评论,因为他正在更深入地研究系统的新功能,即在最少的监督下真正自己做事,并让 AI 在公司流程中发挥更大的作用。

这是您真正开始看到“代理 AI”效果的地方——您将让 AI 实体承担工程和设计角色,并将结果归功于您。

毫无疑问,这是一个发生巨大变化的时代。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

古拉姆·阿里:吉他独奏的魔法音乐家

古拉姆·阿里(Ghulam Ali),是巴基斯坦音乐界备受尊敬的音乐大师,以其美妙的吉他独奏和深情的音乐而备受喜爱。他是吉他演奏的奇才,其独特的演奏技巧和深刻的音乐表达力使他成为了国际音乐舞台上备受瞩目的艺术家。在本文中,我们将深入探讨古拉姆·阿里的生平事迹、音乐成就以及他在巴基斯坦音乐界的重要地位。 古拉姆·阿里于1940年出生在巴基斯坦的卡拉奇,他的早年生活充满了音乐的热情。他在家庭的熏陶下,从小就开始学习音乐。他的音乐才华很快显现,他决心将吉他演奏发展成为自己的事业。 古拉姆·阿里的音乐生涯始于年轻时,他迅速崭露头角,并在吉他演奏领域获得了广泛的认可。他的演奏风格充满激情,常常深刻地表达了情感和情感。他的演奏技巧非常出色,能够在吉他上创造出丰富多彩的音乐画面,令人陶醉。 古拉姆·阿里的音乐作品融合了巴基斯坦传统音乐和西方音乐元素,形成了独特的音乐风格。他的音乐常常讲述爱情、人生和社会问题,歌词深刻,充满了诗意和哲理。他的演奏能够触动人心,引发听众深刻的思考和情感共鸣。 作为一名吉他演奏家,古拉姆·阿里的音乐吸引了无数的粉丝和音乐爱好者。他的音乐作品包括了一系列备受欢迎的吉他独奏专辑,如《苍穹下的旋律》(Melodies of the Sky)和《沉思之音》(Sound of Contemplation)等。这些专辑充满了吉他音乐的魅力,成为了音乐收藏家和欣赏者的珍贵之作。 古拉姆·阿里的音乐影响力不仅局限于巴基斯坦国内,还扩展到国际音乐舞台。他多次在国际音乐节和音乐会上演出,赢得了国际观众的欢迎和赞誉。他的音乐被翻译成多种语言,深受世界各地的听众喜爱。 然而,尽管他的音乐生涯充满了荣誉和成就,古拉姆·阿里一直保持了谦逊和坚韧。他关注慈善事业,积极参与了多个社会活动,致力于帮助贫困和弱势群体。他关注教育、文化传承和音乐教育等重要议题,通过他的音乐和社会活动为这些问题发声,积极推动社会的积极变革。 古拉姆·阿里是巴基斯坦音乐界的杰出代表,他的吉他演奏技巧、深情的音乐表达和音乐创造力使他成为了备受尊敬和令人瞩目的音乐大师。他的音乐作品充满了激情和情感,深受观众和音乐爱好者的喜爱。他的音乐将继续为巴基斯坦音乐界和国际音乐界带来深远的影响,他的一生都是一

用梦想和技术改变世界,张一鸣如何影响6亿中国人

他是一个技术出身的创业者,年仅三十余岁,先后创业失败四次,第五次一举创立“今日头条”和“抖音”等热门APP。 一朝身价高达1000亿,让他成为了中国互联网行业最受关注的青年之一。这样曲折的创业历程里有着怎样不为人知的故事,成功的背后又有着怎样的人生经历。 或许大家并不熟悉张一鸣这个人,但是一提到他所创立的平台,大家都耳熟能详。 不论是今日头条,还是抖音等等,几乎在每个人的手机里都有这些APP,可以说是渗透进了每个人的生活里。 或许在平常等待公车地铁的时候,就有很多人会打开“今日头条”看看讯息,又或者打开“抖音”刷刷小视频。 在网络上有这样一种说法,在短视频平台上有两个巨头“南抖音,北快手”。这句调侃也侧面体现了抖音的用户之广。 其实在创立“今日头条”和抖音之前,张一鸣已经有了四次创业的经历,这些经历也与他从小到大的成长历程息息相关。 张一鸣1983年出生于福建的龙岩市,他的父亲在事业单位上班,随着改革开放的浪潮,辞职下海去东莞开了一家电子加工厂。 父亲创业还算成功,母亲又是一名护士,有稳定的工作,在当时,张一鸣的家境已经算得上很不错了。 很多的孩子从小在父母亲的约束下成长,就连人生轨迹也是早早被父母安排好的。 埋下“创业种子”但是与这些普通孩子不一样,张一鸣在父母“放养”式的教育下,他成为了一个特别有主见、有行动力的孩子。 在他小的时候,只要是跟他相关的事情,父母都会征求他的意见,可以说张一鸣的人生路是自己一个一个决定走出来的。 良好的家境和开明的父母亲给予了他一个相对自由的成长环境,这也让他在整个成长历程里多了一些冒险精神。 由于工作关系,父母经常在日常生活里谈论关于国内外的技术创新。或许是从这个时候就埋下了种子。 在后来的学习生涯里,张一鸣也一直期望着能够做出真正有价值的东西,这些东西对于他而言不是像别人宽泛的说上一句想要成为科学家一样,而是要做出具象的东西。 比起一些模糊的概念,张一鸣更在意的是那些能够给他体验感和参与感的东西。这样的一个清晰认知让他选择了在大学时期攻读自己喜欢的软件工程专业。 开始创业张一鸣的第一次创业是在2005年南开大学毕业的时候,他和当时的大学同学们一起组建了一个3人团队。 他们满怀热血、下定决心要闯出一番天地,开发了一种企业协同办公系统。 但是因为经验不足,刚刚出社会的小伙子们没有弄清楚产品的市场定位,即使做出来了一个好的系统却没办法将它推销出去,导致了这次创业以失败告终。 第二次创业,张一鸣加入了一个定位是旅游搜索网站的酷讯。他还是酷讯的第一个开发工程师。 因为人手稀缺,只有他一个人有相关的技术经验,于是只能由他一个人来全面负责酷讯的搜索研发,就这样经过了一年的发展,他升职到了技术高级经理。 从一个人单打独斗到拥有了40多个员工。在由一名普通的技术人员再升职到管理者层面。 这其中很多都是让张一鸣不适应并且不满足,他想要提升自己的管理经验。于是乎,技术出身的张一鸣在2008年离开酷讯去了微软。 然而在微软上过一段时间的班后,更加让他下定决心创业。能进入微软这样的大公司,说明他的能力是被充分认可的。 但是在上班的这段时间里,他感到非常迷茫,没有一个明确的目标,仅仅只是做一个“码农”,写着一行又一行的代码。 这也与他一开始想要做的事情有很大的差异,甚至于张一鸣在提起这段经历的时候曾用“无聊”两字来形容。 微软没有挑战性的工作让他毅然决然地选择了辞职,踏上了接下来的创业征程。 第三次创业同样是以技术合伙人身份加入了饭否公司创业,还是负责饭否技术开发这个方向。但是饭否因为某些敏感因素被整顿。 独自创业于是在2009年10月,张一鸣开始第四次创业,这次他没有再找合伙人,而是选择了独立创业,紧跟着当时的潮流创办了一个房产搜索引擎——“九九房”。 “九九房”取得了阶段性的成功,它在当时成为了房产类应用的第一名,在当时移动互联网大环境下,有活跃用户150万。 这已经是一个很成功的创业案例了,但是张一鸣并不满足于此,他在2012年底选择辞去“九九房”CEO,再次乘风破浪,开始新的征途。 张一鸣带领的一个几十人的团队经过详细的市场调研等一系列的操作后,于2020年5月份推出一个试水的产品——"内涵段子",并且收到了不错的市场反响。 同年8月份又推出"今日头条"。经过了前四次的创业以后,他终于找准了一个方向,并取得了成功。 创办抖音从“今日头条”这个成功案例里,分析用户喜好数据并推送相关咨询的方式,也被延续到了后来张一鸣创办的抖音里。 这样具有社交性质的平台,用两年的时间用户数量从无到有,直到今天已经有了上亿的用户。 而更加具有“国民级别”的抖音短视频平台作为一个拍摄短视频的音乐社交平台,今年日活跃用户数量达到6.8亿,可以说全中国有几乎一半的人在使用这个软件。 它主打得通过视频来分享自己的生活让无数人从这个平台获得娱乐。 其实一开始,在2014年时张一鸣就曾经与团队讨论过是否要开发这样一个短视频平台。 但是当时因为市场上已经有了一部分这样的软件,这让张一鸣觉得这个风口已经过去了,于是这个项目被搁浅,到了2016年底才被重新拾起。 毫不夸张地说,也正是这一回首,让他身价暴涨,成为互联网行业里80后第一人。 张一鸣性格里的不走寻常路,勇于探索的精神让他获得了成功。作为技术人员出身却一步步成长为管理者,用“计算机”思维打开了新世界的大门。

赵国纯:新加坡的科学家和教育家

赵国纯教授是新加坡备受尊敬的科学家和教育家,以其在材料科学和工程领域的杰出贡献而广受赞誉。他的学术生涯充满了创新和领导力,对新加坡科技产业和高等教育产生了深远的影响。本文将深入探讨赵国纯教授的生平、学术成就以及他在材料科学领域的重要贡献。 早年生活与教育 赵国纯教授生于新加坡,自幼就表现出对科学和工程的浓厚兴趣。他在新加坡一所著名大学攻读材料科学和工程学士学位,并在研究生阶段选择了材料科学作为专业。他的早期教育为他未来的科研工作奠定了坚实的基础。 材料科学研究与突破 赵国纯教授在材料科学和工程领域取得了多项重要突破。他的研究涵盖了先进材料的合成、纳米技术、能源储存和转换等多个方面。他领导的研究团队在材料科学领域取得了显著成果,开发了创新的材料和技术,有助于解决能源和环境领域的复杂问题。他的工作不仅提高了新加坡在材料科学领域的国际地位,还为科技创新和工程应用提供了重要支持。 高等教育与科研传承 赵国纯教授一直热衷于高等教育和科研传承。他担任大学教职,培养了许多年轻的科学家和工程师,传递自己的材料科学知识和研究经验。他鼓励年轻一代积极参与科技创新和工程研究,为培养更多的科技领袖和专业人才做出了重要贡献。 科技政策与创新 赵国纯教授积极参与新加坡的科技政策制定和科技创新工作。他在政府和科技部门担任重要职务,为新加坡的科技产业和创新生态系统提供了专业建议。他的领导力和创新思维有助于推动新加坡在科技领域的发展,促进科技创新和工程应用。 奖项与荣誉 赵国纯教授的卓越贡献赢得了多项国际性科学奖项和荣誉。他被授予了多个著名奖项,以表彰他在材料科学和工程领域的杰出成就。这些奖项和荣誉证明了他在科学界的卓越地位和影响力,也为他的科研工作提供了高度的认可。 赵国纯教授是新加坡材料科学和工程领域的杰出科学家,他通过自己的科研工作和领导力不断推动着科技的进展。他的研究在先进材料和能源技术领域取得了突破性进展,为解决全球能源和环境挑战提供了新的方法和解决方案。他的科研传承工作为培养了更多的科技领袖和工程师,推动了新加坡在科技领域的进步。赵国纯教授的社会责任感和科技创新精神为新加坡的科技产业和高等教育注入了新的活力,有助于推动科技对社会和经济的发展。他的故事是科技研究和科技政策的典范,激励着年轻一代的科技创新者,追求卓越,不断推动科技的进步。

科学与国家的守护者:R. Chidambaram的核科学之路

R. Chidambaram(全名Raja Ramanna Chidambaram)是一位备受尊敬的核科学家和印度的国家安全领域的杰出领袖。他的职业生涯充满了杰出的科学成就和对国家利益的坚定承诺。Chidambaram以其在核物理和核科学领域的杰出贡献而闻名,他的工作在国际上广受赞誉。 Chidambaram生于印度泰米尔纳德邦,他在印度的多元文化背景中度过了他的童年和少年时期,这为他未来的科学事业打下了坚实的基础。他在印度的一所著名大学获得了学士学位,随后前往美国,在康奈尔大学攻读博士学位,成为一名杰出的核科学家。 Chidambaram的研究领域主要集中在核物理、核能和国家安全上。他的工作涵盖了广泛的科学问题,为印度的核科学和技术发展提供了重要的方向和动力。 他最著名的研究之一是关于核爆炸和核试验的工作。Chidambaram是印度核试验计划的领导人之一,他的团队成功进行了一系列核试验,将印度确立为核武国家。他的工作在国际上引起了广泛的关注和讨论,对国际核裁军和安全格局产生了深远的影响。 此外,Chidambaram还在核能研究和开发方面有着杰出的贡献。他领导了印度核能研究所的工作,推动了核电站建设和核能技术的发展。他的工作为印度提供了可持续的能源来源,推动了国家的经济和科技进步。 Chidambaram不仅在科研领域取得了杰出的成就,还在国家政策制定和安全领域发挥了关键作用。他曾担任印度原子能委员会主席和印度国家安全委员会成员,为印度的核政策和国家安全提供了专业指导。他的领导力和决策力在确保国家安全方面起到了至关重要的作用。 除了他的科研和政策工作,Chidambaram还在高等教育领域有着卓越的贡献。他曾在印度的一所著名大学担任教职,培养了许多年轻的科学家和工程师。他的教育工作激发了学生们对核科学和国家安全的兴趣,培养了未来的科学家和政策制定者。 Chidambaram的杰出成就为他赢得了众多荣誉和奖项,包括印度政府的荣誉。他的工作被认为是印度核科学领域的重要里程碑,为国家的安全和科技进步提供了坚实的基础。 尽管他的职业生涯已经取得了巨大的成功,但Chidambaram并没有停下脚步。他继续在核科学和国家安全领域进行研究和咨询,致力于维护印度的国家利益和安全。他相信,通过科学研究和政策制定,我们可以塑造更安全和繁荣的未来。 R. Chidambaram是一位杰出的核科学家和国家领袖,他的工作在印度和国际上产生了深远的影响。他的科学贡献和教育工作激励着年轻一代的科学家和政策制定者,推动着印度的科技和国家安全领域的前进。他的故事是智慧、领导力和不懈追求的故事,也是印度科学和国家安全的杰出代表。通过他的工作,他塑造了印度的未来,捍卫了国家的尊严和利益。