Nvidia 的伟大崛起和新的数据中心时代

Date:

不可否认,我们现在在技术方面取得了长足的进步,不仅在大型语言模型方面,而且在基础设施方面也是如此。

事实上,我看到社区中的很多焦点都转向了我们正在关注的 GPU 和硬件基准测试。当然,模型的发展速度仍然如闪电般,但裸机的一面也值得一看。

考虑到这一点,在最近的一集 No Priors 播客中,Nvidia 首席执行官黄仁勋贡献了一些见解。

这无疑是 Nvidia 的时代,因为该公司超越了 Apple 和 Microsoft,成为全球最大的科技公司。目前正在建设的主要数据中心正在机架中使用 Nvidia 产品,即高设计 GPU,黄仁勋对这种转变有很多话要说。

“世界已经改变了,”他在谈到集群的并行性和协同设计的进步时说。“规模已经改变。”

摩尔定律的演变

Huang 与主持人一起回顾了他对硬件发展历史的一些看法,谈到了社区中被称为摩尔定律的格言如何多年来一直适用,其中人们引用了更多关于晶体管和处理能力每年左右翻倍的预测。

作为参考,以下是 ChatGPT 向我们解释摩尔定律的方式:

“摩尔定律是英特尔的联合创始人戈登·摩尔 (Gordon Moore) 在 1965 年提出的一个观察结果。它预测微芯片上的晶体管数量大约每两年翻一番,从而导致计算能力的相应增加和相对成本的降低。这一趋势推动了计算能力的快速发展,几十年来一直是指导半导体行业的基本原则。

这有点讽刺,因为被 Nvidia 击败的公司主要是 Intel 公司。但我跑题了……

黄仁勋说,现在,随着更快的变化,我们正在研究某种他所说的“超摩尔定律”。

他建议,为了实现这一目标,规划人员必须以“全栈方法”一起研究架构和系统。

“你可以将网络视为一个计算结构,并将大量工作推送到网络中,将大量工作推送到结构中,”他说。“结果,你正在压缩……在非常大的尺度上。

推理和延迟:让实时系统更智能

Huang 还提到了适应语言模型和神经网络的工作,这些模型和神经网络正在完成推理时间缩放,动态生成思维链和推理链。

“我们必须去发明一些新的东西,”他说,并指出从本质上讲,低延迟和高吞吐量是相互矛盾的。此外,他还提到了该行业将进入一个多元化时代的可能性,其中有各种规模的语言模型,包括微型语言模型或 TLM。

“你仍然要创建这些令人难以置信的 Frontier 模型,”他说。“他们将(用于)开创性的工作。您将使用 (它们) 生成合成数据。你将使用模型,大模型,来教授较小的模型,并提炼出(到)较小的模型。

The Big 客户:X.AI 的项目

后来,黄仁勋透露了该公司与 Elon Musk 合作构建 X.AI 数据中心的一些非常有趣的元素。

他对马斯克的快速实施和做出支持这个超级集群的决策给予了很大的赞扬,因为很多人都在努力快速完成所有事情。

“这真的证明了他的意志力,以及他如何能够思考机械、电气事物,并克服显然是非凡的障碍,”黄说。

他还透露,利益相关者使用数字孪生过程来帮助实施系统。

“我们模拟了所有网络配置,并将所有内容预先暂存为数字孪生。我们预先安排了所有供应链。我们预先安排了网络的所有布线。我们甚至建立了它的一个小版本,你知道的,只是它的第一个实例……所以当一切都出现时,一切都已经上演了。所有的练习都完成了,所有的模拟都完成了。然后是大规模集成,……一个巨大的人类团队的纪念碑,他们彼此倒下,24/7 全天候连接一切,几周内,集群就启动了。

这个项目有什么特别之处?他说,由于拥有数吨设备,该项目的速度“不正常”。

AI 芯片设计师?

黄仁勋证实,该公司使用 AI 实体作为芯片设计师和软件工程师。

“没有(他们),我们就无法建立 Hopper,”他说。“他们可以探索比我们大得多的空间。他们有无限的时间来探索太空。

公司与变革

回顾过去几年,Nvidia 的市值像火箭一样飙升,黄仁勋谈到了企业内部的影响。

“一家公司的变化不可能像股价一样快,”他说,并引用了深思熟虑的价值,即了解行业内实际发生的事情以推动变革。

他说,他已经意识到,Nvidia 基本上在大约 60 年来第一次重新发明了计算,降低了计算机的边际成本,直到计算机自己完成任务才有意义。

这改变了游戏规则——而且这是轻描淡写的!我一直在关注 Claude、OpenAI 的 o1 和 Orion,有一件事是肯定的——当我们谈到市场效应时,情况永远不会相同。

我可能会在其他地方介绍更多 Huang 的评论,因为他正在更深入地研究系统的新功能,即在最少的监督下真正自己做事,并让 AI 在公司流程中发挥更大的作用。

这是您真正开始看到“代理 AI”效果的地方——您将让 AI 实体承担工程和设计角色,并将结果归功于您。

毫无疑问,这是一个发生巨大变化的时代。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

全球营销巨匠:追寻迪帕克·C·贾因的商业智慧之路

在商业界,迪帕克·C·贾因(Dipak C. Jain)是一位杰出的领袖和思想家,他的职业生涯一直致力于全球营销和商业管理领域的卓越。贾因以其在全球商业、市场营销和管理教育领域的杰出贡献而闻名,他的工作改变了全球商业的面貌。 贾因出生于印度,从小就展现出卓越的智慧和创业精神。他在印度的本科和研究生教育为他未来的职业生涯奠定了坚实的基础。随后,他前往美国,在哈佛大学获得了博士学位,成为一名卓越的商业学者。 贾因的研究领域主要集中在市场营销、全球商业和企业战略方面。他的工作涵盖了广泛的商业问题,为企业领袖和决策者提供了宝贵的洞见和指导。 他最著名的研究之一是关于全球市场营销的工作。贾因在全球市场营销领域的贡献被广泛认可,他的研究帮助企业了解不同文化和市场之间的差异,为他们制定有效的市场策略提供了重要的指导。他的工作在全球化时代变得尤为重要,帮助企业适应不断变化的市场环境。 此外,贾因还在品牌管理和消费者行为研究方面有着杰出的贡献。他的研究揭示了品牌建设的关键要素和消费者决策的心理过程,为企业打造强大的品牌和吸引消费者提供了指导。 贾因的工作不仅在学术界产生了深远的影响,还在商业界产生了积极的反响。他曾担任多家知名企业的顾问和董事,为它们提供市场战略和管理建议。他的思想影响了企业领袖的决策,帮助他们在竞争激烈的商业环境中取得成功。 除了他的研究和咨询工作,贾因还在高等教育领域有着卓越的贡献。他曾在多个世界著名的商学院担任教职,并培养了许多年轻的商业领袖。他的教育工作帮助塑造了新一代的商业管理者和市场营销专家。 贾因的杰出成就为他赢得了众多荣誉和奖项,包括美国市场营销协会的菲尔普斯奖。他的工作被认为是市场营销领域的重要里程碑,为企业和学者提供了宝贵的知识和见解。 尽管他的职业生涯已经取得了巨大的成功,但贾因并没有停下脚步。他继续在商业管理和市场营销领域进行研究,探索新的商业机会和挑战。他相信,通过创新和领导力,我们可以塑造更加繁荣和可持续的商业未来。 迪帕克·C·贾因是一位杰出的商业领袖和思想家,他的工作在全球商业和市场营销领域产生了深远的影响。他的科学贡献和教育工作激励着年轻一代的商业管理者和市场营销专家,推动着商业领域的前进。他的故事是智慧、勇气和不懈追求的故事,也是商业界的光辉榜样。通过他的工作,他改变了全球商业,为我们带来了一个更加繁荣和可持续的商业未来。

戈壁滩上盖鸡舍,魏晓明深耕蛋种鸡养殖行业29年

有这么一个人,他坚持29年去做一件事情,深耕蛋种鸡养殖行业,一步一步成为中国蛋鸡制种业的领军企业。并且在2021年4月成功上市,成为中国蛋鸡行业第一家上市公司。 1965年,魏晓明出生在浙江绍兴,恢复高考之后,16岁的魏晓明考进了西北农业大学。 别人都选择了稳定而又体面的专业,而魏晓明却选择了畜牧专业,这一次专业的选择,也奠定了他未来的整个人生。 1985年大学毕业后,他被分配到宁夏大学农学院牧医系做了一名大学老师。过着朝九晚五的生活,在别人看来这样的工作已经是相当不错了,稳定而且受人尊敬。 在当时,正是我国经济飞速发展的时期,改革开放吸引了大批有志青年下海经商。作为地地道道的浙江人,骨子里就透着那份不安于现状,敢于奋斗的精神。 “下海”经商于是他大胆决定,要“下海”经商,但是这次经商的地点并不是繁华的大都市,而是荒芜的大西北。 1992年,魏晓明拿着找亲戚朋友借来的10万元,开始了人生的第一次创业,他从宁夏农林学院畜牧兽医研究所租赁鸡场,购买了3000套蛋种鸡,开启了养鸡事业。 但事情没有他想象的那样顺利,虽然只有3000套蛋种鸡,规模不大,但事情挺多,于是他发动家人一起帮忙。 从鸡饲料的配比到采购,从鸡的接种疫苗到鸡场的卫生,哪怕是最后的销售以及司机工作都是他为主力,虽然身兼数职,但是他还是干劲满满。 因为那时市场对于蛋种鸡的需求量非常大,只要有产品就能够卖掉,当时的毛利率能达到100%。很快,魏晓明挣到了人生的金。 扩大规模有了资金他开始扩大规模,租赁了贺兰山腹地部队废弃的营房和库房,开办了新的种鸡场,从家庭模式变成企业模式。 1996年,他决定彻底结束9年的教学生涯,一心扑在养殖业,也相当于给自己断了后路,让自己全身心地投入到事业中。 他决定要做好养殖业,而且要把它做成中国的龙头企业。 企业化管理2000年,魏晓明租赁宁夏回族自治区种禽厂,开始了企业化模式操作,并且在此时,他又做了一项决定,让家族成员全部退出企业管理。 为了加强企业发展,他广纳贤才,招了一批优秀的大学生进入企业,在这些优秀人才的驱动下,企业发展也越来越好。 魏晓明也不忘放弃学习企业管理,虽然他掌握了一定的养殖技术,但是在企业整体发展策略上他还要不断地摸索,总结出适合自己的创业模式。 如果养殖业要做大,必须要形成一定的规模,利用高科技,不仅从饲料的生产,到鸡种的孵化,以及后期鸡肉和鸡蛋的加工销售都必须实现一条龙式的管理。 为了实现这一目标,他不断地考察当地的地势,寻找适合养殖业规模化生产的基地。通过几次的养殖地迁移,他意识到在远离人群的贺兰山下养殖的种鸡更为安全健康。 别人都劝说他,贺兰山下的戈壁滩既没有水资源,又不能通电,交通条件不便利,如果把厂开在那里,成本投入太大。 戈壁滩上盖鸡舍但是魏晓明认为贺兰山下的荒漠中,自然条件较为独特,而且人口密度小,空气质量比较好,这些优势都符合养鸡的需求。 他在当地建立了养殖试验基地,让原本是劣势的荒漠,在他的精心调养下逐渐变成为了天然的养殖基地,并且给养殖的鸡种带来更大的附加值。 2006年,有了养殖试验基地的成功案例,他决定在此筹建新厂,并且在当地注册为晓鸣农牧股份有限公司,准备投资2个亿。 目标定位于“打造中国蛋鸡产业生物安全第一品牌”,并且把生物安全放在第一位,这次大手笔的投入得到了领导的重视,魏晓明更是信心满满。 制定了严格的管理制定,公司员工始终把生物安全理念铭记于心中,并且自觉养成生物安全意识和规范行为。 不断发展2014年,晓明农牧超前完成了鸡种防疫的国家净化标准,并且建立了严格的鸡防疫病净化持续发展方案,确保净化种源的市场持续性供应。 晓鸣农牧不断地提升蛋种鸡的孵化技术和鸡防疫病净化技术,科研实力也一步得到了提升,被确定为第一批中国蛋鸡良种扩繁推广基地,2015年被确定为国家首批禽防疫病净化示范基地。 同时,魏晓明利用独特的地理优势,遵循生物安全理念,针对性研发出适合地势的创新技术,从鸡舍的建立到保温系统,从出粪轨道到通风去味,魏晓明都自己独特的技术。 他倡导“释放天性,生活康乐”蛋鸡养殖理念,为鸡群提供自由采食,栖息,交配的场地。保障了蛋鸡种的成活率,也保障了后期鸡肉的口感和新鲜度,为蛋鸡赢得了市场。 公司的成功养殖模式获得资本市场的青睐,2014年晓鸣农牧在新三板成功挂牌,2016年引入了正大集团和大北农集团两个重要的战略伙伴。 两大企业的帮助下,晓鸣农牧不断地扩大企业规模,同时在技术和科研上不放松,魏晓明也一直提倡动物福利养殖模式,保障生物源头的安全性和健康性,与现在人们所倡导的健康饮食刚好相吻合,所以企业一直良性发展。 从2014年就实现了年盈利上亿元,并且2015年到2016盈利一直持续上涨,成为国内蛋种鸡规模前三名,国内竞争力极强的龙头企业。 成功上市2021年4月,晓鸣农牧迎来它的辉煌时刻,在香港广交所成功上市。这次上市也标准着企业将往更高更好的方向发展。 如今,晓鸣农牧成为宁夏第一个上市公司,它的成功上市,也为宁夏企业发展提供了一个更好的导向作用。 同时也为当地的发展提供了很好保障,实现了家门口就业模式,当地农民脱贫致富。在贺兰山脚下,整齐排列着8座种鸡养殖厂,显得异常壮观。 这就是魏晓明实现梦想的地方。如今身为董事长的他,仍然坚持深入基层,经常下鸡场,做调查,研发新技术。 这也正是他成功的原因。他对事业的尽职,对工作的严苛,对专业的痴迷,值得敬佩和学习的地方。 一个人的成功不在于他有多少钱,而在于他的才能、志向和目标,以及为实现目标孜孜不倦的态度。我们也希望晓鸣农牧在资本市场的运作下越走越好。

爱莎·贾拉尔:南亚历史学的杰出奠基者

爱莎·贾拉尔(Ayesha Jalal)是一位备受尊敬的南亚历史学家,以其卓越的学术成就和对南亚历史的深刻洞察而闻名。她的研究领域涵盖了南亚地区的历史、政治和社会问题,为了解该地区的复杂性和多样性做出了杰出贡献。在本文中,我们将深入了解这位杰出学者的生平和她在南亚历史学领域的杰出成就。 爱莎·贾拉尔于1956年出生在巴基斯坦的拉合尔,她的家庭具有学术背景。她在哈佛大学获得了博士学位,之后在世界各地的知名大学担任教授职务,包括哥伦比亚大学、哈佛大学和耶鲁大学等。 贾拉尔的学术研究涵盖了南亚历史、政治学和社会学等多个领域。她的作品深刻探讨了南亚地区的历史演变、政治动荡和社会变革。她的代表作之一是《巴基斯坦的歷史:未完的故事》(The Struggle for Pakistan: A Muslim Homeland and...

马哈蒂尔警告说,在紧张局势加剧的情况下,“第三次世界大战”迫在眉睫

——马来西亚前总理指责美国激进领导层使冲突升级 马来西亚前总理马哈蒂尔·莫哈末对第三次世界大战的可能性发出了严峻的警告,强调了全球超级大国之间日益紧张的局势。 在东京未来亚洲论坛期间接受采访时,马哈迪强调,美国激进的领导力和不屈不挠的立场是永久的全球不和,并警告说,如果美国继续与俄罗斯对抗,世界可能会走向战争。 我们可能会走向第三次世界大战,因为如果你向俄罗斯施压太多,你似乎想征服俄罗斯,他们可能想使用核武器——这将损害整个世界。 “美国将任何挑战他们的人视为敌人,这就是为什么我们与美国与伊朗、俄罗斯和中国有问题。美国不宽容。人们不可能100%和你一模一样;我们接受差异,”他说,并补充说,美国人没有从过去的战争中吸取任何教训。 马哈迪认为,自冷战结束以来,美国长期以来一直寻求保持其在全球舞台上的主导地位,将其他国家,特别是中国的崛起视为直接威胁。 “自上次战争以来,美国一直是第一大国家。他说,那是60-70年前的事了,美国人希望保留他们的最高地位,他强调中国成为世界第二大经济体,因为它“有能力增长并成为第一”,这一发展不受美国人欢迎。 马哈蒂尔于7月满99岁,曾两次担任马来西亚总理,首先从1981年到2003年22年,然后从2018年到2020年更短暂。 在全球紧张局势日益加剧的情况下,这位高级政治家一直强烈批评西方列强,特别是自去年10月以色列-哈马斯战争爆发以来,该战争已导致3万多名巴勒斯坦人死亡。在以色列方面,约有1200人死亡。 “许多不公正现象已经发生,但美国和欧洲将这些不公正视为与他们无关的问题。他们不试图阻止以色列犯下各种罪行,”他说。 马哈蒂尔声称,看到其他地方的战争符合美国人的利益。 这是一个非常悲伤的故事。通常,当犯罪发生时,每个人都有权阻止它。但在这里,我们看到了大规模的犯罪,然而没有人可以采取任何行动,”马哈蒂尔说。 2023年,美国武器行业的外国军事销售额创下了创纪录的809亿美元,这得益于乌克兰冲突,全球对先进武器的需求增加,包括国务院1月份宣布的与波兰和德国的重大交易。 该行业的增长也受到持续的地缘政治紧张局势的推动,如加沙战争,这凸显了美国盟友军事现代化的必要性。 马哈蒂尔在评论时表示,美国是世界上最大的武器贸易国,并不断生产新武器。他声称,看到其他地方的战争符合美国人的利益。“西方认为,拥有和平,为战争做准备,但这是错误的。为战争做准备可以确保战争,因为要通过出售武器赚钱,人们必须战斗,”他说。 当被问及他对今年11月美国总统大选的看法时,马哈蒂尔说,选民在81岁的乔·拜登总统和77岁的前总统唐纳德·特朗普之间几乎没有选择,因为两者都是不可取的。 “我们注意到拜登显然正在衰老。我认为他不会为美国提供动态的领导,即使在外交关系方面,他们也不会在他领导下表现良好。另一方面,我们有特朗普,他是一个非常不正常的人。他所做的毫无意义,”马哈蒂尔说。 他还表示希望年轻一代的马来西亚人能从历史中吸取教训,欣赏六十年发展的艰辛,这些困难使该国从农业国家转变为中上收入国家和东南亚第三大经济体。 “这些年轻的马来西亚人认为马来西亚一直都是这样,甚至在100年前也是如此。这就是我们面临的问题,因为当代人对国家发展的看法、经验和历史不像独立后的第一代人那样了解,”马哈蒂尔说。 “独立后的第一代人记得我们在英国统治下的时光,记得我们是多么的贫穷。今天,你看到吉隆坡到处都是摩天大楼。以前不是这样的。” 关于马哈蒂尔·莫哈末 马哈蒂尔·莫哈末(马来语:Mahathir Mohamad),全名为敦·马哈蒂尔·宾·莫哈末(马来语:Tun Mahathir Bin Mohamad)。 1925年12月20日出生于马来西亚吉打州亚罗士打市。1946年开始政治生涯,1981年至2003年担任总理。 2018年5月,他带领希望联盟赢得大选后再次出任总理,直到2020年2月辞去总理职务。 马哈蒂尔·莫哈末曾被《亚洲人物》列为2023年第2期杂志封面人物,我们为这位马来西亚领袖拟题为——Malaysia's Epoch Maker,马来西亚的时代塑造者,领导的变革与传统的坚守。