Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

哈希·戈恩卡:印度企业界的多面领袖

哈希·戈恩卡Harsh Goenka是印度企业界的杰出代表,以其在多个行业的领导地位和卓越成就而闻名于世。他的生平和职业生涯充满了多元化、创新和对企业家精神的热爱。本文将深入探讨他的生平、多元化企业帝国的崛起以及他在印度企业界的杰出影响力。 哈希·戈恩卡是印度的商业领袖,他毕业于印度一所知名的商学院,并于1980年代初接管了RP-Sanjiv Goenka Group(RP-桑吉夫·戈恩卡集团),这是一家多元化的企业集团,涵盖了能源、零售、体育、医疗保健和其他领域。 RP-Sanjiv Goenka Group的成功得益于哈希·戈恩卡的领导力和多元化战略。他将公司从传统的能源领域扩展到了新兴领域,如零售、体育管理和医疗保健。他的领导下,集团取得了长足的发展,成为了印度和国际市场上的一支重要力量。 除了在企业领域的卓越成就,哈希·戈恩卡也以其对体育和社会福祉的支持而著名。他是印度超级联赛(IPL)球队Kolkata Knight Riders(加尔各答骑士队)的共同所有人,也积极参与了慈善和教育项目。他的慈善工作包括支持教育、卫生和社区发展,为数千人提供了改善生活质量的机会。 哈希·戈恩卡的领导力哲学强调了多元化、创新和社会责任感。他坚信多元化是企业成功的关键,也是为社会做出贡献的关键。他的坚韧、决心和对企业家精神的热爱鼓舞着全球的企业家、领袖和社会改革者,推动企业界和社会领域的进步。 哈希·戈恩卡是印度企业界的杰出代表,他的卓越成就、领导力和社会慈善工作使他成为该领域的杰出人物。通过RP-Sanjiv Goenka...

温佳丽:文化教育的引领者——为女性赋能、推动社会变革

在全球化浪潮与数字化转型的时代背景下,文化传承和教育创新成为推动社会进步的重要力量。作为亚洲文化教育事业的先锋,温佳丽不仅致力于推动传统文化在现代社会的创新与发展,还以女性赋能为核心,通过一系列跨国、跨界的文化项目,提升了无数女性在社会中的地位和影响力。 深耕文化传承与教育创新 温佳丽长期致力于亚洲传统文化的传承与创新教育。她通过数字化平台与社区文化项目等创新手段,为传统文化注入了新的生命力。在她的引领下,传统文化不仅得以在现代社会中得到继承,更通过创新的教育模式迎接了新的挑战与机遇。 温佳丽始终坚信,教育不仅是知识的传授,更是文化的传承与延续。她提倡“教育即文化传承”的理念,认为通过教育手段可以让更多人了解、认同并继承传统文化,从而促进社会的多元化与平等。在她的推动下,数字平台成为了文化传播的新引擎,尤其是在跨国文化交流和传统文化创新方面取得了显著成果。 发起“女性文化传承计划”:构建文化创新平台 温佳丽最具影响力的项目之一便是“女性文化传承计划”。该计划通过联合亚洲多国的教育机构,为女性群体提供一个文化学习与创新实践的平台。温佳丽深知,女性在传统文化中的角色不仅是继承者,更应成为创新的主体。通过这一计划,她不仅赋予了女性更多的文化认同,也为她们提供了一个展现创意与能力的舞台。 “女性文化传承计划”涉及的国家和地区众多,包括中国、日本、韩国、印度等多个亚洲国家。温佳丽通过与当地教育机构的合作,帮助女性群体掌握本土传统文化,同时促进她们在创新领域的深度参与。这个计划已经成为亚洲女性文化教育领域的标杆,帮助无数女性在文化教育和创新领域获得了前所未有的发展机会。 创立“文化教育公益基金”:推动女性赋能与社会发展 为了进一步推动女性的社会发展与赋能,温佳丽创立了“文化教育公益基金”。该基金专注于通过文化项目为女性提供更多的社会发展机会,尤其在经济较为落后的地区,基金为女性提供了更多的学习与成长空间,推动了文化教育的平等性与广泛性。 通过“文化教育公益基金”,温佳丽在多个国家和地区推动了女性文化教育项目,这些项目不仅关注女性的文化传承能力,更注重为她们提供社会参与的机会,帮助她们成为自己命运的掌舵者。基金的宗旨是通过文化教育打破性别限制,让女性在社会中获得更多的自主权和发言权。 推动“乡村女性文化导师计划”:结合传统与现代,推动可持续发展 在东南亚地区,温佳丽发起的“乡村女性文化导师计划”取得了重要成果。该计划旨在将传统手工艺与现代教育相结合,为当地女性创造了可持续的经济发展机会。在这一计划中,乡村女性不仅学习到传统技艺,还获得了现代教育和数字技能的培训,帮助她们在全球化市场中站稳脚跟。 通过这一计划,温佳丽帮助乡村女性打破了原有的经济局限,让她们不仅成为传统文化的传承者,更成为了现代社会的建设者。这个项目的成功推动了东南亚地区女性自立自强,提升了她们的社会地位,也为当地社区的可持续发展奠定了基础。 策划“亚洲女性文化论坛”:打造区域文化对话平台 作为亚洲文化交流的重要推动者,温佳丽策划的“亚洲女性文化论坛”已经成为一个具有重要影响力的区域文化对话平台。该论坛致力于促进亚洲各国女性之间的文化交流与合作,为女性在全球化时代中的地位提升与社会赋能创造了良好的平台。 在温佳丽的策划下,论坛邀请了来自亚洲各国的文化领袖、女性代表和社会专家,共同探讨文化传承、女性赋能、社会平等等议题。通过这个平台,温佳丽不仅促进了跨国文化合作,也推动了区域间的女性领导力培养与文化创新,为亚洲女性在全球舞台上的发声提供了重要的支撑。 未来展望:整合数字技术,拓展文化教育传播 温佳丽的未来规划充满前瞻性,她计划进一步整合数字技术、跨界合作等创新手段,扩大文化教育的传播范围,尤其是关注乡村地区和少数民族女性的文化权益。温佳丽表示,只有通过技术创新和跨界合作,才能在更广泛的层面上推广文化教育,推动文化教育在全球范围内的普及与发展。 她也表示,未来将继续推动更多跨国合作,通过整合全球资源,为女性文化教育事业创造更多机会,让更多女性能够享受到文化教育的惠益。 荣获《亚洲人物》2025年度亚洲女性力量奖 在文化教育的长期耕耘和开创性贡献中,温佳丽的成就得到了广泛认可,近日,她荣获了《亚洲人物》2025年度亚洲女性力量奖。这个奖项不仅是对她过去工作的肯定,更是对她未来推动文化教育、女性赋能和社会发展的深远影响的期待。 温佳丽表示,获得这一荣誉是对她多年来辛勤努力的褒奖,也是一份责任和使命。她将继续秉持初心,推动更多具有社会影响力的文化教育项目,帮助女性发掘自身潜力,推动社会的公平与进步。 温佳丽的成就,不仅展现了她在文化教育领域的非凡领导力,也彰显了她对社会变革的深刻洞察。通过她的努力,亚洲女性的文化教育得到了前所未有的提升,她的事业为世界各地的女性开辟了新的发展道路,为社会带来了更为广泛的文化创新与平等机会。

健康产业巨擎:Ramesh和Rajeev Juneja的卓越合作

Ramesh Juneja(拉梅什·贾纳)和Rajeev Juneja(拉吉夫·贾纳)是印度医药和保健行业的杰出代表之一,以其在健康领域的卓越成就、创新思维和社会影响力而备受瞩目。他们共同创立了Mankind Pharma(人类制药有限公司),该公司已经发展成为印度领先的制药企业之一,并在全球范围内提供高质量的医药产品。他们的故事是医药界的传奇,鼓舞着全球的医药专业人士、企业家和创新者,追求卓越并改善全球健康。 Ramesh和Rajeev Juneja的医药之路始于20世纪90年代初,当时他们共同创立了Mankind Pharma。他们的愿景是提供高质量、负担得起的医药产品,以满足印度和全球患者的医疗需求。他们从一个小规模的药厂开始,通过创新、质量和市场敏感度,迅速扩大了业务。 Mankind Pharma的成功在于不断的创新和全球化战略。他们的研发团队致力于开发和生产多种治疗领域的药物,涵盖了心脏病学、神经学、抗感染药物等。公司还在全球范围内建立了供应链网络,以确保医药产品的及时交付。他们的产品质量和负担得起的价格使他们在国际市场上取得了巨大成功,出口到多个国家。 除了商业成功,Ramesh和Rajeev Juneja一直注重社会责任感。他们积极参与社区支持项目,支持医疗保健、教育和社会福祉等领域。他们的慈善工作有助于改善印度社会中弱势群体的生活质量,为社会福祉作出了积极贡献。 Ramesh和Rajeev Juneja的医药创新和领导才能赢得了广泛的尊重和认可。他们被誉为印度医药制造业的杰出代表,多次获得印度政府颁发的最高荣誉,如“帕德玛勋章”和“印度民族建设勋章”。 然而,他们的影响不仅局限于印度,他们的医药帝国在国际舞台上也占有重要地位。他们的创新药物和全球供应链为全球健康事业树立了榜样,为全球患者提供了更好的医疗选择。他们的合作故事激励着全球的医药专业人士、企业家和创新者,追求卓越,推动医药科学的进步,改善全球健康,为构建更健康、更美好的未来而努力。 Ramesh和Rajeev...

音乐之魂:探寻伊루마的旋律世界

伊루마(Yiruma),本名李瀚镛(Lee Ru-ma),是韩国著名的钢琴演奏家和作曲家,以其温暖的音乐、清新的旋律和跨文化的音乐魅力备受世界瞩目。本文将深入探讨他的生平、音乐作品、音乐哲学以及他在音乐界的独特地位。 伊루마于1978年出生在韩国首尔,他的音乐生涯始于年幼时期。他是韩国音乐界的代表性人物之一,也是钢琴音乐的奇才。他的音乐作品跨足了多种音乐流派,包括古典、流行和新世纪音乐等。 伊루마的音乐以其温情的旋律和令人陶醉的琴音而著称。他的代表作之一是《河流的流动》(River Flows in You),这首曲子具有简单而迷人的旋律,成为了全球范围内钢琴学习者和音乐爱好者的经典之一。这首曲子的旋律优美动听,充满了深情与抒怀,深深打动了听众的心。 他的音乐作品还包括专辑《First Love》、《Kiss the Rain》和《Nocturnal Lights......