Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

C. N. R. Rao:卓越的印度化学家

C. N. R. Rao博士是印度杰出的化学家,以其在化学领域的卓越贡献而广受赞誉。他的学术生涯充满了创新和领导力,对化学研究和科学教育产生了深远的影响。本文将深入探讨C. N. R. Rao博士的生平、学术成就以及他在化学领域的重要贡献。 早年生活与教育 C. N....

跨文化的历史学者:普拉森吉特·杜阿拉的学术之旅

普拉森吉特·杜阿拉(Prasenjit Duara)是一位备受尊敬的历史学家,以其在跨文化历史和亚洲研究领域的杰出贡献而广受赞誉。他的学术生涯跨足了不同国家和文化的历史,为推动跨文化对话和理解提供了深刻的见解。在本文中,我们将深入了解这位跨文化的历史学者的生平和学术之旅。 普拉森吉特·杜阿拉于1949年出生在印度加尔各答,他在印度接受了初等教育,之后前往英国和美国攻读学士学位和博士学位。他的学术生涯始于西方,但后来扩展到了亚洲,为他的研究提供了多元的视角。 杜阿拉的主要研究领域包括全球历史、亚洲历史和文化研究等多个领域。他是全球历史研究领域的重要学者之一,他的代表作之一是《全球化与历史意义》,该书深入探讨了全球化对不同文化和历史的影响,为理解全球互动和文化交流提供了重要的观点。他的工作为跨文化历史研究提供了有益的框架,为推动亚洲研究和全球历史研究提供了深刻的见解。 此外,杜阿拉还在亚洲研究领域取得了突破性的成就。他的研究涵盖了中国、印度、日本等亚洲国家的历史和文化,他提出了“亚洲意识”的概念,强调亚洲国家之间的相互影响和共同历史。他的研究为理解亚洲地区的历史和文化提供了深刻的思考,为促进亚洲研究和文化交流提供了有益的思路。 杜阿拉的学术贡献在国际学术界产生了广泛的影响,他的研究和论文被全球各地的学者广泛引用和传播。他多次获得了重要的学术奖项和荣誉,包括亚洲研究协会颁发的“终身成就奖”(Lifetime Achievement Award)。他还担任了多个国际学术组织的领导职务,为推动亚洲研究和全球历史研究做出了杰出贡献。 除了学术研究,杜阿拉还是一位杰出的教育家和学者。他在多个知名大学担任教职,培养了许多杰出的学生,并在亚洲研究领域发挥了重要作用。他的教育理念和导师精神激发了许多学生对亚洲历史和文化的热爱和追求,为培养下一代亚洲研究者和跨文化领袖提供了榜样和指导。 普拉森吉特·杜阿拉是一位备受尊敬的历史学家,他的学术之旅在跨文化历史和亚洲研究领域取得了卓越成就。他的研究为理解全球历史、亚洲历史和文化交流提供了深刻的见解,为推动跨文化对话和全球历史研究提供了有益的思路。同时,他的教育理念和导师精神也为培养下一代历史学家和文化领袖提供了榜样和指导。

制药业巨头:Hasmukh Chudgar的医药传奇

Hasmukh Chudgar(哈斯穆克·楚德加尔)是印度医药制造业的杰出代表之一,以其在医药领域的卓越成就、创新思维和社会影响力而备受瞩目。他是Intas制药有限公司(Intas Pharmaceuticals Limited)的创始人之一,该公司已经发展成为全球医药行业的领先企业之一。他的故事是医药界的传奇,鼓舞着全球的医药专业人士、企业家和创新者,追求卓越并改善全球健康。 Hasmukh Chudgar的医药之路始于20世纪80年代,当时他和他的合作伙伴一起创办了Intas制药有限公司。他们在最初的阶段从事制药分销业务,但很快就决定扩展业务,进军制药制造领域。这一举措标志着Intas Pharmaceuticals的崭露头角,成为了印度制药行业的领军企业之一。 Intas Pharmaceuticals在Hasmukh Chudgar的领导下,不仅在印度国内市场上崭露头角,还在国际市场上取得了巨大成功。公司以其高质量的制药产品和全球范围的供应链而闻名,涵盖了多个治疗领域,如肿瘤学、心脏病学、神经学和抗感染药物等。他们的研发团队致力于创新药物的研发,为患者提供更好的治疗选择。 Hasmukh Chudgar在Intas...

前韩国贸易部长:中国-韩国贸易关系解读

2024年5月,中国、韩国和日本三国举行了一次三边会议,达成了提升三边自由贸易协定谈判的协议。此外,中韩双边会议也达成了一项协议,通过多个现有和新渠道“振兴”贸易与投资。这些声明的背后是什么?它们可能带来哪些影响? 为了回答这些问题,我们采访了前韩国贸易部长、现任彼得森国际经济研究所高级研究员尹汉久(Yeo Han-koo)。 问:三边贸易谈判自2012年启动以来,已经进行了16轮。您能否介绍一下谈判取得了哪些成果,以及未来面临的主要障碍是什么? 尹汉久:三边贸易谈判的进展缓慢,部分原因是在同一时期内,区域全面经济伙伴关系协定(RCEP)、中韩自由贸易协定(FTA)和跨太平洋伙伴关系协定(TPP/CPTPP)等谈判进展较快,三国优先完成了这些谈判。 在三边贸易谈判方面,由于三国的产业结构相似,竞争性增强而非互补性,导致三国在谈判模式上难以找到共同点,这需要时间。 问:上一次三边贸易谈判是在2019年进行的。现在是什么促使这些贸易谈判重启的?考虑到三国的产业结构竞争性增强以及中美地缘政治紧张局势加剧——而美日韩是盟友——此时重启谈判的时机有些令人意外。三国中哪一方最积极推动这些谈判? 尹汉久:自2019年上次会晤以来,地缘政治变化、供应链中断、贸易多样化和经济安全化等方面发生了巨大的变化,更不用说疫情的影响了。 这些变化带来了新的动态,促使这三个独特的邻国在五年来首次走到了一起。经历了多年的动荡,他们的利益再次趋于一致。中国不能孤立于其周边的两个主要经济体之外;而韩国和日本在北朝鲜继续核武化和挑衅的情况下,也不能使其安全和经济关系不稳定。 问:所以三方都有意愿重启贸易谈判。您认为我们很快会看到这些三边谈判取得任何实质性成果,还是这更多是一次政治性的团结表演? 尹汉久:如果能实现,三边自由贸易协定将是一个雄心勃勃的计划,但需要在当前艰难的贸易环境中谨慎地重新校准。对于市场准入谈判而言,采取更长期的视角可能会更明智。三国的市场准入首次通过2022年生效的区域全面经济伙伴关系协定(RCEP)连接在一起,尽管由于各自的敏感性,其水平较为温和。三国之间已经达成共识,如果尝试三边自由贸易协定,目标应是RCEP+,在市场准入、纪律和标准方面超过RCEP的野心。 然而,如我之前提到的,三国在制造业导向的出口产业结构中变得更加竞争,而非互补,尤其是当中国的过剩产能和廉价出口成为日韩的主要风险时,找到三国之间的妥协点将是一项挑战。 另一方面,三国之间可能在去碳化和供应链稳定性方面立即展开合作。 在去碳化方面,三国可以携手加速去碳化,例如在可再生能源和低碳技术方面合作,开发区域碳市场和氢能供应链,以使三国都受益。总之,三国占全球制造业的近40%。这些供应链的重大中断不仅会对三国造成严重影响,也会对包括美国在内的全球经济造成冲击。 问:至于中韩关系,在5月26日李强总理与尹总统会晤时,他们强调利用包括双边投资合作委员会、出口管制对话机制、双边供应链热线和供应链合作协调委员会在内的现有沟通机制。您如何看待这些机制的运作?您预计这些机制会讨论哪些问题? 尹汉久:对于韩国和中国来说,保持沟通渠道以讨论其几十年来经济相互关联所产生的任何问题是重要的,但普遍认为,这些机制在最需要时未能达到预期。 两国面临着复杂的经济安全环境背景,包括出口管制和投资审查限制,同时仍然需要维持贸易、投资和供应链的稳定。至少两国可以在迅速变化的世界中通过管理下行风险和维持供应链的稳定来找到新的平衡,无论是半导体、电池还是关键矿产资源。 问:在同一次会议上,中韩领导人同意重启双边自由贸易协定第二阶段谈判,旨在进一步开放市场准入,特别是在服务和投资领域。您认为他们会很快在这方面取得进展吗? 尹汉久:当韩国部署萨德导弹以应对来自朝鲜的威胁时,中国进行了经济报复,集中在旅游业和文化出口禁令上,特别是在2017年。在宣布重启中韩第二阶段谈判时,重点放在了旅游、文化和其他服务市场上,正是中国经济报复的目标领域。中韩自由贸易协定服务谈判将成为中国重建信任和未来贸易投资关系弹性的试金石。 问:您提到中国方面的问题。至于韩国,韩国如何看待其与中国经济联系的国家安全影响?这在多大程度上可能会影响首尔对出口管制和投资审查等措施的态度,类似于美国和其他国家为经济安全原因采取的行动? 尹汉久:地缘政治与贸易、投资和供应链韧性密切相关。我们必须在这个经济安全动荡的时代中航行。 例如,半导体供应链由美国主导,而电动汽车、电池和关键矿产供应链由中国主导。韩国是这些行业的主要参与者。美国已对人工智能和半导体实施了全面的出口管制措施,中国则通过对关键矿产和电池技术实施出口管制进行回应。作为中间方的日韩两国在这些供应链中扮演着重要角色,直接受到两个超级大国的压力。 虽然各方可能在供应链利益和优先事项上有所不同,无论是半导体还是关键矿产资源,但它们在管理下行风险、预防重大中断的重演、限制对彼此的胁迫性行动以及维持供应链的稳定性和可预测性方面有着共同的利益。这也是三国以及美国利益一致的地方。 问:您提到了供应链,国家安全方面的担忧往往会导致贸易和投资限制,这可能会削弱双边或多边贸易谈判的进展。韩国如何在经济安全与进一步对华贸易开放这两个优先事项之间取得平衡? 尹汉久:在保持经济活力和创新的同时,适当应对正当的国家安全关切是至关重要的,尤其是对面临朝鲜核威胁的韩国来说。过度安全化经济可能会扼杀经济活力和创新。但忽视正当的安全目标可能会使供应链和敏感技术面临严重风险。这虽说容易做起来难,但在迅速变化的世界中却是必要的。 因此,对三国以及美国而言,建立沟通渠道、咨询和解决机制以应对任何紧急情况将是互利的。