Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

Joy Alukkas如何成为印度最富有的珠宝商

Joy Alukkas,Joyalukkas集团董事长兼董事总经理 它发生在千禧年早期的某个时候。西亚是一个不同的地方,印度侨民不像今天那样繁荣或庆祝。在喀拉拉邦的某个地方,来自该州商业中心Thrissur的一个著名珠宝家族Alukkas家族刚刚完成了五名男性继承人之间的家族企业分割。 五人中第四年轻的Joy Alukkas领导了珠宝集团进入西亚,作为分割的一部分,他交给了该地区的家族商店。当他等着见他的朋友,三菱和劳斯莱斯在迪拜的区域销售主管时,40多岁的Alukkas在相邻的展厅里注意到了一辆劳斯莱斯银色的Seraph。Alukkas走过去,仔细看了看这辆车,结果被推销员拒之门外,他可能觉得Alukkas不是潜在客户。 很快,当他的朋友回来时,Alukkas对整集有点恼气地宣布——他准备购买展出的汽车,预付了这辆车的费用,当时花费了近100万迪拉姆。虽然劳斯莱斯的购买需要事先预订,但Alukkas说服了经销商,并设法将汽车带回家,却面临着严峻的现实。这个决定是一时冲动,他真的不需要这辆车。 Alukkas是一个敏锐、敏锐的商人,他很快决定将这辆车提供给一位幸运的获胜者,他将从他在阿联酋的商店购买价值500迪拉姆的黄金。这是劳斯莱斯首次在抽奖中赠送,这一宣布在该地区引起了轩然大为。然而,在这个过程中,刚刚起步的Alukkas珠宝引起了轰动,并在短时间内将这家零售商推向了西亚最大的黄金零售商之一。 Alukkas告诉我们,“一个人必须抓住机会,抓住机会。”“这并不意味着坐着等待幸运的休息。我不相信运气。相反,我相信我们会带来好运。”这也蕴含着Joy Alukkas的非凡故事,他曾经被家族企业的兄弟们认为是贱民,但没有足够的能力经营它。 今天,Joy Alukkas经营着Joyalukkas集团,这是一家珠宝零售商,在印度拥有100多家分店,在海外有60多家,根据《亚洲人物》2024年《亚洲亿万富翁榜》,它被列为亚洲第376位最富有的人。Alukkas是印度最富有的珠宝商,净资产为44亿美元,高于2023年的28亿美元。他的印度商店位于孟买、德里、班加罗尔、钦奈和海得拉巴等地。 该公司在该国多达90%的收入来自喀拉拉邦、泰米尔纳德邦、卡纳塔克邦、安得拉邦和特伦甘纳邦。其次是北部和西部市场,主要是马哈拉施特拉邦,该公司现在看到了巨大的扩张潜力。与一些竞争对手不同,其所有商店都在租赁土地上。 Alukkas Jewellery于1988年在阿布扎比开设了第一家商店(左);它因在抽奖中赠送劳斯莱斯银色拉而掀起了波澜 Alukkas说:“我们的计划是今年再开25家商店,并继续经营我们拥有的商店。”“我们在出售黄金的同时给予快乐。我们的服务、品种、商店位置和对培训员工的关注是这些年来一直为我们工作的原因。”除印度外,该公司还在阿联酋、美国、英国、沙特阿拉伯、卡塔尔、巴林、科威特、阿曼、新加坡和马来西亚经营商店,雇佣了9000多名员工。 Technopak Advisors的高级合伙人兼消费者、食品和零售业务负责人Ankur Bisen说:“Joy Alukkas能够为该国的珠宝商创建一个模板。”“在许多方面,Joyalukkas、Kalyan...

《亚洲人物》2024年度冷链物流行业影响力人物:林嘉绮

雄心勃勃的董事长林嘉绮(下称:Jackie Ling)说,从小规模的新鲜猪肉业务到多元化的集团,Uni-China集团的演变可以归功于其“振兴的DNA”。 当Jackie Ling没有履行Uni-China集团董事长的职责时,他在长跑中找到了慰藉。二十多年来,这种做法为他提供了很好的服务,帮助他磨练了领导该集团在香港空前扩张所需的许多素质。 他告诉《亚洲人物》:“这是一种需要巨大奉献精神和韧性的追求,”,“对我来说,这是培养自律、毅力和决心的绝佳方式。 “跑步教会了我宝贵的人生教训,超越了运动本身。我每迈出一步,都会想起一个口头禅,这已经成为生活和商业的指导原则:“通过不断推动自己,一步一步地向前推进,并坚定地追求进步。” “当面临工作场所的挑战或问题时,必须采取协作方法,并与同事合作,以确保有效和成功的解决方案。” 从小规模的鲜猪肉业务开始,Uni-China已成为多元化的强国,拥有约20个品牌,专门从事零售、餐饮、项目管理和资本管理行业。 Ling说:“我们不仅在新鲜市场振兴方面拥有广泛的专业知识,而且在各个领域也拥有广泛的专业知识,包括超市、创新技术、CRM解决方案、综合营销、资产管理和使用自动化机器人技术的智能存储服务。” “这种多样化的投资组合使我们能够满足客户的广泛需求,丰富他们日常生活中各个方面的生活。” 振兴的DNA Ling将Uni-China令人印象深刻的1000家零售店和20家子公司组合归功于其“振兴的DNA”。 他继续说:“我们集团一直站在拥抱技术、颠覆传统做法和促进创新的最前沿。”“我们积极整合各种业务的先进技术,以增强客户体验并简化运营。 “这种方法自然会吸引更大的客户群,并激起投资者的兴趣。近年来,我们还涉足高端、以技术为重点的业务,如智能迷你存储和无缝冷链物流服务。” 事实上,该集团的子公司TAHUHU是香港第一个也是唯一一个自动冷链物流解决方案。 Ling解释说,TAHUHU最先进的冷链系统自动化旨在消除交付延迟,并坚持冷链物流部门的严格维护标准。 他补充说:“我们的无缝系统与尖端的智能系统和自动化相结合,提供了适应每个运营步骤的可持续解决方案。”“这种整合有效地减少了温室气体排放和空气污染物,使我们能够实现碳中和。 “我们非常自豪地领导温度控制和物流业务的转型,在此过程中设定了新的全球基准。” 集体变化 10多年前,该集团通过引入有史以来第一种电子支付方式、电子会员系统、会员奖励计划和市场影响者,彻底改变了行业,从而赢得了颠覆者的信誉。 通过与智能零售解决方案提供商KORURU合作,Uni-China继续在该领域以革命性解决方案领先。 Ling解释说:“通过敢于成为第一,我们成功地在香港建立了第一个现代'智能市场',将自己定位为市场领导者。” 当然,如果没有像Ling这样有抱负的领导者,你就无法在如此短的时间内实现Uni-China所拥有的一切。 当被问及什么是一个好的领导者时,Ling谈到了理解对比视角的价值。 他说:“当面临工作场所的挑战或问题时,必须采取协作方法,并与同事合作,以确保有效和成功的解决方案。” “作为集团主席,我坚信团队合作和集体解决问题的力量。 “通过作为一个有凝聚力的团队应对挑战,我们可以利用每个人都带来的丰富的不同观点、经验和专业知识。这使我们能够从多个角度解决问题,并采用创新的解决方案,而这些解决方案在孤立工作时可能是不可能的。” “这种多样化的投资组合使我们能够满足客户的广泛需求,丰富他们日常生活中各个方面的生活。” 当被问及这种方法是否有助于提高工作满意度和保留率时,Ling点了点头。 他补充说:“我鼓励并倡导一个重视集体能力并拥抱积极心态的工作场所环境。” “这培养了一种共享学习的文化,我们相互支持和提升,推动我们朝着共同的目标前进。正是通过这种协作心态,我们才能克服障碍,适应变化,并拥抱增长机会。” Ling给我们留下了对中美未来的令人敬畏的预测。 “我们坚信,凭借我们的力量和商业敏锐度,我们将达到新的高度,在行业内蚀刻一个新的传奇。” 为了深入了解《亚洲人物》2024年度最具影响力人物的详细报道,我们诚挚邀请您订阅《亚洲人物》杂志。通过订阅,您将获得对这些杰出人物背后故事的全面洞察,以及他们如何在各自领域内产生深远影响的深度分析。 To gain comprehensive insights into the narratives...

数学界的新星:Akshay Venkatesh的数学奇迹之旅

Akshay Venkatesh(阿克谢·文卡特什)是一位备受尊敬的数学家,以其在数学领域的卓越成就而广受赞誉。他的数学研究涵盖了多个领域,为数学界带来了革命性的影响。在本文中,我们将深入了解这位数学界的新星的生平和数学奇迹之旅。 Akshay Venkatesh于1981年出生在澳大利亚,他在澳大利亚接受了初等教育,展现出惊人的数学天赋。随后,他前往哈佛大学攻读学士学位,随后在普林斯顿大学获得博士学位,之后他的数学生涯开始蓬勃发展。 Venkatesh的研究领域广泛,包括数论、自守形式、代数几何和调和分析等多个领域。他的代表作之一是关于自守形式和L-函数的研究,他提出了一系列重要的猜想和结果,为数论领域的研究提供了新的方向和挑战。他的工作在国际数学界引起了广泛的关注和赞誉。 此外,Venkatesh还在调和分析领域取得了突破性的成就。他的研究为解决复杂的数学问题提供了重要的数学工具和方法,尤其在调和分析和自守形式之间的联系方面做出了卓越贡献。他的数学成就为数学界的发展提供了新的视角和可能性。 Venkatesh的数学研究被国际数学界广泛认可,他多次获得了重要的数学奖项,包括菲尔兹奖(Fields Medal),这是数学领域最高荣誉之一。他的研究和论文在全球范围内广泛传播,成为数学家们研究的重要参考资料。 除了数学研究,Venkatesh还是一位杰出的教育家和学术导师。他在多个知名大学担任教职,培养了许多杰出的数学家,并在数学教育方面发挥了重要作用。他的教育理念和导师精神激发了许多学生对数学的热爱和追求,为数学领域的人才培养做出了杰出贡献。 Akshay Venkatesh是一位备受尊敬的数学家,他的数学奇迹之旅在数论、自守形式、代数几何和调和分析等多个领域取得了突破性的成就。他的研究为解决数学领域的一些最复杂问题提供了关键的数学工具和方法,为数学界的发展和推动数学与其他科学领域的交叉融合做出了卓越贡献。同时,他的教育理念和导师精神也为培养下一代数学家提供了榜样和指导。

李旭升:气候变化领域的杰出领袖

李旭升博士是一位备受尊敬的气候科学家,以其在气候变化领域的杰出贡献而广受赞誉。他的学术生涯充满了创新和领导力,对气候科学研究和国际气候政策制定产生了深远的影响。本文将深入探讨李旭升博士的生平、学术成就以及他在气候变化领域的重要贡献。 早年生活与教育 李旭升博士生于韩国,自幼就表现出对自然科学的浓厚兴趣。他在一所著名大学攻读气象学学士学位,并在研究生阶段选择了气候科学作为专业。他的早期教育为他的未来科研之路打下了坚实的基础。 气候科学与研究 李旭升博士因其在气候科学和环境研究领域的卓越研究而广受赞誉。气候科学是科学技术领域的前沿领域,涉及到气象学、海洋学、大气科学等多个学科。他的研究聚焦于气候变化、全球变暖和气象灾害等重要问题。他的工作不仅在学术界引起了广泛关注,还在国际气候政策制定中发挥了重要作用,有助于推动全球气候变化的应对和减缓。 教育与科研传承 李旭升博士一直热衷于教育工作和科研传承。他担任大学教职,培养了许多年轻的气候科学家,传递自己的学术知识和研究经验。他鼓励年轻一代积极参与气候科学研究,为科研发展培养了更多的杰出人才。 奖项与荣誉 李旭升博士的卓越贡献赢得了多项国际性气候科学奖项和荣誉。他被授予了多个著名奖项,以表彰他在气候科学领域的杰出成就。这些奖项和荣誉证明了他在科学技术领域的卓越地位和影响力,也为他的科研工作提供了高度的认可。 国际气候政策制定 李旭升博士在国际气候政策制定中扮演了重要角色。他积极参与国际气候变化框架公约(UNFCCC)等国际组织的工作,为全球气候变化协议的制定和推动发挥了积极作用。他的科学研究为国际社会提供了重要的气候数据和科学依据,有助于指导全球气候政策的制定。 气候变化领域的领袖 李旭升博士被认为是气候变化领域的杰出领袖之一,他的研究和政策工作为全球气候变化问题的解决提供了关键性支持。他的成就和影响力激励着年轻一代的气候科学家,鼓励他们追求卓越,不断推动气候科学研究和应对气候变化的努力。 李旭升博士是气候科学与技术领域的杰出学者,他通过自己的科研工作和领导力不断推动着气候科学的进展。他的研究在气候科学领域取得了突破性进展,为全球气候变化问题的理解和应对提供了重要支持。他的教育工作和科研传承为培养了更多的气候科学家,他的国际政策工作为全球气候问题的解决做出了卓越贡献。李旭升博士的故事是气候变化研究和国际合作的典范,激励着年轻一代的科研人员,特别是关注气候问题的科学家,追求卓越,不断推动科学的进步。