Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

卡米拉·沙姆西:文学之翼的女性笔触

卡米拉·沙姆西(Kamila Shamsie),这个名字在当代文学界闪耀着独特的光芒,如同一位文学之翼的女性笔触,她以深刻的见解、生动的叙事和对社会问题的关注而享誉国际。她是一位备受尊敬的英国巴基斯坦作家,以其杰出的文学成就和对身份认同、权力和社会正义的深刻探讨而脱颖而出。本文将带您深入了解卡米拉·沙姆西的生平、作品和文学影响。 卡米拉·沙姆西于1973年出生在巴基斯坦卡拉奇,她的文化背景和成长经历充满了多元化。她在巴基斯坦接受了初等教育,后来前往美国和英国接受高等教育。这个跨越文化和地域的背景深刻地影响了她的文学创作,使她能够更好地理解全球化时代的复杂性,并将不同文化的元素融入她的作品中。 沙姆西的文学生涯始于1998年,当她出版了她的处女小说《入侵(In the City by the Sea)》,这是一部关于一位巴基斯坦男孩的成长故事,背景是卡拉奇的城市景观。这部小说以其深刻的人物刻画和情感表达,为她赢得了文学评论家的注意。 然而,真正使沙姆西声名鹊起的作品是她的小说《家(Home Fire)》,这是一部以希腊神话为背景,讲述了一名英国巴基斯坦家庭的故事,涉及了宗教、恐怖主义和身份认同等重要主题。这部小说荣获了英国沃尔夫文学奖(Women's Prize...

从斯坦福到Zepto:Aadit Palicha和Kaivalya Vohra的创业故事

Zepto帮助开创了印度的快速商业模式——现在其联合创始人希望从更大的竞争对手手中夺取市场份额。 当19岁的Aadit Palicha和Kaivalya Vohra放弃斯坦福大学的名额,推出承诺10分钟送达的印度杂货配送服务时,潜在投资者笑了。然而,这对在2022年《亚洲30位30岁以下精英》榜单上榜的年轻人毫不气馁,2021年推出了Zepto。三年后,他们已经成为印度第三大快速商业公司,以商品总值计,每天通过40,000名配送员在十个城市配送50万件商品,并从杂货扩展到玩具、裤子等各类商品。 下一步的挑战是蚕食其主要竞争对手Blinkit和Instamart的市场份额。“最大的挑战是保持严谨的态度,”公司首席技术官Vohra说道。为了资助其扩展计划,总部位于孟买的Zepto已经从包括美国创业加速器Y Combinator和风险投资公司Goodwater Capital在内的知名投资者那里筹集了5.5亿美元,最新一轮融资对公司的估值达到14亿美元。未来18到24个月内,IPO也在计划中。 虽然疫情推动了印度的配送行业,Zepto帮助创建了快速商业这一细分市场。根据德国数据公司Statista的预测,这一市场的销售额预计将从今年的33亿美元增长到2029年的100亿美元。CEO Palicha表示,Zepto在截至3月31日的财年收入预计将达到506亿卢比(约合6.1亿美元),比去年增长150%。他还预计Zepto将在未来几个月内首次实现运营利润,此前2023财年亏损127亿卢比(约合1.55亿美元)。“核心业务正在快速发展,”他补充道。“我们希望在地理范围和产品类别上同时扩展。” Zepto表示,其95%的订单来自回头客,计划在未来几个月内扩展到诸如斋浦尔和苏拉特等较小城市,在德里和孟买等主要城市建立基础后。自2023年末推出以来,公司还推出了自有品牌Relish的肉类和海鲜产品,销售额达15亿卢比。其他举措包括Zepto Café服务,提供热饮和小吃,而新的忠诚度计划Zepto Pass自2月份以来已经签约了400万用户。 两位创始人在迪拜三年级时相识,并自然形成了一个团队。2020年,他们双双被斯坦福大学录取,计划学习计算机科学。但当所有课程因疫情转为线上时,两人申请了间隔年。在Vohra位于孟买郊区安泰里的家中,他们意识到老年邻居在获取日常必需品方面存在困难。这促使他们想到了KiranaKart,一个从本地小店(kiranas)提供超本地配送服务的想法。他们每天在孟买的大街小巷奔波三个月,向当地商店推销他们的应用——在产品和库存管理、需求预测和配送延迟方面学到了宝贵的经验。“我们的父母希望我们关闭公司去斯坦福,”Vohra回忆道。 相反,他们放弃了斯坦福的名额,于2021年1月至3月参加了加州创业加速器Y Combinator的创业计划。一个月后,他们基于人们对快速杂货配送的需求创立了Zepto。(Zeptosecond是物理学中可测量的最短时间单位。)他们还意识到,仅仅做配送无法致富:必须控制整个供应链和客户体验。 快速配送的关键在于340个“暗店”或仓库的网络,这些仓库位于主要住宅区附近,储存着6000种最受欢迎的产品。(Zepto计划在未来几个月内将其增加到1万种。)通过租赁偏僻位置来保持低成本。接下来是快速履约:订单在不到一分钟内被挑选、打包、装袋并发出。一支由骑自行车和摩托车的配送员组成的队伍接单并使用显示实时交通状况的路线工具,客户可以在手机上跟踪配送情况。从仓库到前门的平均距离约为1.5公里,中位配送时间为11分钟。“客户并不在乎10分钟变成15分钟甚至20分钟,”总部位于古尔冈的零售咨询公司Technopak的Arvind...

Robert & Philip Ng:亚洲地产业的奇迹兄弟

Robert和Philip Ng是新加坡地产业的巨头,以其在地产和酒店领域的卓越成就和领导力而广受瞩目。本文将深入介绍他们的生平、地产帝国的崛起以及他们在亚洲地产业的杰出影响力。 早年生活与教育 Robert和Philip Ng生于新加坡的一个商业世家,他们从小就接触到家族地产生意。他们分别在海外留学,Robert在美国获得了工商管理硕士学位,而Philip则在英国接受了高等教育。 建立Far East Organization Far East Organization是Robert和Philip Ng家族的地产公司,成立于1960年代初。从小规模的起点出发,他们将这家公司发展成为亚洲最大的私营地产开发商之一。Far East...

B.R. 阿姆贝卡:印度社会正义的伟大倡导者

布希南·拉姆吉·阿姆贝卡(Bhimrao Ramji Ambedkar),通常被简称为B.R. 阿姆贝卡,是印度历史上最重要的社会改革者之一。他不仅是一位杰出的政治家和法律学家,还是印度社会正义运动的奠基人之一。他的贡献对于印度社会的公平、平等和正义产生了深远的影响。在本文中,我们将深入了解这位伟大的印度社会改革者的生平和他的杰出成就。 B.R. 阿姆贝卡于1891年出生在印度马哈拉施特拉邦的一个古尔基家庭。他出生在印度不可接触民众中的一个弱势群体,亲历了种姓制度的不平等和压迫。然而,阿姆贝卡展现出了杰出的智慧和决心,通过教育摆脱了贫困,最终获得了博士学位,成为印度历史上第一位来自贱民社群的博士。 阿姆贝卡的学术生涯充满荣誉,他前往美国和英国深造法律学,并在国际上获得了广泛的认可。他是印度宪法的主要起草者之一,为印度成为一个民主共和国奠定了坚实的法律基础。他的法学贡献不仅仅改变了印度的法律体系,还影响了国际法律界。 然而,阿姆贝卡的最重要的贡献之一是他对印度社会正义和平等的不懈倡导。他坚决反对种姓制度,并倡导废除印度社会中的不平等和歧视。他的努力导致了印度政府颁布了《印度社会权益法》(Indian Constitution (Scheduled Castes) Order)和《印度社会受压迫阶层权益法》(Indian...