Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

可持续发展的驱动力:专访TPBI CEO Chamaiporn Uerpairojkit

首席执行官 Chamaiporn Uerpairojkit 解释了泰国塑料巨头 tpbi 如何在政府去年发布改变行业的公告之前就致力于可持续发展。 姓名:Chamaiporn Uerpairojkit 公司:TPBI 职位:CEO 地点:泰国佛统府 过去十年来,世界各国政府逐步加强了对零售和超市中一次性塑料袋的限制和监管。因此,当泰国政府在2020年1月宣布将逐步淘汰一次性塑料袋时,这一举动虽然不出乎意料,但仍在曼谷的石化行业引起了巨大震动。这项业务利润丰厚,供应商和分销商纷纷重新思考计划,转向生产可重复使用的袋子和可降解包装。他们的时间不多,因为这一过程从2021年初就开始了。 然而,塑料巨头TPBI对此举表示欢迎,并称这一规定对其影响甚微,因为它早在三年前就已经开始了业务目标向更加环保的产品的大规模调整。事实上,自2018年以来,它一直是全球唯一一家获得国际认证的公司,能够用回收塑料袋生产可重复使用的袋子。 其产品系列包括可重复使用的袋子、马甲袋、家用垃圾袋和时尚袋,以及用于托盘包装的强韧且灵活的拉伸罩膜、各种等级的包装和可降解袋。 该公司由三兄弟约40年前创立,最初是从新加坡进口塑料废料,并将其转化为回收塑料颗粒出售给泰国主要的袋子制造商。那是一个小型操作,基于在Sampran地区租用的工厂,但三兄弟展现了令人印象深刻的商业才能,将其大幅扩展成全国最大的塑料和软包装制造商之一,为所有主要的英国、美国和澳大利亚零售商、超市和杂货店提供袋子。 在Chamaiporn Uerpairojkit于3月接任CEO之前,她由创始人之一Somsak Borrisuttanakul亲自带领参观。“Somsak先生带我参观了设施,并向我介绍了公司中担任重要角色的第二代家族成员,”她告诉我们“我对这个运营和背后的真正热情印象深刻。它有一个非常卑微的开始,但他们的奉献精神带来了如此令人难以置信的持续增长和多样化。 “我在一个中泰混合家庭中长大,这是文化的伟大融合,因此我一直相信尽你所能去实现最佳。我有创业精神在我的DNA中,我可以看到这家公司也是一样。这就是吸引我来到TPBI的原因。” Chamaiporn是一位在跨国公司中有着丰富经验的总经理,在推动各地区和国家的业务增长方面有着卓越的业绩记录。由于TPBI的大部分客户群在美国、英国、欧洲和澳大利亚,公司需要一位具有全球思维的CEO,能够帮助家族的第二代继续成功。“五年前它在泰国证券交易所上市,但它仍然有一种家族企业的感觉。他们非常聪明和敏锐,并致力于增长,但在应对外国市场方面经验不足,”她解释道。 “我相信培养第二代成员,使其更加国际化和专业化,不仅有助于他们可持续地发展业务,还能将公司带到另一个高度——他们有强大的商业知识,而我有管理跨国公司的经验。这与公司的核心价值观‘创业思维,专业行动’非常契合。这是我决定加入公司的原因。” 在上任几周内,Chamaiporn已经明确了初步的优先事项。“我看到我需要创建一个更清晰、更精简的有效业务结构,以便更好地利用我们业务单元之间的协同效应,”她说。“我观察到集团内不同运营之间存在许多重复和不一致之处,因此我只需要让它变得不那么复杂,同时建立高绩效文化。 “我现在的挑战是让我们在海外更具竞争力。我真的相信我们可以在软包装和纸品领域爆炸性增长,因为我们不是市场的主导者,所以我们可以从竞争对手那里夺取份额。” 这一过程中很大一部分将利用政府减少一次性塑料政策带来的循环经济新动力。 “家族在这个领域已经投入了很长时间;他们热衷于寻找商业方法进行回收并以社会责任的方式行事,”Chamaiporn确认道。 “我们是早期采用者,并向我们的供应商、客户和政府提出了许多概念,因为可持续发展是你必须与他人共同努力,而不是独自进行的。他们在绿色领域投入了大量资金,现在随着其他人看到其重要性,这些投入开始回报。” Chamaiporn解释道,参与的人越多,它就越可行。“我们有生产生物塑料和其他植物基解决方案的技术,但成本非常高。大家都知道这一点,但很多人害怕公开说出来,”她说。 品牌和消费者在多大程度上愿意吸收额外成本以及国际法规的执行效果还有待观察。但Chamaiporn为TPBI不仅仅是做表面文章以对抗气候变化而感到自豪。 “一些公司只是为了公关,但我们投入了大量资金进行研究,终有一天我们可以替代今天使用的塑料,”她说。“家族是长期思考者,已经在展望公司和地球在第三代和第四代接手时的样子。他们在每件事中都践行绿色价值观的先驱,这将惠及我们所有人。”

Chiau Beng Teik蔡明德:房地产巨擘与扶贫领袖

蔡明德(Chiau Beng Teik),这是一个在马来西亚房地产业界响当当的名字。作为房地产企业Chin Hin Group Property的掌门人,蔡明德不仅以其卓越的商业头脑和远见卓识在商界取得了显赫的成就,更是以其对社会的关心和扶贫工作为人们所熟知。 初创之路:梦开始的地方 蔡明德并非生于富贵,他的成功故事是典型的白手起家。年轻时,他进入房地产行业,开始了自己的创业历程。凭借敏锐的市场嗅觉、坚韧的性格以及不懈的努力,他逐渐打下了坚实的基础,为后来的成功奠定了基石。 Chin Hin Group Property:建筑梦想 在蔡明德的领导下,Chin...

菲律宾能源之王:洛佩斯家族与Federico Lopez的传奇

在菲律宾的商业领域,洛佩斯家族的名字可以说是如雷贯耳。这个家族的成员在多个行业都有所涉足,但如果说到他们在哪个领域最为杰出,那无疑是能源产业。而在这家族中,Federico Lopez的名字尤为引人注目。 Federico Lopez是First Philippine Holdings Corporation和First Gen Corporation的主席和首席执行官。这两家公司在菲律宾的能源领域都有着举足轻重的地位,尤其是在可再生能源的发展上。在Federico的领导下,洛佩斯家族的事业不仅得到了进一步的扩张,更在推动菲律宾向可持续能源转型方面起到了关键作用。 洛佩斯家族的商业故事可以追溯到几代人之前,但是Federico带来的创新和前瞻性思维,使得他在家族中独树一帜。他坚信,菲律宾的未来在于绿色和可再生的能源,这也是他在业务上一直持续的方向。 在Federico的指导下,First Gen...

马里莎·庞普瓦克:改变泰国社会的慈善先锋

马里莎·庞普瓦克女士是一位备受尊敬的泰国慈善家和社会活动家,她的慈善工作不仅改善了泰国社会的许多方面,还为全球慈善事业提供了榜样。她的坚定决心、慈善项目和对社会弱势群体的关怀,使她成为泰国乃至整个亚洲地区的杰出人物。本文将深入探讨马里莎·庞普瓦克女士的生平、慈善事业以及她对泰国社会所做出的伟大贡献。 早年生活 马里莎·庞普瓦克女士生于泰国,自幼就展现出对帮助他人和改善社会的浓厚兴趣。她在泰国著名的大学攻读社会学和社会工作学士学位,她的学术背景为她未来的慈善工作打下了坚实的基础。在她的教育背景和家庭教育的影响下,她决定致力于帮助那些需要帮助的人们,特别是儿童和妇女。 慈善事业的开端 马里莎·庞普瓦克女士的慈善事业始于20世纪80年代,当时她创建了一个小型的慈善组织,旨在改善泰国贫困地区的教育和卫生条件。她深刻理解教育和健康对于一个社会的重要性,尤其是对于儿童的成长和发展。因此,她的组织开始为贫困儿童提供教育支持和医疗援助。 儿童保护和福祉 马里莎·庞普瓦克女士的慈善事业逐渐扩展,她着眼于更广泛的儿童保护和福祉问题。她创建了儿童保护基金会,致力于保护遭受虐待和忽视的儿童。该基金会提供庇护所、心理治疗和法律支持,以确保儿童能够安全地成长并获得适当的关怀。她的工作不仅挽救了许多儿童的生命,还为泰国建立了更完善的儿童福祉体系。 妇女权益 除了儿童福祉,马里莎·庞普瓦克女士也关注妇女的权益和社会地位。她创建了妇女赋权项目,旨在提高妇女的教育水平、经济地位和社会参与。这个项目为妇女提供技能培训、职业机会和权益保护,帮助她们实现独立和自主。 环境保护和可持续发展 马里莎·庞普瓦克女士对环境问题也表现出极大的关注。她发起了多个环保项目,致力于保护泰国的自然资源和生态系统。她的组织推动了可持续发展倡议,鼓励社区采取可持续的农业和资源管理方法,以改善农村地区的生计和环境质量。 国际慈善工作 马里莎·庞普瓦克女士的慈善事业不仅局限于泰国,她还积极参与国际慈善工作。她与国际慈善组织合作,为全球一些最贫困和需要帮助的地区提供援助。她的国际合作项目包括教育支持、医疗援助和紧急救援行动。 奖项与荣誉 由于她在慈善领域的卓越贡献,马里莎·庞普瓦克女士获得了多项国际性奖项和荣誉。这些奖项表彰了她的慈善事业、领导力和影响力,也为她的工作提供了高度的认可。 马里莎·庞普瓦克女士是一位充满爱心和关怀的慈善家,她的慈善事业改善了泰国社会的许多方面,包括儿童保护、妇女权益、环境保护和可持续发展。她的工作不仅在泰国产生了深远影响,还为全球慈善事业树立了榜样。她的生活和工作故事鼓舞着许多人,激励他们积极参与社会改善工作,为更美好的世界贡献自己的力量。