Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

Reasmey Tan:柬埔寨的环境保护倡导者和生态学家

Reasmey Tan,是一位在柬埔寨备受尊敬的环境保护倡导者和生态学家,他致力于保护柬埔寨的自然环境和生态多样性。他的生平故事充满了奋斗、坚韧和对自然界的深刻热爱,为柬埔寨的环保事业和可持续发展贡献了巨大的力量。本文将深入探讨Reasmey Tan的生平、学术成就以及他在环保领域的重要贡献。 早年生活与教育 Reasmey Tan 出生并成长在柬埔寨,他自幼就对大自然的美丽和复杂性产生了浓厚兴趣。他在柬埔寨的一所大学攻读生态学学士学位,并在研究生阶段选择了环境科学作为专业。他的早期教育为他未来的环保事业奠定了坚实的基础。 生态学研究与突破 Reasmey Tan 教授在生态学领域取得了多项重要突破。他的研究涵盖了生态系统保护、野生动植物保护、气候变化适应和可持续农业等多个方面。他领导的研究团队在柬埔寨的自然保护区进行了长期的生态监测和研究,为了解该地区生态系统的功能和稳定性提供了关键数据。他的工作不仅有助于保护柬埔寨的生态多样性,还为全球生态保护提供了重要的案例和方法。 环保倡导与社会影响 Reasmey Tan...

韩国电影女王:探寻河智苑的演艺之路

河智苑(Ha Ji-won)是韩国电影界最杰出的女演员之一,以其多才多艺的演艺生涯、卓越的演技和国际影响备受世界瞩目。本文将深入探讨她的生平、电影作品、慈善事业以及她在韩国和国际电影界的独特地位。 河智苑于1978年出生在韩国首尔,她的演艺生涯始于1997年。她是韩国电影界的代表性人物之一,也是韩国电影的女演员巨星。她的演艺作品涵盖了各种类型和题材,包括浪漫爱情、动作、历史剧和战争电影。 河智苑的演技备受赞誉,她以出色的表演和情感深度而闻名。她的代表作之一是电影《我的野蛮女友》(My Sassy Girl),这部浪漫爱情喜剧赢得了国内外观众的喜爱,为她赢得了“韩国电影女王”的称号。她还出演了电影《信》(Miracle in Cell No. 7)和《秘密花园》(Secret Garden)等,不断挑战不同类型的角色,展现了多面化的演技。 河智苑的演艺事业充满了多样性,她不仅是一位杰出的电影演员,还在电视剧、综艺节目和音乐领域取得了成功。她的电影作品常常在国内外电影节上获奖,赢得了国际观众的尊重。她被视为韩国电影的文化大使之一,为韩国电影赢得了国际声誉。 尽管她的演艺事业在演技上备受认可,但她的生活也充满了挑战和努力。她经历了电影制作中的困难和压力,但坚持不懈地追求演艺梦想。她的坚韧和毅力是她成功的关键,也是她演艺事业的灵魂。 河智苑是韩国电影界的女演员巨星,以其多才多艺的演艺生涯、卓越的演技和国际影响备受尊敬。她的演艺作品深刻反映了人类情感和社会议题的多样性,为韩国和国际电影界留下了深远的影响。她是演艺的女王,是演艺的典范。

从交易到长期投资:Stephanie Leung的投资哲学

为亚洲最富有的家庭管理基金改变了 Stephanie Leung 与金钱的关系。Stashaway 的首席投资官告诉我们她如何采用个人方式实施投资策略。 **“香港出生的Stephanie Leung成长于一个晚餐话题围绕股票和投资的家庭。即使在密歇根大学学习计算机科学以及后来在斯坦福大学攻读硕士学位期间,她也抽出时间进行交易,尤其是在2000年代初期的科技股交易。 返回亚洲加入麦肯锡香港分公司后,这位44岁的女士决定卖掉她所有的科技股,这一决定她现在感到后悔,因为这些公司此后都大幅增长。多年来,她从计算机科学毕业生到顾问、交易员、对冲基金创始人,再到现在Stashaway的首席投资官,她的旅程改变了她与金钱的关系。如今,Stephanie坚定地相信长期投资,并以帮助他人实现这一目标为己任。 虽然她仍然在日常交易中找到乐趣,但Stephanie现在的投资策略优先考虑稳定性,重点在于资产和基金的多样化。作为一名驻香港的投资官,Stephanie构建了一个符合她个人兴趣和财务目标的投资组合,涵盖了葡萄酒、艺术品、加密货币等投资。 **您的旅程如何影响了您的投资策略?** 在咨询和交易职位之后,我涉足了对冲基金管理。虽然对冲基金摆脱了传统交易中的每日市值压力,但它们仍然每月计算市值,导致行业内普遍存在的短期思维。 后来,我加入了一家多家族办公室,为亚洲一些最富有的家族管理投资组合。这让我大开眼界,因为我注意到他们并不频繁交易,而是保持长期投资,有时甚至几十年,专注于复利增长而不是频繁操作。我意识到这种方法才是产生投资回报的有效途径。 我意识到自己一直在追求交易而不是投资。交易很复杂,而投资应该是简单明了的。 这种认识与我加入Stashaway的契机不谋而合,促使我加入他们的使命,即将投资民主化,不仅仅局限于富有的家庭。 尽管市场波动,长期投资增加了成功的概率。定期投资法(即不论市场状况如何,定期进行投资)有助于降低风险,这是投资者应考虑利用的一种被低估的工具。 **您的第一次投资是什么?** 我不认为那算是投资,更像是一次投机冒险。我第一次涉足投资世界是在我大约12或13岁的时候。当时家里有人建议我把一些港币兑换成英镑。我没有进行任何研究,也不了解货币市场的复杂性,就去银行兑换了钱。 回想起来,那只是一个小数目,可能只有几百港币,考虑到我当时的年龄。然而,交易后不久,我注意到英镑贬值了。我不知道接下来该怎么办,于是问了我的祖母,她建议我把英镑换回港币,因为我不知道自己在做什么。 当我排队在银行兑换时,看到英镑的价值进一步下跌。回想这次经历,我意识到进行彻底研究的重要性,不要盲目听从他人的建议。 **您目前持有哪些类型的投资?** 我的投资组合包括私人和公开市场的投资。在公开市场上,我主要投资于交易所交易基金(ETF)。我的私人投资主要包括我投资的企业,以及一些替代资产,如葡萄酒、艺术品和加密货币。 **您有投资债券或房地产吗?** 我的私人投资组合中包括房地产投资。至于债券,虽然我不直接投资债券,但我确实将投资组合的一部分分配给包含债券的ETF。 **您收到的最佳投资建议是什么?** 我收到的最好建议,尽管来得不够早,是复利确实是世界第八大奇迹。 **您会给刚开始投资的人什么建议?** 我建议先了解自己的风险偏好。与其专注于回报,了解所涉及的风险至关重要,因为回报与您承担的风险直接相关。在投资世界中,没有免费的午餐。许多人犯的错误是只关注回报,而没有充分评估相关的风险。 **对新手投资者有什么建议吗?** 对于初学者,我强烈建议研究沃伦·巴菲特和查理·芒格的投资理念。尽管我不像他们那样选择个股,但他们的智慧不仅限于选股策略,还包括宝贵的人生原则。一个关键教训是认识到自己的长处和短处。应用到投资中,如果你在某个领域有专长,比如医疗保健,投资你熟悉的相关公司是有意义的。 **请谈谈葡萄酒和艺术品等另类资产投资。** 如果我对某样东西不感兴趣,我不会投资,因为我不会有任何知识。我喜欢喝一杯美酒,也欣赏艺术。这些东西实际上会增值。 我不投资手表,因为我对它们没有兴趣。这全都取决于我的个人兴趣。 **您什么时候决定葡萄酒不仅可以享用,还可以投资?** 不够早;我希望自己在18岁左右就开始投资。当时我叔叔倒了一杯非常好的波尔多一级庄葡萄酒,如果那时我就投资,会有很大的不同。但我大约在七八年前开始投资葡萄酒基金。 **这些葡萄酒基金如何运作?** 与其他投资基金类似,基金经理旨在使用来自不同地区、不同年份的葡萄酒构建多样化的投资组合。投资者可以投资于不同类别,如波尔多、勃艮第和意大利葡萄酒。根据市场趋势,有些类别可能表现优于其他类别。 **投资另类资产时,投资者应该注意哪些费用?** 管理费通常高于公开市场。例如,Stashaway的投资组合投资于管理费通常低于20个基点(每年0.20%)的ETF,但另类基金经理可能会收取2%或更多的管理费外加业绩费。确保另类资产的回报足以弥补这些费用非常重要。此外,由于流动性较低和与实物资产相关的风险较高,另类资产应该只占您整体投资组合的一小部分。

杰基·夏洛夫:印度电影的男神传奇

杰基·夏洛夫(Jackie Shroff),是印度电影界备受喜爱的男演员之一,以其坚毅的外表、迷人的个性和多才多艺而闻名于世。他的演员生涯跨足了几十年,涵盖了各种类型的角色,从动作英雄到戏剧性角色,以及社会题材电影。在本文中,我们将深入探讨杰基·夏洛夫的生平事迹、演员成就以及他在印度电影界的重要地位。 杰基·夏洛夫于1957年出生在印度的孟买,他的早年生活充满了挑战和坚韧。他在一个普通家庭长大,早年的经历锻炼了他坚韧的性格和决心。他的演员生涯始于1980年代初期,当时他首次亮相在印度电影界。虽然他的首部电影《席琳》(Swami Dada)并未取得商业成功,但他的演技引起了导演和制片人的注意,他很快获得了更多的演出机会。 杰基·夏洛夫的演技以其自然、真实和情感丰富而著称。他以强烈的个性和深情的表演而闻名,他的角色充满了魅力和感染力。他的演出常常深受观众喜爱,他的角色塑造栩栩如生,让人难以忘怀。他的演技使他成为了印度电影界备受尊敬的男演员之一。 杰基·夏洛夫的演员作品涵盖了各种类型的电影,包括动作片、浪漫喜剧、戏剧片和社会题材的电影。他在多部电影中与印度电影界的著名女演员如玛德琳·斯图尔特(Madhuri Dixit)、桑迪娅·马里霍特拉(Sridevi)和孟买时代的其他女演员合作,共同创造了众多经典电影。他的电影作品包括了《英雄》(Hero)、《玛德拉斯婚礼》(Parinda)和《拉玛·努米》(Ram Lakhan)等备受欢迎的影片。 除了在印度电影界取得了巨大成功,杰基·夏洛夫还积极参与了国际电影项目。他在国际电影节和电影制作方面有着丰富的经验,为印度电影在国际上树立了良好的形象。他的演技和知名度越过了国界,深受世界各地的影迷喜爱。 然而,尽管他的演员生涯充满了荣誉和成就,杰基·夏洛夫一直保持了谦逊和坚韧。他积极参与了多个慈善组织和社会活动,致力于改善贫困和弱势群体的生活。他关注教育、儿童权益和社会问题等重要议题,通过他的演员生涯和社会活动为这些问题发声,积极推动社会的积极变革。 杰基·夏洛夫是印度电影界的传奇男演员,他的演技、坚韧和多样性使他成为了备受尊敬和令人瞩目的演员。他的演员生涯充满了成功和多样性,他的作品继续为印度电影界和国际电影界带来深远的影响。杰基·夏洛夫的一生都是一个充满激情、艺术和社会意义的故事,激励着年轻一代的演员和社会活动家追求自己的梦想。无论是在电影界还是社会活动方面,他都将永远被铭记为一位杰出的男演员和社会活动家,他的演技将继续启发和感染着世界各地的观众。