Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

拉菲克·马利克:打破刻板印象的商业奇才

拉菲克·马利克(Rafique Malik)是一位备受尊敬的印度企业家,以其在不同领域的卓越成就和非凡创新而闻名。他的生平和职业生涯充满了决心、多元化和卓越。本文将深入探讨他的生平、多元化业务的成功以及他在印度商界的杰出影响力。 拉菲克·马利克的职业生涯始于20世纪70年代,当时他从事了多个领域的经营,包括房地产、教育和酒店业。他的多元化投资策略使他成为印度商界的独特人物,跨足多个行业,探索不同领域的商机。 马利克先生的最著名的成就之一是他在房地产领域的成功。他创立了Malik Group(马利克集团),该集团在印度房地产市场上占据了重要地位。他的愿景是创建高质量的住宅和商业项目,为印度市场提供先进的房地产解决方案。他的领导力和创新使他成为房地产行业的领袖之一。 此外,马利克先生还在教育领域做出了杰出贡献。他创立了多所学校和教育机构,为印度的学生提供高质量的教育。他的教育项目致力于培养下一代领袖和创新者,为社会做出积极贡献。 拉菲克·马利克还在酒店业领域展现了卓越才华。他投资并经营了多家高档酒店,为国内外游客提供豪华和舒适的住宿体验。他的酒店业务成为印度酒店行业的重要一员。 马利克先生的领导力哲学强调了决心、多元化和创新的重要性。他坚信在不同领域追求卓越是成功的关键。他的多元化投资策略为他带来了商业成功,同时也为印度社会和经济做出了积极贡献。 拉菲克·马利克是一位杰出的印度企业家,他的卓越成就、多元化业务和领导力使他成为印度商界的杰出人物。通过房地产、教育和酒店业务,他为印度的商业发展和社会福祉做出了杰出贡献,同时也激励着其他创业者、领袖和梦想追求者,打破了刻板印象,展示了商业奇才的潜力。

珍贵的诗意瞬间:帕尔维恩·沙基尔的文学遗产

帕尔维恩·沙基尔(Parveen Shakir)是巴基斯坦文学界的瑰宝,以其深刻的诗意表达和敏锐的情感而备受赞誉。她是一位杰出的乌尔都语诗人,她的诗歌作品充满了深度、美感和情感,深深触动了读者的心灵。本文将深入探讨帕尔维恩·沙基尔的生平和她在文学界的杰出成就。 早年生活与教育 帕尔维恩·沙基尔于1952年出生在巴基斯坦卡拉奇,她来自一个受教育和文化熏陶的家庭。她的父母鼓励她接受高等教育,培养了她的文学兴趣。她在卡拉奇大学学习了英语文学,后来在该校担任了一名讲师,这也是她文学生涯的开端。 诗歌的初现 帕尔维恩·沙基尔的诗歌才华初现于20世纪70年代末,当时她的诗歌开始发表在各种文学杂志上。她以独特的方式表达了爱情、社会和人性等主题,吸引了文学界的注意。 文学成就与《瓶中信》 帕尔维恩·沙基尔最著名的作品之一是她的诗集《瓶中信》(Khushboo),于1976年首次出版。这本诗集迅速赢得了广泛的赞誉,被誉为乌尔都语文学的杰作之一。其中的诗歌表达了深刻的情感和对生活的思考,深深打动了读者的心弦。 女性主题与情感表达 帕尔维恩·沙基尔的诗歌作品常常涉及女性主题,她以女性的视角探讨了爱情、独立和自由等议题。她的诗歌表达充满情感,真实而深刻,让读者共鸣。她的作品展现了女性的力量和情感世界,为女性文学做出了重要贡献。 文学影响与独特风格 帕尔维恩·沙基尔的诗歌作品以其独特的风格和表达方式而脱颖而出。她的诗歌深受现代乌尔都语文学的影响,但又具有独特的个人特色。她的文字简洁而直接,情感真挚而深刻,使她的诗歌在文学界占有一席之地。 早逝与文学遗产 帕尔维恩·沙基尔的文学生涯太短暂,于1994年因一场车祸不幸离世,享年仅42岁。尽管她的离世令人惋惜,但她留下的诗歌作品将永远活在文学史册中。她的作品持续影响着后来的诗人和读者,她的文学遗产永不褪色。 文学承认与奖项 帕尔维恩·沙基尔的杰出文学成就得到了广泛的承认。她获得了多项文学奖项,包括巴基斯坦文学奖,这些奖项表彰了她在文学界的杰出贡献。她的诗歌作品被翻译成多种语言,赢得了国际读者的喜爱。 文学纪念与荣誉 帕尔维恩·沙基尔的生平和作品受到了巴基斯坦和国际文学界的纪念和赞誉。许多文学机构和学者都举办了关于她的文学研讨会和纪念活动。她的生日也成为了文学庆典,以纪念她的文学贡献。 文学传承与永恒的诗歌 帕尔维恩·沙基尔的诗歌作品仍然深受读者喜爱,她的诗歌继续传承,激励着新一代的诗人和文学爱好者。她的诗歌以其深刻的情感、独特的表达和女性主题而著称,永远留在人们的心中。 帕尔维恩·沙基尔是巴基斯坦文学界的瑰宝,她以其深刻的诗意表达和敏锐的情感而备受赞誉。她的诗歌作品表达了深刻的情感、女性主题和对生活的思考,深深触动了读者的心灵。尽管她的生平太短,但她留下的文学遗产将永远为文学界的瑰宝,她的诗歌将继续激励着人们,成为永恒的诗意之声。

中国银幕女神:深度探寻范冰冰的演艺传奇

范冰冰(Fan Bingbing),是中国电影界最杰出的女演员之一,以其卓越的演技、多产的电影生涯和国际影响力备受世界瞩目。她是中国电影的代表性人物之一,也是亚洲电影的巅峰女星。本文将深入探讨她的生平、电影作品、演艺哲学以及她在电影界的独特地位。 范冰冰于1981年出生在中国山东省,她的演艺生涯始于20世纪90年代。她以其出色的演技和美丽的外貌很快崭露头角,成为中国电影界的新锐女演员。她的电影作品涵盖了各种类型,包括剧情片、历史片、喜剧片等。 她的演技备受赞誉,她在电影中塑造了众多经典角色。她的代表作之一是电影《卧虎藏龙》(Crouching Tiger, Hidden Dragon),这部影片不仅在中国取得了巨大成功,还在国际上赢得了多项奖项,成为亚洲电影的代表之一。 她的电影作品还包括了电影《赤壁》(Red Cliff)、《唐山大地震》(Aftershock)和《我不是潘金莲》(I Am Not Madame...

2024年度亚洲电子商务行业影响力人物:卢肯

水星集团首席执行官兼董事总经理Kew Lew有跳出框框思考的诀窍。但支持他推向市场的每一个巧妙想法的是该公司在仓储和物流方面的扎实专业知识。 虽然事实证明新冠肺炎疫情对物流行业的所有公司来说都是动荡的,但总部位于马来西亚的水星集团似乎发现了乌云的一线希望。 集团首席执行官兼董事总经理Ken Lew透露,这家仓储和物流公司不仅从这一时期崛起,不断增长的端到端一站式电子商务平台运营专注于休闲空间——VV eHouse——它还有一些新项目正在筹备中。 “一般来说,我们的整个战略是基于一站式电子商务平台,所以今天我们不仅有物流和仓储,而且在VV eHouse也有一站式电子商务平台。” 该公司长期以来一直管理自己的存储和分销网络,每月运营超过50万平方米的有盖和开放空间。然而,随着新加入,这一数字很快就会飙升。 Lew告诉《首席执行官杂志》:“目前,我们最大的项目是建造一个百万平方英尺(93,000平方米)的仓库。”“我们预计到2024年底完成这座价值百万美元的建筑。” 此外,水星集团计划今年开始另一个项目——一个占地约46.5公顷的工业园区。 创意能源 所有这些举动都符合Lew更广泛的愿景。他说:“一般来说,我们的整个战略是基于一站式电子商务平台,所以今天我们不仅有物流和仓储,而且在VV eHouse还有一个一站式电子商务平台。” Lew目前正在开发并提高其一站式电子商务平台产品的知名度,该平台连接了三个销售渠道,包括在线、离线和实时销售,以及物流和电子实现。最初的重点类别将是家具、家庭和生活、体育和生活方式。虽然在线将是一个主要因素,但实际存在也将是一个主要因素。 “人们仍然喜欢去马来西亚的购物中心,”他指出。 Lew相信VV eHouse正在走向成功。除了在当地提高VV eHouse的意识外,他还在区域全面经济伙伴关系(RCEP)中将这一概念带到其他国家,这是澳大利亚、文莱、柬埔寨、中国、印度尼西亚、日本、韩国、老挝、马来西亚、缅甸、新西兰、菲律宾、新加坡、泰国和越南等亚太国家之间的自由贸易协定。 Lew解释说:“RCEP汇集了来自某些国家的各种公司,并作为促进商业交易的平台。” 凭借其VV电子房屋业务,水星在仓储和物流方面的专业知识,它也将能够在进入的任何市场提供这些服务。他还认为这种安排是相反的,VV eHouse能够帮助制造企业和其他品牌在19个不同市场分销他们的产品。 强势地位 Lew相信该计划将取得成功,理由是水星集团以客户为首的强大声誉,将其作为主要差异化因素。 他透露:“'客户至上'意味着我们必须提供良好的服务,并确保我们为客户提供他们要求的任何东西,以减少客户的麻烦,使他们轻松完成任务。” 在与世界各地的许多公司合作后,他坚信,这种一站式电子商务平台运营的合并将向许多公司推销自己,这要归功于它能够通过与他们已经认识和信任的合作伙伴合作来“减少他们的麻烦”。 “每个人都提供不同的地方,不同的服务,不同的平台,所以我们都可以合作。互惠互利。” 这些关系的力量,特别是物流部门内部的关系,为所有人创造了重大机会——一个真正的双赢局面。 “物流行业的范围真的很大,”Lew解释道。“每个人都提供不同的地方,不同的服务,不同的平台,所以我们都可以合作。互惠互利。” 这种合作精神是该公司在过去20多年里增长的主要因素,从作为一个单人乐队开始到今天的1000人巨头。但是,尽管有这种巨大的扩张和创新的可能性即将到来,但该公司的核心产品保持不变。 “我们从未忘记我们的初衷。无论如何,物流和仓储仍然是最重要的,我们可以将我们在这一领域的专业知识带到全球的每个角落,”Lew说。 “无论我走多远,我都无法离开我原来的行业。人们也是如此。这就是我们一起工作而不忘记初衷的方式。我们作为一个团队,一个水星集团的一个家庭一起工作,走得更远,看到更远。”