奖项申报奖项申报奖项申报奖项申报

Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

创新之梦:Min-Liang Tan的科技帝国

引言 Min-Liang Tan是一位备受尊敬的科技创业家,以其在电竞和科技硬件领域的卓越成就而闻名。作为一位充满激情的创新者,他是一家知名电竞和科技公司的创始人,也是一位积极推动科技创新和社会变革的领袖。本文将深入探讨Min-Liang Tan的生平事迹,以及他在科技领域的卓越贡献。 早年生活与教育 Min-Liang Tan出生在新加坡,他在一个充满创造力的家庭中长大。他从小就展现出对科技和计算机的浓厚兴趣。随后,他前往新加坡国立大学攻读法律学位,并获得了硕士学位。然而,他的热情一直都在科技创新领域。 创业之路的开始 毕业后,Min-Liang Tan决定追随自己的激情,开始了他的创业之路。他与一位朋友合作,共同创立了一家科技硬件公司,专注于电竞设备和游戏外设。这个决定成为他职业生涯的转折点,也为他带来了巨大的成功。 建立科技帝国 Min-Liang Tan通过不断的努力和创新精神,逐渐将他的公司发展成了一家全球性的科技巨头。他的公司生产和销售一系列高质量的电竞设备和游戏外设,在电竞行业取得了卓越的地位。他的产品以创新和性能而闻名,吸引了全球数百万的粉丝和玩家。 推动科技创新 除了商业成功,Min-Liang Tan还一直致力于推动科技创新。他积极支持年轻的科技创业者和初创企业,并投资于各种创新项目。他的慈善基金会也致力于支持科技教育和创新研究。 对未来的展望 Min-Liang Tan和他的公司仍然在科技硬件和电竞领域发挥着积极的作用。他们不断推出创新产品,拓展全球市场,并继续引领行业发展。他们的未来展望充满了科技创新和全球影响力。 总结 Min-Liang Tan是科技领域的杰出代表,他通过坚韧不拔的精神和创新的思维建立了一个令人瞩目的科技帝国。他的成功故事激励了其他创业者,展示了如何通过对激情的追求和不断的创新在科技领域取得卓越的成就。他的影响力不仅局限于商业领域,还推动了科技创新和社会变革的进程。Min-Liang...

梦幻与现实:探寻三島由纪夫的文学世界

三島由纪夫(Yukio Mishima)是日本文学史上最杰出的作家之一,以其深刻的文学作品、独特的文学风格和引人入胜的创作生涯而备受世界瞩目。本文将深入探讨他的生平、文学作品、文学哲学以及他在文学界的独特地位。 三島由纪夫于1925年出生在日本东京,他的真实名字是豊島与志雄(Kimitake Hiraoka),而“三島由纪夫”是他的笔名。他的文学生涯始于20世纪40年代,他的作品涵盖了小说、剧本、随笔和短篇小说。 三島由纪夫的文学作品通常涉及复杂的主题,如个体与社会、荣誉与死亡、性别与身份等。他的代表作品之一是小说《福音的曲》(Confessions of a Mask),这部作品讲述了一个年轻男性在性别认同和社会期望之间的内心挣扎,深刻探讨了个体的存在和自我发现。 他的作品还包括《金阁寺》(The Temple of the...

印度不动产巨头:Kushal Pal Singh的城市建设传奇

Kushal Pal Singh,作为印度房地产界最杰出的企业家之一,以其卓越的城市建设智慧和领导力而备受瞩目。他是印度著名的不动产开发公司DLF有限公司(DLF Limited)的创始人和主席,该公司在印度和国际舞台上拥有令人瞩目的城市建设项目。Kushal Pal Singh的城市建设传奇是一个充满创新、发展和可持续性愿景的故事,鼓舞着年轻的企业家和城市规划领袖,追求卓越并为城市发展作出积极贡献。 Kushal Pal Singh的职业生涯始于印度政府的城市规划部门,他在那里积累了宝贵的城市规划经验。然而,他的雄心和愿景推动他于1946年创立了DLF有限公司。这个小型房地产公司在短短几十年内发展成为印度最大的不动产开发公司之一,涵盖了多个城市,从住宅、商业到工业和基础设施等领域,为城市的综合发展做出了积极贡献。 DLF有限公司以其在不动产领域的卓越成就而著称,拥有一系列的成功城市建设项目,如DLF城市、DLF Cyber...

《亚洲人物》2024年度新型电商行业影响力人物:横黎

PSC公司可能已经存在了50年,该地区一些家喻户晓的名字已经存在其稳定,但这并不能阻止执行副总裁横黎(Candice Heng)改变局面,使公司走上数字道路。 随着快速消费品(FMCG)的分销商庆祝成立50周年,PSC公司(PSC)即将在2024年达到一个重要的里程碑。但这次活动将标志着在执行副总裁Candice Heng的领导下,将开启数字未来,而不仅仅是纪念其过去。 当Heng加入公司时,当公司摆脱新冠肺炎疫情时,它正处于公司轨迹的关键时刻。 她告诉《亚洲人物》:“最近的疫情凸显了电子商务的重要潜力,PSC将进一步投资于我们的数字化转型。” 编辑搜图 请点击输入图片描述(最多18字) “我与国际品牌合作也让我更深入地了解了全球市场的动态和文化多样性。” 这代表了这家已经成熟的公司的重大转变,该公司在新加坡和马来西亚分销皇家伞米、财富豆腐和面条等家用品牌。 在新加坡,该公司与Lion、Greenfields、Pauls、3M、Shinmei和JA等流行品牌合作。与此同时,在马来西亚,它拥有27,000多个分销点,它负责Mentos、Chupa Chups、TaoKaeNoi、Tai Sun、Meiji、Mazola、Harmuni、Café21和Gold Roast等标志性品牌的分销。 Heng说:“作为一个成熟的分销商,为我们的客户拥有分销点和渠道绝对至关重要。”“我们在新加坡和马来西亚的网络涵盖主要大型超市、超市、迷你超市、便利店、传统商店、电子商务、Horeca和食品服务。” 编辑搜图 请点击输入图片描述(最多18字) 创造历史 Heng于2023年4月加入公司,担任执行副总裁,并表示她很高兴庆祝PSC成立50周年, 她说:“当PSC执行主席Sam Goi第一次找我担任这个角色时,我非常兴奋,因为PSC作为知名品牌必需品制造商和分销商的声誉很高。”“PSC尚未充分发挥其全部潜力,我看到了许多帮助发展其本地和国际业务的机会。” Heng拥有伦敦大学商业学士学位,在快速消费品行业工作了17年多,曾为雀巢、红牛和乐高等多家跨国公司工作。 她说:“多年来,我接触了不同的行业、市场和最佳实践,我希望我能够利用我的经验来制定有效的战略,并为PSC确定增长机会。” “我与国际品牌的工作也让我更深入地了解了全球市场的动态和文化多样性,这对在世界舞台上推广PSC的内部品牌非常有用。我也期待建立一个能够引领集团创新的高性能团队。” 快速思考 虽然在这样一家成熟的公司中留下盏形成名可能是一项艰巨的任务,但Heng只看到了可能性。她坚定地关注创新,已经领导了一些新的数字举措的推出,并表示她有更多的想法。 她说:“除了在在线市场上拥有产品外,我们还将推出自己的电子商务平台,为最终消费者提供更大的便利和价值。” 几个月后,PSC还将推出一个B2B应用程序,该应用程序将允许其商业客户只需单击按钮即可轻松下订单。 然而,这不仅仅是关于最新和最伟大的技术。毕竟,该公司的重点是食物,这就是许多大思想发生的地方。 编辑搜图 请点击输入图片描述(最多18字) “新加坡以其严格的食品安全标准和不断发展的充满活力的食品文化而闻名于世。” 恒说:“新加坡以其严格的食品安全标准和不断发展的充满活力的食品文化而闻名于世。”“我很高兴能促进PSC对食品技术和创新的投资,同时专注于开发更健康、可持续和合乎道德的食品。” 事实上,消费者的偏好正在转向整个地区更健康的食品选择和更安全的个人护理产品,这就是为什么其对产品创新的关注可能是解锁其全区域扩张的关键。 她说:“PSC致力于符合市场趋势和不断变化的消费者偏好的新产品创新。”“我们的目标是将我们的足迹扩展到区域和全球市场,将新加坡作为我们公司和代理品牌的分销中心和门户。” 更绿色的未来 随着围绕可持续性对品牌和组织的审查日益增加,PSC还与其管理团队密切合作,将可持续实践纳入业务的各个方面。 Heng说:“到目前为止,我们所有人都应该意识到气候变化是如何影响我们的星球、社区和日常生活的。”“作为一家企业,我们也致力于为实现可持续性尽我们所能。” 在2022财政年度,PSC开始跟踪其碳足迹,以帮助其确定和制定计划,以减少整个业务中的温室气体排放。最近,在2023财政年度,它在新加坡和马来西亚的工厂完成了额外的太阳能电池板的安装。 但他们的努力并不止境。她说:“我们继续与利益相关者密切合作,以确保供应链的可追溯性,并制定减少集团碳足迹的长期目标。” 创新在这些努力中发挥了重要作用,公司找到了创造性的方法来尽量减少对环境的影响。 “例如,我们目前正在通过一家废物管理公司将大豆废物重新用于加工成动物饲料,”Heng解释道。“我们还在探索其他合作,将大豆废物重新转化为消耗品。” 自信的方法 随着PSC进入这个新时代,它面临着商品价格高度波动的挑战,Heng特别关注大米、大豆和石油,影响了公司的运营成本。 然而,据恒表示,已经采取了措施来应对这些,包括对冲机制、签订期货合同以及使用期权来锁定有利价格或防止下行风险。 “我们还使供应商基础多样化,以减少对单个供应商或地理位置的依赖。这有助于降低与供应中断或特定地点价格突然飙升相关的风险,”她说。“除此之外,我们还确保更好的库存管理,以避免突然的供应中断,并通过质量、品牌、包装或独特属性增加价值来区分我们的产品。” “作为一家企业,我们也致力于为实现可持续性尽我们所能。” 投资其团队是保护公司未来的另一种方式,Heng致力于建立敏捷和复原力的文化。 “我们应该准备好在必要时进行支点调整。然而,我们作为领导者不能独自做到这一点——我们需要我们的团队也参与进来,”她强调。“为了做到这一点,我们始终鼓励我们的员工保持成长心态,将挑战视为学习和改进的机会。” 当谈到她自己作为领导者的角色时,Heng坚信以身作则。 她说:“当人们看到我们每天生活时,他们相信并符合我们的价值观。” 为了深入了解《亚洲人物》2024年度最具影响力人物的详细报道,我们诚挚邀请您订阅《亚洲人物》杂志。通过订阅,您将获得对这些杰出人物背后故事的全面洞察,以及他们如何在各自领域内产生深远影响的深度分析。 To gain comprehensive...