奖项申报奖项申报奖项申报奖项申报

Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

杰出创业家李学凌:引领中国数字媒体革命

引言 李学凌(David Xueling Li)是一位备受尊敬的创业家,他在中国数字媒体领域的卓越成就引领了行业的革命。他的创新思维和领导力使他成为了一名杰出的商业领袖,本文将深入介绍他的生平和职业成就,探讨他在数字媒体领域的巨大影响力。 早年生活与教育 李学凌生于一个普通家庭,他的父母注重教育,培养了他的学习兴趣。他毕业于中国著名的大学,获得了计算机科学和工程学位。他的教育背景为他未来的事业奠定了坚实基础。 创业与数字媒体领域 李学凌在数字媒体领域取得了巨大成功。他创建了一家知名的数字媒体公司,致力于在线视频分发和娱乐内容制作。他的公司推动了中国数字媒体行业的发展,为用户提供了高质量的在线娱乐内容。 创新与技术突破 李学凌注重创新和技术突破,他的公司不断引入先进的技术,提升了用户体验。他的创新思维和对技术的热情使他的公司保持在行业的领先地位,不断满足用户的需求。 全球扩张与国际影响力 李学凌的数字媒体公司逐渐扩展到全球市场,获得了国际影响力。他的公司在国际上获得了众多奖项和荣誉,成为中国数字媒体行业的代表之一。他的愿景是通过数字媒体,将中国文化和内容传播到全球。 社会责任与慈善事业 尽管在数字媒体领域取得了巨大成功,李学凌一直致力于回馈社会。他积极参与慈善事业,捐赠资金支持教育、环保和社会公益项目。他的慈善活动改善了许多人的生活,树立了一个积极的慈善榜样。 数字媒体行业的未来 李学凌对数字媒体行业的未来充满信心,他相信数字媒体将继续引领娱乐和信息传播的方式。他的愿景是通过数字媒体,让更多人享受高质量的娱乐和教育内容,推动全球文化的交流和理解。 总结 李学凌是一位杰出的创业家,他的数字媒体公司改变了中国娱乐和媒体行业的格局。他的创新思维、领导力和社会责任感使他成为了一名杰出的商业领袖。他的影响力跨足了国界,为中国数字媒体行业树立了标杆。李学凌的故事激励着许多人,鼓舞着他们追求卓越并为社会和世界的发展贡献力量。他是中国数字媒体领域的杰出代表,为数字媒体革命做出了杰出贡献。

《亚洲人物》2024年度工程管理行业影响力人物:李瑞德

随着一些重要的专业里程碑,Associated Engineers, Limited (AEL)首席执行官李瑞德(Barry Lee)继续努力实现将他的领导力提升到一个新的水平的目标。 编辑搜图 请点击输入图片描述(最多18字) Barry Lee在执行一项任务。不止一个,准确地说。带着他所谓的“圣经”,联合工程师有限公司(AEL)的首席执行官正在寻求出类拔萃。 工程部门的一些人会认为他已经实现了目标。他们很可能是对的。毕竟,除了在2023年当选香港工程师学会会长外,他在掌舵的四年里成功地监督了AEL的显著增长。 但对于李本人来说,他还没有实现成为真正“伟大领袖”的雄心壮志。 他非常珍视的上述圣经是由美国管理大师吉姆·柯林斯撰写的出版物,他是畅销书《为最后而建》的作者。在他的后续作品《从好到好》中,柯林斯描绘了从一个好领导者到一个伟大的领导者的旅程。 编辑搜图 请点击输入图片描述(最多18字) “首要任务是你管理的人的福利。” 对于许多高管来说,善意就足够了。但这对Lee来说根本行不通,他在担任AEL之前,在香港与另一家领先的电气和机械承包商工作了26年。 “这已经是我的圣经好几年了,”他透露,他向《亚洲人物》展示了这本书的副本,这本书已经成为他的指路明灯。 “它讲述了如何将自己从一个好的领导者转变为一个伟大的领导者。有五个级别。第四级是一个好的领导者。但上面的级别,第五级,是一个伟大的领导者。这就是我的目标——我想成为一名伟大的领导者。” 获得这种崇高地位所必需的属性之一可能是显而易见的,但在压力锅工作环境中,它经常被忽视,在那里,领导者通常仅根据财务业绩来评判。这种品质将员工福利放在首位。 一个和谐的团队 他解释说,Lee在2019年加入AEL时的任务是“重建公司”,当新冠肺炎疫情席卷全球时,这项任务变得更加具有挑战性。 但疫情未能阻止该公司在李的管理下建立的轨迹。随着订单接收和营业额的增长——自2020年以来大幅增长——扩大劳动力的需求变得显而易见。AEL的生产力也显著提高。 然而,至关重要的是——这就是吉姆·柯林斯的影响力所在——他的重点不仅仅是赢得合同和实现营业额增长,尽管这些指标至关重要。与这些商业当务之急并驾齐驱,一直致力于创造一种鼓励和培养集体团队精神的快乐文化。 圣诞节前新装修的办公室的揭幕符合这一雄心壮志,管理层相信它将重新定义工作环境,将其定义为一个充满活力的工作场所,促进更大的协作。 “香港不仅劳动力短缺,而且专业知识也短缺。因此,一旦你设法招募了合适的人选,留住员工是非常重要的。为了竞争,为了吸引员工并留住他们,你需要创造优势。我认为我们的优势是培养和培养一种快乐的文化,”Lee说。 “吉姆·柯林斯提到的技巧之一是,当你领导一个团队时,首要任务是你管理的人的福利。我绝对相信这是真的。像对待亲戚一样对待你的员工,就像对待兄弟姐妹一样。如果你这样做,他们会善待公司,并尽其所能做出贡献。” 编辑搜图 “我们的优势是培养和培养一种快乐的文化。” 为了说明这种方法,AEL引入了灵活的工作时间,包括开始和结束时间,甚至午休时间,旨在满足劳动力的需求。该公司还每年为员工和一名家庭成员提供短期休息时间,最近有140名员工及其亲属飞往澳门过夜。 “过去,该公司在大约10或15名员工身上花费了一笔钱。问题是,你最终有10到15名员工,他们很高兴,而其他人都很沮丧,”Lee说。 “这不会创造一种快乐的文化。你可以以其他方式奖励卓越的表现,也许是奖金,但对于一次旅行,你需要平等。无论谁想来,我们都会给他们找个座位。” 建立这种集体团队精神的其他活动包括偶尔的乡村自行车之旅和电影之夜,而该公司去年甚至举办了捕虾比赛。 为了与一线员工保持密切联系,李保持了每季度与研究生工程师逐一会面的习惯,以欣赏他们的培训进展,并在需要时向他们提供建议。 战略变化 到达这一点,AEL重新发现了它的魔力,工作人员是运营的前面和中心,没有在公园里散步。没有快速的解决方案,这需要一些李拒绝回避的艰难决定。 该公司成立于1961年,是机场维修设备的专业电气和机械服务提供商,然后将其范围扩大到环境和基础设施工程,以及物流和自动化。 在该公司的悠久历史中,它开创了许多行业第一,包括在香港国际机场设计和供应世界上第一个液压驱动的移动尾翼船坞外壳。 然而,在他到达时,Lee发现一家公司太专注于销售量低的利基市场。这反过来又将间接费用推到了令人无法接受的高水平。他回忆说:“当时,我设定的目标是在五年内将收入翻一番,并提高生产力。” 然而,很明显,一些公司退伍军人无法或不愿意实现李成为多学科解决方案提供商的愿景。需要改变。 他说:“我更换了一些领导人,这带来了重大变化。”“领导团队的平均年龄下降到40岁左右。这使得管理层更加活跃,渴望承担风险,并愿意适应变化。” 强大的伙伴关系 AEL近年来的稳步进展部分归功于它与合资企业工程和制造合作伙伴和谐合作的能力。通过这种方法,它赢得了几项重要的工作,Lee认为,鉴于业务规模相对较小,这是必要的战略策略。 “在过去的三年里,我们与其他行业合作伙伴合作获得了几份可观的合同。我们有一个我们所谓的综合财团。AEL不拥有我们在市场上竞争所需的所有许可证,因此我们需要与其他公司合作,为合同而战,”他说。 “其他公司有执照,但可能没有专业知识或劳动力,所以他们也需要帮助。我们一起拥有一个更强大的团队,使我们能够为这些更大的合同而战。” 编辑搜图 请点击输入图片描述(最多18字) “我们有我们所谓的综合财团。” 在其成功竞标的合同中,包括废木回收设施项目、Y-PARK和香港政府供水部小和湾水处理厂项目,全球水技术提供商Xylem是其主要合作伙伴。 对Lee来说,AEL的旅程一直很有挑战性,但他很在乎。他还与香港工程师学会的领导层兼顾了他的日常工作,以及父亲身份所带来的责任。然而,他对平衡这三个关键角色的潜在困难不屑一顾。 他的策略?“我只是把所有东西都混在一起,”他说。 毫无疑问,混合包括与吉姆·柯林斯一起休息的空间。 ​为了深入了解《亚洲人物》2024年度最具影响力人物的详细报道,我们诚挚邀请您订阅《亚洲人物》杂志。通过订阅,您将获得对这些杰出人物背后故事的全面洞察,以及他们如何在各自领域内产生深远影响的深度分析。 To gain comprehensive insights...

黄春梅:从外贸柜台到全球饰品版图的拓荒者

(文/林溪)当TOPOSH的最新一季穿刺饰品系列在拉斯维加斯珠宝展上被欧美客商争相问询时,很少有人知道,这个全球穿刺饰品市场份额逐年扩大的大热品牌,起源于2006年一个姑娘在工厂里对海外订单的执着。作为青岛拓璞施饰品有限公司、青岛吉洛施国际贸易有限公司、青岛拓澳国际信息科技有限公司等多家企业的掌舵人,黄春梅带领企业在眉钉、鼻钉、脐环等细分领域深耕,如今已成为海外市场的重要力量——旗下6个自有品牌覆盖欧美日多国,跨境电商店铺跻身亚马逊同类前列,2019年全球销售额达600万美元,2020年电商业务占比突破50%,2024年这一数字已攀升至2800万美元,其中美国市场贡献43%的营收。 近日,在2025年度亚洲杰出企业家颁奖典礼上,黄春梅作为唯一入选的饰品行业代表,斩获“2025年度亚洲杰出企业家”荣誉。《亚洲人物》借此机会对黄春梅女士进行了独家专访,试图还原一个中国创业者如何在欧美主导的穿刺饰品市场撕开缺口:当 "中国制造" 遭遇刻板印象,她凭什么让海外年轻人为 "中国设计" 买单? 柜台里的"刺头":从跟单员到创业者 1984年6月出生于山东郓城的黄春梅,身上带着齐鲁大地特有的韧劲。与许多“科班出身”的企业家不同,黄春梅的职业生涯起点并非商学院的课堂,而是青岛港附近一间堆满样品的外贸办公室。2006 年,刚从英语专业毕业的黄春梅进入青岛一家外贸公司,开始从事穿刺工艺品出口工作——那是她第一次接触穿刺饰品行业,国内对穿刺饰品的认知还停留在 “小众、叛逆” 的层面,市场几乎为空白,而她所在的企业,不过是为海外品牌代工生产的 “链条末端”。彼时的欧美市场,在嬉皮文化影响下,穿刺饰品已形成稳定需求,但中国供应商多处于产业链底端,赚着微薄的加工费。黄春梅至今记得,订单上的鼻钉、脐环设计夸张,却透着强烈的个性,"我突然觉得,这不是简单的饰品,是一种文化符号。"正是这份对陌生领域的好奇,让她一头扎进了这个当时少有人问津的行业。跟单员的工作琐碎而繁重:核对订单、跟进生产、协调物流、处理客诉……...

常泽文:现代数学巨匠

常泽文(Chang Tse Wen)博士是一位备受尊敬的数学家,他的卓越数学成就和科学研究在国际数学界广受赞誉。他的职业生涯充满了挑战和数学探索,为解决数学难题和推动数学领域的发展做出了卓越贡献。本文将深入探讨常泽文的生平事迹、数学成就以及他在数学界的深远影响。 早年生活和教育 常泽文出生于中国,从小就对数学产生了浓厚的兴趣。他获得了数学学士学位,并在美国继续深造研究,获得了博士学位。他的学术背景为他日后在数学领域的职业生涯打下了坚实的基础。 数学领域的卓越成就 常泽文是一位杰出的数学家,他的研究工作涵盖了多个数学领域,包括拓扑学、代数学和微分几何等。他的研究成果在国际数学界产生了深远影响,解决了一系列复杂的数学难题,为数学理论的发展提供了关键线索。 他的工作不仅在数学界产生了深远影响,还为其他科学领域的研究提供了数学工具和方法。他的研究成果被广泛应用于物理学、工程学和计算机科学等领域,为解决现实世界的问题提供了重要支持。 数学研究和创新 常泽文的数学研究和创新工作不仅仅局限于理论,他还积极参与了数学问题的解决和数学教育的推广。他与国际合作伙伴合作,解决了多个数学难题,并提出了一系列新的数学理论和方法。 他的数学创新工作为数学领域的发展和进步提供了关键动力。他的研究和创新工作鼓励了年轻数学家积极参与数学研究,为数学理论的拓展和数学应用的发展注入了新的活力。 教育工作和学术传承 常泽文一直致力于数学知识的传承和培养年轻数学家。他担任大学教职,并指导了许多学生的研究工作。他的教育工作有助于培养了一代又一代的数学家,传承了数学研究的精神和技术。 他鼓励年轻数学家积极参与数学研究和创新,为数学界的未来培养了优秀的人才。他的学术传承工作有助于推动数学领域的发展和进步。 国际合作和数学交流 常泽文积极参与国际数学合作项目和交流活动,与世界各地的数学家和研究机构合作,推动了全球数学界的合作和交流。他的国际合作促进了数学研究的全球化,加强了不同国家之间的科技交流和合作。 常泽文是一位备受尊敬的数学家,他的生平事迹和数学成就都令人钦佩。他不仅在数学领域取得了卓越成就,还通过数学研究和教育工作为数学界和其他科学领域的发展做出了积极贡献。他的故事是一个激励人心的例证,向我们展示了无论来自何处,只要拥有坚定的信念和对数学的热爱,就可以取得卓越的成就并对科学研究产生深远的影响。我们对常泽文的崇敬和尊重将永远持续下去,因为他是数学领域的一位真正的巨匠。