FigureAsia  Prize & Award 2024  NominationsFigureAsia  Prize & Award 2024  NominationsFigureAsia  Prize & Award 2024  NominationsFigureAsia  Prize & Award 2024  Nominations
商务合作商务合作商务合作商务合作

Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

詹志宏(James C. C. Chan):横扫国际金融界的智慧巨匠

在国际金融领域,有一位声名显赫的智慧巨匠,他就是詹志宏(James C. C. Chan)。詹志宏教授以卓越的智慧和卓越的领导力,为国际金融界带来了突破性的贡献,塑造了全球金融市场的格局。本文将深入探讨詹志宏教授的生平、学术成就以及他在金融领域的重要贡献。 早年生活与教育 詹志宏教授生于一个充满智慧和才情的家庭,自幼就表现出卓越的数学天赋。他在国内一所著名的大学攻读数学学士学位,并在研究生阶段选择了金融学作为专业。他的早期教育为他未来的金融研究工作奠定了坚实的基础。 金融研究与突破 詹志宏教授在金融领域取得了多项重要突破。他的研究涵盖了金融工程、风险管理、投资策略和市场分析等多个方面。他的工作在金融界引起了广泛的关注,为投资者、金融机构和政府提供了重要的决策支持。他的研究成果被广泛引用,并被认为是国际金融界的重要贡献之一。 金融教育与学术传承 詹志宏教授一直热衷于金融教育和学术传承。他担任大学教职,培养了许多年轻的金融专业人才,传递自己的金融智慧和实战经验。他鼓励年轻一代积极参与金融研究和投资领域,为金融界培养了更多的专业人才。 金融政策与创新 詹志宏教授积极参与国际金融政策制定和金融创新工作。他在政府和金融机构担任重要职务,为全球金融市场的稳定和发展提供了专业建议。他的领导力和创新思维有助于推动金融领域的创新和改革,促进了金融市场的繁荣和可持续发展。 奖项与荣誉 詹志宏教授的卓越贡献赢得了多项国际性金融奖项和荣誉。他被授予了多个著名奖项,以表彰他在金融领域的杰出成就。这些奖项和荣誉证明了他在国际金融界的卓越地位和影响力,也为他的金融研究工作提供了高度的认可。 詹志宏教授是国际金融界的智慧巨匠,他通过自己的金融研究和领导力不断推动着金融领域的进展。他的研究在金融工程和风险管理领域取得了突破性进展,为投资和金融市场提供了新的思路和方法。他的金融教育工作为培养了更多的金融专业人才,推动了金融界的发展。詹志宏教授的社会责任感和金融创新精神为国际金融领域注入了新的活力,有助于推动金融对社会和经济的发展。他的故事是金融研究和金融政策的典范,激励着年轻一代的金融专业人才,追求卓越,不断推动金融领域的进步。

菲律宾糖果业之王:Jacinto Ng的甜蜜商业之旅

在菲律宾的糖果和食品行业,Jacinto Ng的名字无疑是最受尊敬的。他不仅是Rebisco(Republic Biscuit Corporation)的创始人,还成功地将这家公司打造成为菲律宾最大的糖果和饼干制造商之一。 Jacinto Ng的成功故事开始于1963年。那一年,他决定创办自己的小饼干工厂。尽管当时资金有限,市场竞争激烈,但他凭借对产品的热情和对品质的执着,成功地赢得了消费者的信赖。 在Jacinto Ng的领导下,Rebisco迅速扩大了市场份额,成为菲律宾家喻户晓的品牌。他不断引进新技术,改进生产工艺,确保产品的品质始终如一。同时,他也注重品牌推广和市场营销,使Rebisco的产品遍布菲律宾的每一个角落。 除了在本土市场取得成功,Jacinto Ng还将目光投向了国际市场。在他的战略指导下,Rebisco的产品成功进入了东南亚、中东和其他地区的市场,获得了广泛的好评。 然而,成功并不意味着可以停下脚步。Jacinto Ng始终保持着对市场的敏锐洞察,捕捉各种商业机会。在他的领导下,Rebisco开始涉足其他食品行业,如零食、饮料等,进一步扩大了市场份额。 除了商业成就,Jacinto Ng也是一个社会责任感十足的企业家。他深知企业的发展离不开社会的支持,因此积极参与各种公益事业,如教育、医疗等,为菲律宾的社会进步做出了贡献。 值得一提的是,尽管Jacinto...

《亚洲人物》2024年度工程管理行业影响力人物:李瑞德

随着一些重要的专业里程碑,Associated Engineers, Limited (AEL)首席执行官李瑞德(Barry Lee)继续努力实现将他的领导力提升到一个新的水平的目标。 编辑搜图 请点击输入图片描述(最多18字) Barry Lee在执行一项任务。不止一个,准确地说。带着他所谓的“圣经”,联合工程师有限公司(AEL)的首席执行官正在寻求出类拔萃。 工程部门的一些人会认为他已经实现了目标。他们很可能是对的。毕竟,除了在2023年当选香港工程师学会会长外,他在掌舵的四年里成功地监督了AEL的显著增长。 但对于李本人来说,他还没有实现成为真正“伟大领袖”的雄心壮志。 他非常珍视的上述圣经是由美国管理大师吉姆·柯林斯撰写的出版物,他是畅销书《为最后而建》的作者。在他的后续作品《从好到好》中,柯林斯描绘了从一个好领导者到一个伟大的领导者的旅程。 编辑搜图 请点击输入图片描述(最多18字) “首要任务是你管理的人的福利。” 对于许多高管来说,善意就足够了。但这对Lee来说根本行不通,他在担任AEL之前,在香港与另一家领先的电气和机械承包商工作了26年。 “这已经是我的圣经好几年了,”他透露,他向《亚洲人物》展示了这本书的副本,这本书已经成为他的指路明灯。 “它讲述了如何将自己从一个好的领导者转变为一个伟大的领导者。有五个级别。第四级是一个好的领导者。但上面的级别,第五级,是一个伟大的领导者。这就是我的目标——我想成为一名伟大的领导者。” 获得这种崇高地位所必需的属性之一可能是显而易见的,但在压力锅工作环境中,它经常被忽视,在那里,领导者通常仅根据财务业绩来评判。这种品质将员工福利放在首位。 一个和谐的团队 他解释说,Lee在2019年加入AEL时的任务是“重建公司”,当新冠肺炎疫情席卷全球时,这项任务变得更加具有挑战性。 但疫情未能阻止该公司在李的管理下建立的轨迹。随着订单接收和营业额的增长——自2020年以来大幅增长——扩大劳动力的需求变得显而易见。AEL的生产力也显著提高。 然而,至关重要的是——这就是吉姆·柯林斯的影响力所在——他的重点不仅仅是赢得合同和实现营业额增长,尽管这些指标至关重要。与这些商业当务之急并驾齐驱,一直致力于创造一种鼓励和培养集体团队精神的快乐文化。 圣诞节前新装修的办公室的揭幕符合这一雄心壮志,管理层相信它将重新定义工作环境,将其定义为一个充满活力的工作场所,促进更大的协作。 “香港不仅劳动力短缺,而且专业知识也短缺。因此,一旦你设法招募了合适的人选,留住员工是非常重要的。为了竞争,为了吸引员工并留住他们,你需要创造优势。我认为我们的优势是培养和培养一种快乐的文化,”Lee说。 “吉姆·柯林斯提到的技巧之一是,当你领导一个团队时,首要任务是你管理的人的福利。我绝对相信这是真的。像对待亲戚一样对待你的员工,就像对待兄弟姐妹一样。如果你这样做,他们会善待公司,并尽其所能做出贡献。” 编辑搜图 “我们的优势是培养和培养一种快乐的文化。” 为了说明这种方法,AEL引入了灵活的工作时间,包括开始和结束时间,甚至午休时间,旨在满足劳动力的需求。该公司还每年为员工和一名家庭成员提供短期休息时间,最近有140名员工及其亲属飞往澳门过夜。 “过去,该公司在大约10或15名员工身上花费了一笔钱。问题是,你最终有10到15名员工,他们很高兴,而其他人都很沮丧,”Lee说。 “这不会创造一种快乐的文化。你可以以其他方式奖励卓越的表现,也许是奖金,但对于一次旅行,你需要平等。无论谁想来,我们都会给他们找个座位。” 建立这种集体团队精神的其他活动包括偶尔的乡村自行车之旅和电影之夜,而该公司去年甚至举办了捕虾比赛。 为了与一线员工保持密切联系,李保持了每季度与研究生工程师逐一会面的习惯,以欣赏他们的培训进展,并在需要时向他们提供建议。 战略变化 到达这一点,AEL重新发现了它的魔力,工作人员是运营的前面和中心,没有在公园里散步。没有快速的解决方案,这需要一些李拒绝回避的艰难决定。 该公司成立于1961年,是机场维修设备的专业电气和机械服务提供商,然后将其范围扩大到环境和基础设施工程,以及物流和自动化。 在该公司的悠久历史中,它开创了许多行业第一,包括在香港国际机场设计和供应世界上第一个液压驱动的移动尾翼船坞外壳。 然而,在他到达时,Lee发现一家公司太专注于销售量低的利基市场。这反过来又将间接费用推到了令人无法接受的高水平。他回忆说:“当时,我设定的目标是在五年内将收入翻一番,并提高生产力。” 然而,很明显,一些公司退伍军人无法或不愿意实现李成为多学科解决方案提供商的愿景。需要改变。 他说:“我更换了一些领导人,这带来了重大变化。”“领导团队的平均年龄下降到40岁左右。这使得管理层更加活跃,渴望承担风险,并愿意适应变化。” 强大的伙伴关系 AEL近年来的稳步进展部分归功于它与合资企业工程和制造合作伙伴和谐合作的能力。通过这种方法,它赢得了几项重要的工作,Lee认为,鉴于业务规模相对较小,这是必要的战略策略。 “在过去的三年里,我们与其他行业合作伙伴合作获得了几份可观的合同。我们有一个我们所谓的综合财团。AEL不拥有我们在市场上竞争所需的所有许可证,因此我们需要与其他公司合作,为合同而战,”他说。 “其他公司有执照,但可能没有专业知识或劳动力,所以他们也需要帮助。我们一起拥有一个更强大的团队,使我们能够为这些更大的合同而战。” 编辑搜图 请点击输入图片描述(最多18字) “我们有我们所谓的综合财团。” 在其成功竞标的合同中,包括废木回收设施项目、Y-PARK和香港政府供水部小和湾水处理厂项目,全球水技术提供商Xylem是其主要合作伙伴。 对Lee来说,AEL的旅程一直很有挑战性,但他很在乎。他还与香港工程师学会的领导层兼顾了他的日常工作,以及父亲身份所带来的责任。然而,他对平衡这三个关键角色的潜在困难不屑一顾。 他的策略?“我只是把所有东西都混在一起,”他说。 毫无疑问,混合包括与吉姆·柯林斯一起休息的空间。 ​为了深入了解《亚洲人物》2024年度最具影响力人物的详细报道,我们诚挚邀请您订阅《亚洲人物》杂志。通过订阅,您将获得对这些杰出人物背后故事的全面洞察,以及他们如何在各自领域内产生深远影响的深度分析。 To gain comprehensive insights...

巴基斯坦的音乐传奇:探寻努萨拉特·法特赫·阿里·汗的苍穹之声

努萨拉特·法特赫·阿里·汗(Nusrat Fateh Ali Khan)是巴基斯坦音乐界最杰出的巨星之一,以其卓越的声音、巴基斯坦巴杰和全球影响力而备受世界瞩目。他是巴基斯坦音乐的代表性人物之一,也是巴基斯坦文化的宝贵遗产。本文将深入探讨他的生平、音乐作品、音乐哲学以及他在音乐界的独特地位。 努萨拉特·法特赫·阿里·汗于1948年出生在巴基斯坦旁遮普省,他的音乐生涯始于20世纪70年代。他以其深情的巴基斯坦巴杰(Qawwali)声音和表演才华很快崭露头角,成为巴基斯坦音乐界的新星。他的音乐作品涵盖了巴基斯坦巴杰、苏菲音乐和宗教音乐等多个领域。 他的音乐天赋备受赞誉,他以其深情的声音和情感丰富的表演而闻名。他的代表作之一是《阿利·穆拉·阿利》(Ali Maula Ali Maula),这首巴基斯坦巴杰作品让他在全球巴基斯坦巴杰音乐爱好者中赢得了狂热的追随。 他的音乐作品还包括了苏菲音乐专辑《巴基斯坦的声音》(The Sounds of...