奖项申报奖项申报奖项申报奖项申报

Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

Ajay Piramal:印度商业巨匠与慈善家的传奇生涯”

Ajay Piramal(阿贾伊·皮拉马尔)是印度商业界的杰出代表,他以卓越的领导力和创新精神而闻名于世。他的生平和职业生涯是一个成功的故事,展示了决心、勤奋和社会责任感的力量。本文将深入探讨他的生平、商业帝国的崛起以及他在印度工商业界的杰出影响力。 阿贾伊·皮拉马尔出生于印度马哈拉施特拉邦的一个富裕家庭,他从小就展现出非凡的商业眼光和创业精神。他在印度一流的商学院——印度理工学院孟买分校(IIT Bombay)获得了工商管理硕士学位,并随后赴美国宾夕法尼亚大学沃顿商学院深造,获得了工商管理硕士学位。 1988年,他接管了家族企业Piramal Group,该集团涵盖了多个领域,包括制药、金融、房地产等。他的领导下,Piramal Group经历了巨大的扩张和多元化发展。其中,制药业务是该集团的核心领域之一,他的愿景是通过高品质的药品和创新的研发,为全球提供更好的医疗解决方案。他将Piramal制药打造成了印度制药业的重要参与者之一,为印度制药业的国际化做出了杰出贡献。 然而,阿贾伊·皮拉马尔的成功不仅仅局限于商业领域,他还是一位积极的社会活动家和慈善家。他关注教育、医疗保健和社会福祉等领域,并通过自己的慈善基金会积极支持各种项目。他的慈善工作有助于改善印度社会中弱势群体的生活质量,为社会福祉做出了积极贡献。 阿贾伊·皮拉马尔的领导力哲学强调了诚信、创新和社会责任。他坚信企业家应该以社会和环境的可持续性为核心,将商业成功与社会使命相结合。他的坚韧、决心和社会使命感鼓舞着全球的企业家、领袖和社会活动家,追求卓越,推动工商业和社会的进步。 阿贾伊·皮拉马尔是印度商业界的杰出代表,他的卓越成就、领导力和社会责任感使他成为该领域的传奇。通过Piramal Group的成功、多元化经营和慈善工作,他为印度工商业的发展和改善做出了杰出贡献,同时也激励着全球的企业家和领袖,积极推动工商业和社会的进步。

外卖大王王兴:从富二代到美团创始人,他是如何打造万亿帝国的

他出生于一个商人家庭,是名副其实的富二代,原以为要回家继承家业的他却选择了在互联网领域创业,先后创立了多家网站。 2010年美团问世,经过12年的磨砺成功做到了市值三千亿,他就是“中国的外卖大王”王兴。 王兴1979年2月18日出生于福建龙岩的一个商人家庭,他的父亲是一家现代化水泥厂的董事长和大股东,龙岩当地很多建筑的修建用的都是他父亲厂里的水泥,他的母亲毕业于厦门大学,是个标准的知识分子。 可能这时候你会以为王兴是一个纨绔子弟,其实上在这种家庭氛围的感染下,是一名名副其实的学霸,2007年他直接被保送到清华大学电子工程系无线电专业。 上了大学的他也依然是名列前茅,毕业后拿到全额奖学金去了美国特拉华大学继续深造读书。 在美国他看到了互联网的前景,那个时候中国的互联网并没有现在这么发达,甚至人人用的都还是按键手机,仅限于打电话和发短信,更别说刷微博、点外卖了。 所以他认为互联网在中国将会有很好的前景,甚至会改变中国国民的生活,他有了这个想法之后就已经开始准备创业了。 为了心中的创业梦想甚至在博士期间退学回国,这在当时可是一件十分冒险的事情。 起码博士毕业后他也算是一名学者了,找工作也是很好找的,再加上他的家庭条件很好,又是家里唯一的男孩,很多人都认为他博士毕业后会回家继承家业。 谁能想到,他不仅不进自己家的公司,现在连博士也不读了,一心就想着创业,好在他的父亲十分支持他的这个决定。 因为他的父亲就是靠自己创业才有了今天的成绩,所以很支持自己的儿子,甚至还给了他一笔创业资金。 2004年,心怀梦想的王兴就这样回国了,可是创业的他并没有读书时那样顺利,反倒是屡战屡败,即使父亲有时候也会为他指点迷津,却依然避免不了失败的结局。 最先开始他和自己大学时的室友一起创立了名叫“多多有”的交友网站,后来又做了主要针对海外学子的网站“游子图”。 这个网站可以通过付费将自己的照片冲洗出来给远在中国的父母,那个时候中国的网民并不多,也很少有父母会用电脑,正好通过这个网站可以缓解彼此的思念。 说实话他这两个网站的创意还是不错的,可惜的是他并不懂如何去推广和运营,以至于用户增长缓慢,最后只能以失败告终。 2005年,王兴经过之前的项目长了教训,觉得自己之前的项目实在有些过大,再加上自己不知道怎么积攒口碑,所以这一次他将群体定位为学生,开发出了校内网。 三个月内就有了三万用户,可能你们会觉得三万用户很少,现在随便一个软件都是上千万用户,但是这对于当时的王兴来说已经是不小的成绩了。 后来经过学生们的传播用户增长量直线飙升。这看上去确实是个好消息,但是王兴却是半喜半悲。 喜的是自己的创业成果终于有人看到了,悲的却是由于用户数量的增加,他不得不花钱增加服务器和带宽,关键就是他根本没有那么多钱。 有人可能会疑惑,他不是富二代吗,怎么会没有钱。可是你别忘了他也是个二十几岁的男人了,之前因创业失败父亲给他的资金早就没了,他也没有脸面再去找父亲了。 毕竟他的父亲也是一路白手起家的,他要学会自己为自己的行为买单。无奈之下,他只能将校内网以200万美元的价格卖给千橡互动集团CEO陈一舟。 后来校内网也改名为人人网,在2011年成功上市,足以看出校内网是个很有潜力的项目,如果当初王兴没有卖掉它,是不是将会提早一步上市,这一切都不得而知。 2007年,他再次蓄力创办了中国微博的鼻祖“饭否”,这是他仿照外国的推特创办的。 既然外国能有微博,为什么中国不可以有,他的这个想法让他说干就干,饭否的势头甚至比当初校内网的势头还要盛。 本以为他这次将要苦尽甘来了,谁知道他的创业生涯再一次遭到滑铁卢。 2009年,拥有百万用户的饭否因监管问题被迫关闭,好不容易能够看到曙光的王兴得知这一消息时整个人的心都碎了,过了很久才接受这个现实。 之后他只能尽全力选择争取饭否早日再次开启,却一直没有收到可以恢复饭否正常运营的消息。 2010年,他创办了以团购业务为主的美团,其实当时已经有拉手和糯米两大团购软件了,但他还是选择让自己的美团上线。 美团并不是他随便就拿出来充数的,而是在饭否的失败中不断思考得来的。 在自己的竞争对手已经拿到了不菲的投资时,美团却还没有任何动静,以至于不少美团的员工临阵脱逃,选择去了对家,甚至还带走了美团和万达刚刚谈好的单子。 幸好,他及时拿到了红杉的投资才不至于让美团还没上场和竞争对手正面PK就自动退出了,这也算是他经营美团所打的第一仗。 后来,在别家都在不停地砸钱打广告的时候,他却按兵不动,很多员工都不知道他到底想干嘛,后来也有不少人劝他花钱打广告,他也都拒绝了。 事实证明,他是正确的,2011年恰逢市场危机不少公司因资金链断裂最终破产,他却还有充足的资金,他也是在“千团大战”中唯一幸存者。 他说创业不是比谁花的钱多,而是比谁的钱用得久,钱要花在刀刃上,最终他把这笔钱花在了收购24劵团队,成功让美团壮大了自己的力量。 后来,只要是需要花钱的地方,他都十分谨慎,先要做了风险评估之后再仔细算出自己花了这笔钱之后资金链会不会有问题,凭借着他这份谨慎美团在市场上才能够站稳脚跟。 现在美团从以前的团购业务到现在涉及各种领域,其中最出名的就是外卖业务,经过十余载的发展,成功地变成了一个身价三千亿的软件,在人们的生活中发挥着重要的作用。 不好好创业就要回家继承家业的王兴,经过数次的失败却依然坚持自己心中的创业梦想,丝毫没有向现实屈服。 失败的经历并不是他人生路上的绊脚石,反而让他从失败中崛起,才让他创立出了上亿人使用的美团。 并且坚持不冒险严格坚守自己的资金链,才能让美团在一次次危机中平安度过,相信以后的美团还会带给我们更多的惊喜,请拭目以待吧。

《亚洲人物》2024年度工程管理行业影响力人物:李瑞德

随着一些重要的专业里程碑,Associated Engineers, Limited (AEL)首席执行官李瑞德(Barry Lee)继续努力实现将他的领导力提升到一个新的水平的目标。 编辑搜图 请点击输入图片描述(最多18字) Barry Lee在执行一项任务。不止一个,准确地说。带着他所谓的“圣经”,联合工程师有限公司(AEL)的首席执行官正在寻求出类拔萃。 工程部门的一些人会认为他已经实现了目标。他们很可能是对的。毕竟,除了在2023年当选香港工程师学会会长外,他在掌舵的四年里成功地监督了AEL的显著增长。 但对于李本人来说,他还没有实现成为真正“伟大领袖”的雄心壮志。 他非常珍视的上述圣经是由美国管理大师吉姆·柯林斯撰写的出版物,他是畅销书《为最后而建》的作者。在他的后续作品《从好到好》中,柯林斯描绘了从一个好领导者到一个伟大的领导者的旅程。 编辑搜图 请点击输入图片描述(最多18字) “首要任务是你管理的人的福利。” 对于许多高管来说,善意就足够了。但这对Lee来说根本行不通,他在担任AEL之前,在香港与另一家领先的电气和机械承包商工作了26年。 “这已经是我的圣经好几年了,”他透露,他向《亚洲人物》展示了这本书的副本,这本书已经成为他的指路明灯。 “它讲述了如何将自己从一个好的领导者转变为一个伟大的领导者。有五个级别。第四级是一个好的领导者。但上面的级别,第五级,是一个伟大的领导者。这就是我的目标——我想成为一名伟大的领导者。” 获得这种崇高地位所必需的属性之一可能是显而易见的,但在压力锅工作环境中,它经常被忽视,在那里,领导者通常仅根据财务业绩来评判。这种品质将员工福利放在首位。 一个和谐的团队 他解释说,Lee在2019年加入AEL时的任务是“重建公司”,当新冠肺炎疫情席卷全球时,这项任务变得更加具有挑战性。 但疫情未能阻止该公司在李的管理下建立的轨迹。随着订单接收和营业额的增长——自2020年以来大幅增长——扩大劳动力的需求变得显而易见。AEL的生产力也显著提高。 然而,至关重要的是——这就是吉姆·柯林斯的影响力所在——他的重点不仅仅是赢得合同和实现营业额增长,尽管这些指标至关重要。与这些商业当务之急并驾齐驱,一直致力于创造一种鼓励和培养集体团队精神的快乐文化。 圣诞节前新装修的办公室的揭幕符合这一雄心壮志,管理层相信它将重新定义工作环境,将其定义为一个充满活力的工作场所,促进更大的协作。 “香港不仅劳动力短缺,而且专业知识也短缺。因此,一旦你设法招募了合适的人选,留住员工是非常重要的。为了竞争,为了吸引员工并留住他们,你需要创造优势。我认为我们的优势是培养和培养一种快乐的文化,”Lee说。 “吉姆·柯林斯提到的技巧之一是,当你领导一个团队时,首要任务是你管理的人的福利。我绝对相信这是真的。像对待亲戚一样对待你的员工,就像对待兄弟姐妹一样。如果你这样做,他们会善待公司,并尽其所能做出贡献。” 编辑搜图 “我们的优势是培养和培养一种快乐的文化。” 为了说明这种方法,AEL引入了灵活的工作时间,包括开始和结束时间,甚至午休时间,旨在满足劳动力的需求。该公司还每年为员工和一名家庭成员提供短期休息时间,最近有140名员工及其亲属飞往澳门过夜。 “过去,该公司在大约10或15名员工身上花费了一笔钱。问题是,你最终有10到15名员工,他们很高兴,而其他人都很沮丧,”Lee说。 “这不会创造一种快乐的文化。你可以以其他方式奖励卓越的表现,也许是奖金,但对于一次旅行,你需要平等。无论谁想来,我们都会给他们找个座位。” 建立这种集体团队精神的其他活动包括偶尔的乡村自行车之旅和电影之夜,而该公司去年甚至举办了捕虾比赛。 为了与一线员工保持密切联系,李保持了每季度与研究生工程师逐一会面的习惯,以欣赏他们的培训进展,并在需要时向他们提供建议。 战略变化 到达这一点,AEL重新发现了它的魔力,工作人员是运营的前面和中心,没有在公园里散步。没有快速的解决方案,这需要一些李拒绝回避的艰难决定。 该公司成立于1961年,是机场维修设备的专业电气和机械服务提供商,然后将其范围扩大到环境和基础设施工程,以及物流和自动化。 在该公司的悠久历史中,它开创了许多行业第一,包括在香港国际机场设计和供应世界上第一个液压驱动的移动尾翼船坞外壳。 然而,在他到达时,Lee发现一家公司太专注于销售量低的利基市场。这反过来又将间接费用推到了令人无法接受的高水平。他回忆说:“当时,我设定的目标是在五年内将收入翻一番,并提高生产力。” 然而,很明显,一些公司退伍军人无法或不愿意实现李成为多学科解决方案提供商的愿景。需要改变。 他说:“我更换了一些领导人,这带来了重大变化。”“领导团队的平均年龄下降到40岁左右。这使得管理层更加活跃,渴望承担风险,并愿意适应变化。” 强大的伙伴关系 AEL近年来的稳步进展部分归功于它与合资企业工程和制造合作伙伴和谐合作的能力。通过这种方法,它赢得了几项重要的工作,Lee认为,鉴于业务规模相对较小,这是必要的战略策略。 “在过去的三年里,我们与其他行业合作伙伴合作获得了几份可观的合同。我们有一个我们所谓的综合财团。AEL不拥有我们在市场上竞争所需的所有许可证,因此我们需要与其他公司合作,为合同而战,”他说。 “其他公司有执照,但可能没有专业知识或劳动力,所以他们也需要帮助。我们一起拥有一个更强大的团队,使我们能够为这些更大的合同而战。” 编辑搜图 请点击输入图片描述(最多18字) “我们有我们所谓的综合财团。” 在其成功竞标的合同中,包括废木回收设施项目、Y-PARK和香港政府供水部小和湾水处理厂项目,全球水技术提供商Xylem是其主要合作伙伴。 对Lee来说,AEL的旅程一直很有挑战性,但他很在乎。他还与香港工程师学会的领导层兼顾了他的日常工作,以及父亲身份所带来的责任。然而,他对平衡这三个关键角色的潜在困难不屑一顾。 他的策略?“我只是把所有东西都混在一起,”他说。 毫无疑问,混合包括与吉姆·柯林斯一起休息的空间。 ​为了深入了解《亚洲人物》2024年度最具影响力人物的详细报道,我们诚挚邀请您订阅《亚洲人物》杂志。通过订阅,您将获得对这些杰出人物背后故事的全面洞察,以及他们如何在各自领域内产生深远影响的深度分析。 To gain comprehensive insights...

闫宁:荣获国际认可的杰出科学家

在当今科学界,中国已经崭露头角,成为了世界科技发展的重要推动力。而在这一浩如烟海的科研领域中,有一位杰出的科学家,她的名字不仅在国际上广受尊敬,还为中国的科学事业作出了卓越的贡献。她就是中国科学院院士、清华大学教授闫宁。 早年生活与教育 闫宁出生于中国,自幼对科学表现出浓厚兴趣。她在中国的一所知名大学攻读本科学位,随后赴美国深造,获得了博士学位。她的早期教育为她的科研之路奠定了坚实的基础。 优秀的学术生涯 闫宁以其卓越的学术成就而闻名于世。她在光学和激光物理领域取得了杰出的突破,特别是在光学材料和激光器方面的研究。她的工作对激光技术的发展和应用产生了深远的影响,为科学界提供了重要的工具和方法。 她的研究工作涵盖了多个领域,包括激光器的设计和制造、光学材料的研究、非线性光学效应等。她的工作不仅在国际上广受认可,还在科学界产生了广泛的影响。 国际认可与荣誉 闫宁的卓越贡献赢得了国际认可,她被多个国际知名科学组织和学术机构授予了荣誉会员资格。她还获得了多个国际性科学奖项,以表彰她在光学和激光物理领域的杰出成就。 回国服务与教育 闫宁毕业后,选择回到中国,为国内的科学研究和教育事业贡献自己的力量。她加入了中国科学院,担任要职,并积极推动科研项目的开展。她还在清华大学担任教授,培养了一大批杰出的学生,为中国培养了更多的科学人才。 科研领域拓展 闫宁的科研工作不仅局限于光学和激光物理领域,她还积极参与了更广泛的科研领域,包括物理学、材料科学和工程等。她的跨学科研究为解决一些复杂的科学和工程问题提供了新的思路和方法。 社会影响力 闫宁不仅在学术界有卓越的表现,她还关注社会责任,积极参与科技普及和科研政策的制定。她的领导力和影响力为中国的科技发展和国际科学合作注入了新的活力。 闫宁教授是一位备受尊敬的科学家,她的杰出贡献不仅在学术界产生广泛的影响,还为中国的科学事业和国际科研合作作出了重要贡献。她的故事是中国科学界的骄傲,激励着年轻一代的科学家,追求卓越,不断推动科学的进步。