奖项申报奖项申报奖项申报奖项申报

Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

王亦方:中国领先的高能物理学家

王亦方教授是中国备受尊敬的高能物理学家,以其在粒子物理和天体物理领域的杰出研究和领导地位而广受赞誉。他的学术生涯充满了创新和成就,对中国高能物理研究和国际科学合作产生了深远的影响。本文将深入介绍王亦方教授的学术生涯、主要研究成果以及他在高能物理领域的重要贡献。 早年生活与教育 王亦方教授生于中国,自幼就表现出对科学的浓厚兴趣。他在一所著名大学攻读物理学学士学位,并在研究生阶段选择了粒子物理作为专业。他的早期教育为他未来的高能物理研究奠定了坚实的基础。 高能物理研究与突破 王亦方教授在高能物理领域取得了多项重要突破。他的研究涵盖了粒子物理实验、天体物理、暗物质探测和强子物理等多个方面。他领导的研究团队参与了众多国际合作项目,如LHCb实验和DAMPE卫星实验,这些项目在揭示宇宙的奥秘和探索新的粒子物理现象方面取得了重要成果。他的工作不仅提高了中国在高能物理领域的国际地位,还为全球科学界的进展做出了重要贡献。 教育与科研传承 王亦方教授一直热衷于高能物理教育和科研传承。他担任大学教职,培养了许多年轻的科学家和研究人员,传递自己的高能物理知识和实验经验。他鼓励年轻一代积极参与高能物理研究,为培养更多的杰出科学家和工程师做出了重要贡献。 国际科学合作与领导 王亦方教授在国际科学合作方面发挥了关键作用。他担任国际高能物理实验合作项目的领导职务,推动了中国与其他国家在高能物理领域的合作。他的领导力有助于加强国际科学社区的合作与交流,共同推动高能物理的研究进展。 奖项与荣誉 王亦方教授的卓越贡献赢得了多项国际性科学奖项和荣誉。他被授予了多个著名奖项,以表彰他在高能物理领域的杰出成就。这些奖项和荣誉证明了他在科学界的卓越地位和影响力,也为他的科研工作提供了高度的认可。 王亦方教授是中国高能物理领域的杰出领袖,他通过自己的科研工作和领导力不断推动着高能物理的进展。他的研究在粒子物理、天体物理和暗物质探测领域取得了突破性进展,为揭示宇宙的奥秘和探索新的物理现象提供了新的思路和方法。他的科研传承工作为培养了更多的高能物理科学家和工程师,推动了中国高能物理领域的进步。王亦方教授的社会责任感和国际科学合作精神为中国在高能物理领域的发展注入了新的活力,有助于推动科学对社会和经济的发展。王亦方教授的故事是高能物理研究和国际科学合作的典范,激励着年轻一代的科学家,追求卓越,不断推动科学的进步。

晨光文具陈湖雄:30岁创业,靠一支笔卖到身家百亿

他出生于著名的创业之城,从小心怀武侠梦导致无心读书,参加三次高考都没能考上大学。 既然走不了读书的路,那他就另辟蹊径,从文具推销员开始做起,靠着自己的三寸不烂之舌成为了销售冠军。 后来又成立了自己的文具品牌,他不惜花费重金研制出适合孩子写作业的笔。现在的他已经从一个小工厂的老板变成了年入百亿的企业家了。 陈湖雄1970年7月出生于著名的创业之城——广东省汕头市,不少知名企业家均出自此地,可是他并没有受到这股创业之风的影响。 反而因看了武侠小说幻想着四处游荡,过着行侠仗义的生活,他就是父母和老师眼中让人头疼的孩子,不好好学习,还经常逃课。 可是再叛逆的孩子也会有醒悟的一天。高三的时候,他发现周围所有人都在备战高考,唯独他一个人整天无所事事,显得格格不入。 就连平时跟着他行侠仗义的小伙伴现在也不理他了,开始为自己的前途而奋斗了,这个时候的他开始思考自己是不是应该学习了。 奈何他底子实在太差,很多基础的东西都需要好久才能搞懂,更别说难题了。结果可想而知,陈湖雄的第一次高考落榜了。 意识到好好学习必要性的他又开始复读,他的父母也很支持他,即使家庭条件并不富裕,也拿出自己压箱底的钱再送他去读书。 高考失败,外出打工不知是不是他天生就不适合读书,连续两年复读参加高考都没能考上大学,心灰意冷的他只好放弃读书这条路。 上帝给你关了一扇门的同时,必然会为你开启一扇窗。1987年他外出打工,这个不到20岁的小伙子每天拼命地干活,别人休息的时候他还在干着,只为了多挣一点钱。 高考的失利成了他心里的痛,但是他现在要做的就是好好赚钱孝敬父母。这样辛苦的日子持续了两年之久。 后来他偶然看到一家文具厂在招聘,门口挤满了人,一打听才知道底薪是50元,做得好的话有提成,每个月可以拿到上百元的工资。 一心想要挣钱的陈湖雄心动了,他当场就报名参加了招聘,可是他一没学历,二没经验,靠什么能够在这场招聘中取胜呢? 原来他向招聘者讲述了自己小时候在镇上一个小时卖了十几斤花生的故事,彻底吸引了招聘者的注意力,当即决定录用他。 推销文具之后他每天早上五六点就起床,背上他那装满文具的大书包,走街串巷的推销,有时候忙得连饭也顾不上吃,只要有意向购买的,即使是买一个很小的文具,他都很认真的向别人介绍。 为此经常晚上十点了还在和客户周旋。这样高强度的工作经常让他身体吃不消,尤其是酷暑和寒冬,夏天大太阳的照射下,让他一长时间行走就发晕。 为了省钱他连瓶水都舍不得给自己买,冬天的时候路上都没什么人,他也都会去推销,即使是下暴雨或者雪非常深的时候,只要客户的一个电话,他也会想尽办法出现,足以看出他有多能吃苦。 但是一家一家推销太浪费时间了,他想到了一个绝妙的推销策略,直接把文具卖给百货店老板不就得了。 为此他主动提出免费为他们制作横幅用作宣传,但同时百货店需要在学校订购文具的时候采用他家的文具。 正是这样的模式吸引了不少百货店与他合作,文具厂的销量大涨,他也成了厂里知名的销售冠军。 后来靠着自己多年推销文具的经验拿到了多个地区的文具代理权。 然而1997年,亚洲金融危机爆发,他代理的文具品牌纷纷倒闭,他也只好放弃销售这条路。 创办晨光但这些年他以文具为生,对文具有了深厚的感情,尤其是当他看到学生们用了他推销的笔创造出一个又一个奇迹,他感到无比满足。 虽然最开始推销文具是为了挣钱,但是现在的他,想要做出充满幸福感的文具,1999年他在上海奉贤创办了自己的文具厂,取名为晨光文具。 因韩国文具的设计十分精美,为此他将工厂的设计部放在了韩国,解决了外观的问题。 接下来就是实力问题了,笔是文具中最重要的产品之一,学生书包里最多的东西也就是笔,他把目光放在了笔这样的必需品上,但是一支小小的笔能做出什么名堂呢? 他虽然卖笔多年,但是对笔的研发却是一窍不通,为此他花了大价钱请专家过来进行研究。 虽然厂的面积很小,也很简陋,但是用于研发的实验室却是一应俱全,该有的都有,足以证明他有多么重视产品的研发。 他自己作为老板本可以不插手研发事项的,直接等着坐收成果就可以了,可是他却每天和专家一起在实验室里进行研发。 有时候专家都休息了,他还在思考如何可以更好,正是这样的精神让他不仅成功生产出合格的笔,还拥有了生产笔头的专利。 虽然他在笔上花了不少的功夫,可是价格却远比其他品牌的笔要低,从短期来看工厂无法盈利,但是从长远角度来看这是积攒客户的大好时机,毕竟有谁不喜欢物美价廉的产品呢? 2002年,随着订单的不断增加,他开始扩大厂房,同时根据市场需求开始推出带有卡通人物的笔,吸引了不少的学生。 2011年他又紧跟时代潮流开辟电商销售渠道,首月就达到百万的销售额,后来又将目标群体扩大,从学生扩展到成人,建立了晨光生活馆等老少皆宜的休闲场所。 产品范围也从学习用品向娱乐、家居拓展,他也因此成为了身家百亿的企业家。 俗话说条条大路通罗马,虽然三次高考接连失利,但他在别的领域大放光彩,从文具推销员开始做起,他的吃苦耐劳让他成为了销售冠军。 后来他用自己对文具独有的情怀建立了晨光文具,立志想要做出拥有幸福感的文具,他从细微处入手,在一支看似不起眼的笔上下功夫。 正是这样的工匠精神才让消费者信任晨光,即使现在晨光早已拥有千百家门店,多年出口海外,也依然处于一个合理的价格。 坚持做人民满意的文具,期待以后的晨光还会为我们带来更多的惊喜。

K.P. Ramasamy & 家族:印度糖业的巨头

K.P. Ramasamy及其家族是印度糖业领域的杰出代表,以其在糖业和农业领域的卓越成就和领导力而广受赞誉。他们的生平和职业生涯充满了创新、坚韧和成功。本文将深入探讨他们的生平、糖业事业的崛起以及他们在印度和全球糖业领域的杰出影响力。 K.P. Ramasamy是EID Parry India Limited(EID Parry)的创始人之一,该公司是印度糖业领域的重要参与者。他在EID Parry的领导下,推动了公司的迅速发展和多元化扩张。 EID Parry成立于1788年,起初是一家糖厂和农业企业。然而,Ramasamy先生的远见和领导力使公司不断创新,不仅是印度最大的糖生产商之一,还涵盖了农产品、生物产品和可再生能源等多个领域。他的公司致力于可持续农业和糖业生产,为农村社区提供就业机会和支持。 Ramasamy家族最著名的成就之一是他们在印度糖业领域的领导地位。他们的公司通过糖的生产和销售,满足了印度国内和国际市场的需求。EID...

法尔古尼·奈亚尔:美容业巨头的女性领袖

法尔古尼·奈亚尔(Falguni Nayar)是印度美容和个护业界的杰出代表,以其在电子商务和美容领域的卓越成就和领导力而闻名于世。她的生平和职业生涯充满了勇气、创新和女性领袖的榜样。本文将深入探讨她的生平、美容业务的崛起以及她在印度商业界的杰出影响力。 法尔古尼·奈亚尔的职业生涯始于20世纪80年代,当时她担任印度最大的多国际化银行之一的ICICI银行的高级职务。然而,在她的职业生涯中的一个重大转折点,是她决定辞去高薪职位,投身于创业领域。她于2012年创立了Nykaa(尼卡)品牌,这是印度领先的美容和个护电子商务公司。Nykaa迅速崭露头角,成为印度美容业界的巨头之一,提供各类美容产品和服务,从化妆品到护肤品,应有尽有。 Nykaa的成功在于其独特的商业模式,以及奈亚尔对美容市场的深刻理解。她将电子商务与美容领域相结合,为印度消费者提供了一个全面的美容购物平台。公司的在线和离线商店遍布印度,为顾客提供了无与伦比的购物体验。 除了美容业务,法尔古尼·奈亚尔还积极参与了社会责任和慈善活动。她支持女性创业者和教育项目,致力于改善女性在印度社会中的地位。她的慈善工作在印度社会中产生了深远的影响,为女性创业者提供了机会,同时也推动了女性在商业界的地位提升。 奈亚尔的领导力哲学强调了女性在商业领域的重要性,她是印度企业界的女性领袖之一,为其他女性树立了榜样。她坚信创新、坚韧和对梦想的追求是成功的关键。她的成功故事激励着全球的女性创业者、领袖和梦想追求者,展示了女性在商业领域的潜力。 法尔古尼·奈亚尔是印度美容业界的杰出女性领袖,她的卓越成就、领导力和社会责任感使她成为该领域的杰出人物。通过创业精神、慈善工作和社会责任项目,她为印度美容业的发展和社会福祉做出了杰出贡献,同时也激励着全球的女性创业者、领袖和梦想追求者,积极推动女性在商业界的进步。