奖项申报奖项申报奖项申报奖项申报

Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

亚洲工业4.0推动力人物Nur Fadhilah Muhammad

随着工业4.0的到来,马来西亚的SIRIM QAS International已成为世界级测试和认证的首选盟友。首席执行官Nur Fadhilah Muhammad为其通往繁荣的漫长旅程感到自豪。 马来西亚政府在投资、贸易和工业部(MITI)、马来西亚标准和工业研究所(SIRIM)下属的一家全资公司承担各种工作。虽然它专门从事工业研究和技术,但SIRIM在其存在的四十年中,大部分时间都在努力改善制造业和服务业,并为中小型企业(SME)提供技术增长解决方案。 “归根结底,他们的产品或系统将通过我们的流程成为世界一流的。” 在这40年的大部分时间里,SIRIM的大部分核心责任也是作为一个测试、检查和认证机构。1997年,这种专业知识被分拆为SIRIM的全资子公司,成为SIRIM QAS International。在各个行业中,SIRIM QAS International以提供可靠的测试和认证服务而闻名,所有这些都在一个屋檐下。 首席执行官Nur...

乌彭德拉·巴克西:法学与人权的倡导者

乌彭德拉·巴克西(Upendra Baxi)是一位备受尊敬的印度法学家、法律理论家和人权倡导者,以其对法律与人权领域的深刻见解和贡献而闻名。他的作品涵盖了法学、宪法学、人权法和社会正义等多个领域,为了推动印度法律体系的发展和改革做出了杰出贡献。在本文中,我们将深入了解这位杰出思想家的生平和他在法学与人权领域的杰出成就。 乌彭德拉·巴克西生于印度,在印度接受了高等教育,并在印度和国际知名大学担任教授职务。他的学术生涯始于印度,后来他成为了印度法学界的杰出学者。 巴克西的研究领域广泛,包括宪法学、法律理论、人权法、社会正义和法律与发展等多个领域。他的作品深刻探讨了印度法律体系的复杂性和挑战,特别关注了宪法的重要性和人权的保护。他的代表作之一是《宪法的法治与法治的宪法》(Constitutionalism and the Rule of Law: Bridging Idealism...

将10元店开遍全球,中国放牛娃叶国富的百亿人生

或许没有人想到,如今代表着生活品质的名创优品,在十几年前是由一个十元店的老板创立的。 和其他看起来德高望重,气质彬彬的企业掌舵人不同,叶国富看起来十分桀骜不驯,浑身上下充斥着一股野心勃勃的感觉。 这种气质虽然并不符合大众对于企业掌舵人的预期,但却和叶国富从小生活的家庭环境和成长经历有关。 叶国富1977年11月,叶国富出生于湖北的十堰市,加上叶国富,家里面一共有七个孩子,在那个时代里养育七个孩子的花销和精力都远远超出寻常人的设想。 因为家庭条件拮据,叶国富从上小学开始就比别人困难很多,为了能够照顾家里,从学校里下课回家之后,叶国富就得赶紧回家背起背篓上山打柴,吃了饭洗碗、平时要在家里做家务…… 在同龄人想着下了课要去哪里玩耍的时候,叶国富已经早早地背上了家庭的重担。农活是一家人最主要的经济收入。 为了能够赶在季节过去之前做完所有的农活,每当到了农活最繁忙的时候,叶国富和自己其他六个兄弟姐妹就得和学校里的老师请假,帮助自己的父母在农田里播种作物。 时间和精力上的差距让他和别的学生产生了不小的差距,即便叶国富在自己空闲的时间努力学习,成绩也一直不太理想。 上初中的时候,因为学习成绩远远不如别的学生,再加上父母实在负担不起供养七个孩子一起上学的经济压力,在和家里人商量之后,叶国富报名了一所中专学校。 他希望能够在这个学校里学到一技之长,尽可能地帮家里人减轻一些生活负担。上了中学之后,叶国富家里的经济情况并没有好转多少,每次交学费的时候也总是最后一个交钱的。 吃了小学没有好好学习的苦头,读中专时候的叶国富奋发学习,是整个班级里面最爱学的孩子,每年学期末的时候他也总是被老师额外表扬的那一个孩子。 但生活给予叶国富的苦难远远不止于此,即便叶国富埋头苦读,但是由于家里面交不上学费,在毕业的时候,最终没有拿到毕业证。 辛辛苦苦埋头苦读三年,一朝毕业竟然连毕业证也拿不到手,对于十几岁的叶国富来说,这无疑是一个巨大的挫折。 参加工作但从小的生活经历磨砺了叶国富的心智,在经过几天的思考之后,叶国富不再纠结于毕业证书的事情,他决心去参加工作,去社会里闯荡一番天地。 当叶国富准备出去闯荡的时候,他并没有把眼光局限在湖北,而是把目光放在了经济更为发达的广东。他瞒着家人,独自一人踏上火车。 1998年6月,充满雄心壮志的叶国富来到了广东的佛山。到了这里的他再次受到了生活的捶打,没学历、没背景、没人脉,到了新地方的叶国富找不到工作,也找不到住的地方。 在异乡的街头,这个离开家乡的少年,第一次感到对人生的迷茫。迷茫过后,叶国富静下心来,开始一家一家地找工作。 这个出生于大山里的孩子从小就明白要奋力拼搏的道理,在他的人生字典里,“努力”这个词的排列顺序可谓是第一位的。 在经过自己的不懈努力之后,叶国富终于找到了自己人生中的第一份工作—钢管厂的销售员。 和很多人把销售当作过渡性的工作不同,叶国富以极其认真的态度对待了这份工作,他不仅关注这份工作带给他的经济收入,更关注的是附加价值。 在做销售的时间里,叶国富极大地锻炼了自己的人际交往能力,也开拓了他的眼界。老天不负有心人,叶国富真挚的工作态度不仅感染了自己的上司,也感染了自己的客户群体。 在经过一段时间的锻炼之后,叶国富不仅成功地保住了这份来之不易的工作,而且还成功的升职成为了经理。 在做销售的这几年里,叶国富并没有因为自己的进步而盲目满足,相反,在看到自己的客户大多都是创业成功之后,他的心里不自觉的就升起了这样一个问题。 辞职创业我是不是也可以做到呢?在和自己的妻子经过仔细的探讨之后,叶国富谨慎而又大胆地做出了一个决定,要辞职创业。 2004年,叶国富和自己的妻子将自己的商铺定位在了女性市场,同年,他建立了自己的品牌店铺:哎呀呀。 考虑到当时的经济水平和消费能力,在经营模式上参照的就是遍布大街小巷的十元店。由于广东的人力资源较多,再加上这些年做销售积累下来的人脉和资源,叶国富创立的这家饰品店很快就回了本。 野心勃勃的叶国富并没有把自己的经营范围局限在一个省份里,在哎呀呀的收入累积到一定的程度之后,他把目光投向到了北京、上海等更为发达的省份地区。 在叶国富线下店铺开拓得如火如荼的时候,经营危机也随之到来。零几年正是线上业务发展的黄金时期。 天猫、淘宝等线上购物平台的发展让叶国富的店铺受到了巨大的冲击,这也让他不由得心生挫败。 2013年,眼看着自己店铺经营状况急转直下,叶国富心生郁结,经过妻子的劝说之后,他买了一张去往日本的机票,打算到一个新地方换一换自己的心情。 名创优品或许是前半生吃过的苦头太多,叶国强在日本遇到了自己此生最大的机遇,他遇到了设计师三宅顺也,十元店的销售模式让三宅顺也大为惊叹,而三宅顺也的设计才能也让叶国富眼前一亮。 在经过一段时间的磨合之后,叶国富和三宅顺也确定了彼此的合作意向,火爆中国的名创优品自此诞生了。 凭借着三宅顺也新颖的设计理念,名创优品很快就在中国得到了大众的青睐。再加上叶国富在哎呀呀这个品牌上这些年来学习到的经验和教训,名创优品这些年来的发展可谓是十分顺利。 在名创优品这些年的经营中,叶国富重新定位了这个店铺的经营理念,不再是杂乱无章的“杂货店”,名创优品自此定位成为了“生活好物集合店”。 这个理念的提出和定位在中国还十分新颖,也正因如此,名创优品很快就成为了当时线下店铺里的一匹黑马,在全国范围内都崭露了头角。 在自己的创业之路上,叶国富展现出了自己得天独厚的经营理念,算上名创优品,叶国富总共只创业了两次。 但就是这两次创业,直接让叶国富登上了福布斯富豪排行榜的第859名,身价也超过了百亿。 在叶国富的发展中,我们能看到他的身上有很多值得我们学习的品质,但其中最吸引人的,是叶国富对于困难不低头,不放弃的精神。

电视业巨头:Menardo Jimenez及其传媒帝国的崛起

菲律宾的传媒业中,Menardo Jimenez的名字是无法忽视的一部分。作为菲律宾电视行业的重要人物,他是GMA Network的前主席,对菲律宾的广播和电视产业产生了深远的影响。 Menardo Jimenez出生在一个商业世家。早年间,他凭借家族背景和个人努力,在商界逐渐崭露头角。但他真正成名的是在GMA Network,这是菲律宾最大的广播电视网络之一。 在Menardo Jimenez的领导下,GMA Network经历了一段前所未有的快速发展时期。他凭借对市场的敏锐洞察和对品质的坚持,成功地将GMA Network打造成为菲律宾的领先电视网络。不仅如此,他还进一步拓展了GMA的业务领域,涉足电影、音乐和其他媒体产业,使GMA成为一个综合性的媒体帝国。 Menardo Jimenez是一个真正的行业创新者。他深知在快速变化的传媒环境中,只有不断创新,才能保持领先。因此,他大胆引入新技术,改进节目制作工艺,提高节目的质量和多样性,确保GMA...