Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

钢琴魔术师:探寻郎朗的音乐传奇

郎朗(Lang Lang),是中国音乐界最杰出的钢琴演奏家之一,以其卓越的钢琴技艺、多才多艺的音乐生涯和国际音乐舞台的巨大影响而备受世界瞩目。本文将深入探讨他的生平、音乐成就、音乐教育事业以及他在国际音乐界的独特地位。 郎朗于1982年出生在中国沈阳,他的音乐生涯始于童年。他显示出卓越的音乐天赋,并在早年开始了专业的音乐培训。他的钢琴技艺和表演才华令人惊叹,他的演奏充满激情和表现力。 郎朗的音乐成就备受音乐评论家和观众的赞誉,他被誉为当代最杰出的钢琴演奏家之一。他的演奏风格充满情感,能够深刻地诠释各种音乐作品,从古典音乐到现代音乐,无所不能。他的钢琴演奏常常令人陶醉,感动人心。 他在国际音乐舞台上也取得了巨大的成功。他曾在世界各地的著名音乐厅演出,与许多世界著名交响乐团合作。他的音乐会常常座无虚席,观众们为了欣赏他的演奏而慕名而来。他的演奏受到国际音乐界的高度认可,多次获得音乐奖项和荣誉。 郎朗的音乐教育事业也备受瞩目。他致力于音乐教育的推广和普及,鼓励年轻人热爱音乐并学习音乐。他成立了自己的音乐基金会,支持音乐教育项目,培养了一代又一代杰出的年轻音乐家。 尽管他在音乐界备受赞誉,但他的生活也充满了挑战和努力。他经历了钢琴演奏生涯中的许多困难,但坚持不懈地追求音乐梦想。他的坚韧和毅力是他成功的关键,也是他音乐事业的灵魂。 总之,郎朗是中国音乐界的璀璨明星,以其卓越的钢琴技艺、多才多艺的音乐生涯和音乐教育事业备受尊敬。他的音乐演奏充满激情和表现力,感动了无数听众的心灵。他是音乐的大师,是音乐的魔术师。

国际商业巨擘:Dani家族的世代传奇

Dani家族,作为印度商业界的杰出代表之一,以其丰富的历史、多元化的业务领域和跨国经营而备受瞩目。这个家族拥有一个庞大的商业帝国,涵盖了多个行业,包括钢铁、教育、医疗保健和房地产等。Dani家族的故事是国际商业巨擘的传奇,鼓舞着全球的企业家,追求卓越并为社会做出积极贡献。 Dani家族的根源可以追溯到印度的巴里亚社区,这个家族在经济、社会和文化方面都有着深厚的传统。家族的商业历程始于20世纪,当时Shri Harkishin Lalji Dani(史里·哈尔基辛·拉尔吉·达尼)在印度的钢铁业务中取得了突出的成功。他是Dani家族的创始人,也是家族商业帝国的奠基人之一。 Dani家族的钢铁业务发展迅速,成为印度和国际市场上备受尊敬的钢铁制造商之一。他们的钢铁产品广泛应用于建筑、制造业和基础设施等领域,为国家的发展和现代化提供了关键材料。 然而,Dani家族的商业兴趣远不止于钢铁业。他们将业务领域拓展到了多个行业,包括教育、医疗保健、房地产和慈善事业。他们的教育机构在印度和国际上享有盛誉,为年轻一代提供了高质量的教育。他们的医疗保健机构为卫生领域提供了先进的技术和服务,改善了印度人民的医疗保健水平。他们的房地产业务在印度的主要城市中拥有重要地位,参与了多个重大地产项目。 Dani家族的成功不仅在于商业智慧,还在于他们对社会的深刻关注和慈善事业的积极参与。他们积极支持各种社会项目,特别是那些关注教育、医疗保健和社区发展的项目。他们的慈善工作有助于改善社会中弱势群体的生活质量,为社会福祉作出了积极贡献。 Dani家族的商业智慧和社会责任感赢得了广泛的尊重和认可。他们被誉为印度商业界的奠基人之一,多次获得印度政府颁发的最高荣誉,如“帕德玛勋章”和“印度民族建设勋章”。 然而,他们的影响不仅限于印度,他们的商业帝国在国际舞台上也占有重要地位。他们的国际业务跨足多个国家,为全球经济和社会的发展做出了重要贡献。他们的合作故事激励着全球的企业家和领袖,追求卓越,将商业成功与社会责任相结合,为构建更繁荣和公平的世界作出贡献。 Dani家族是印度商业界的杰出代表,他们的多元化业务、社会责任感和持久的商业精神使他们成为了国际商业巨擘的缔造者。他们的影响力延伸到全球,激励着年轻的创业者和企业家,追求卓越,推动世界建设更美好的未来。他们的传奇之路为我们展示了,通过坚定的决心、合作精神和社会责任感,可以在商业领域取得杰出的成就,同时也为社会和国家的发展作出巨大贡献。

来自中国的世界铜王王文银,手握全球20座矿山,三次“豪赌”成就千亿身家!

他是商海传奇,在经商过程中三次豪赌,每次都一本万利,赚得盆满钵满,而今已有千亿身家。 他是隐形富豪,尽管公司市值达到上万亿,但却始终坚持不上市,尽管名列中国十大富豪之一,却不显山不露水。他是世界矿王,也是中国铜王,手中握有规模惊人的金属资产,是实打实的资源大鳄。 人生的豪赌,始于奔波之中我们耳熟能详的富豪都有哪些,马云,马化腾,刘强东。 然而我们所不知道的是,有很多公司的老板,虽然名声不显,但是财力雄厚,都是不上市阵营中的中流砥柱,他们平时都非常低调,但在资产统计时,却总是可以名列前茅。 而我们今天所要讲的主人公王文银,就是这样一位传奇人物。 王文银是白手起家的典型代表,他出生在安徽的一个偏僻乡村,家里经济条件很差。 不过虽然他的父母文化水平不高,却非常清楚教育对于孩子来讲的意义,因此他们都对儿子的要求很严格,王文银从小也非常争气,在学习方面也很有天赋,凭借优异的成绩考入了南京大学。 他在大学学习期间非常刻苦,4年之后顺利毕业,被分配到了上海市的一家石油公司。这个工作在别人看来那简直是实打实的金饭碗,只要在这个岗位上好好干,富裕的过完一生也没有太大问题。 不过王文银对这个没有任何挑战性的工作很不满意,他认为自己的余生不应该浪费在这样的工作上面。 于是1993年,王文银做出了人生的第一次豪赌,毅然决然的辞去了这个工作,带着400块钱,南下深圳闯荡。 然而在外拼搏的日子并不好过,总是有着各种各样的意外。刚来到深圳的王文银,人不生地不熟,因此无论是找工作还是生活都有很大的麻烦,在最困难的时候,他身上只有10块钱,不得不去住在桥洞下面。 为了在这个城市站稳脚跟,他不得不去各个工厂找一些很辛苦的工作,来挣点薪水养活自己。 他端过盘子,也在电子厂里当过工人,在工作期间,他丝毫不觉得这些工作卑贱,总是以全部的精力投入到自己的工作当中去,而且对工作中遇到的问题总有着自己独到的想法,也正因此他受到了老板的重视,很多想法都得到了采纳。 也就是出于这个原因,他才在公司中步步高升,仅仅一年的时间就做到了总经理助理,据传闻当时他的年薪一度达到100万。 现在也该收手了,毕竟他已经有了这么高的工资,也在外面闯荡了这么久,做这样一份安稳的高薪工作,是一个非常好的选择。 但是王文银又做出了人生中的第二次豪赌,他又一次辞职了,他对这个百万年薪的工作没有一点点留恋,转头开始了自己的创业之路。 二次豪赌,开启传奇生涯他压上了自己所有的积蓄,建立了正威集团,此后这就成了他经商的基本盘。 起初公司的发展只能说是平稳,并没有太大的成绩,直到1997年机遇才来临。 这一年金融海啸席卷亚洲,在我国深圳许多中小工厂都因为金融危机而被迫走入了破产流程。 可以说,所有的投资者都在这个时候拼命地想逃离市场,然而王文银却逆流而上,他拿出了公司所有的资金抄底,来低价收购了破产工厂的机器设备,用低廉的价格买来了上百台机器。 当时有不少人都认为王文银不知死活,这是在搬起石头砸自己的脚,这些机器一定要砸在他的手里。 可所有人都没有想到的是,金融海啸很快就过去了,市场再度恢复秩序,而王文银当年抄底买下的机器价值早已不知翻了多少番。 王文银没有选择把这些机器在高价转售出去,而是募集了工人开始生产。 由于金融海啸刚刚过去,很多工厂都由于设备的短缺而处于停工状态,但是王文银的公司却早早开始了生产,抓住了市场的空白期,一举使得整个公司的规模迅速膨胀。 也正是由于这一次豪赌的成功,才给王文银后来的扩张提供了底气。 时间再来到2003年,这一年由于非典的爆发,全球经济形势都非常低迷,而大众商品的交易更是遭遇了前所未有的冷冬,许多持有矿产资源的企业都迫切的想要把手里的矿产换成资金。 但是由于经济下行压力持续增大,导致市场的需求始终不太旺盛,而供给又较多,导致各个公司之间开始打起了价格战,争相压低矿产的价格,其中铜矿的价格下跌最为夸张,几乎到达了前所未有的历史低点。 在别的投资者眼里,这是避之不及的雷坑,但在王文银眼里一次发财的机会,王文银开始了人生的第三次豪赌,他再次压上了自己的全部身家,斥巨资大量收购铜矿,根据统计,他前前后后一共收购了约2,800万吨铜。 三次豪赌,终创‘神话’在非典平息之后,铜矿的价格迎来了大涨,而当年低价收购的铜矿价格再次翻番。 王文银所拥有的铜矿资产估值达到上万亿,而王文银的个人身家也突破了1,000亿元。 要知道这还是在十几年前的那个时代,而与此同时,马云、马化腾等人还都在为公司的融资而头疼不已,王文银却已经成了实打实的商界大鳄。 根据统计,正威集团目前一年的营收在几千亿元左右,在历史的峰值甚至一度突破4900亿元,而每年的净利润都有十几亿元。 按理来说,这种规模的公司一旦上市,必然受到投资者们的热捧,但是王文银却始终秉持着财不露白的原则,坚决不上市,也正是由于他的这个决定才使得王文银这个名字在国内没有多大名气。 王文银是一个实打实的行动派,他从来不在乎虚名,只是默默无闻的扩张自己的公司,他在公司发展壮大之后,在海外疯狂投资,大肆收购矿产资源,目前正威集团在全球范围内,一共有20多座矿山的所有权。 有人说王文银是一个赌徒,的确,他曾经不止一次把自己的命运压在了赌桌上面,如同孤注一掷的疯狂赌徒,然而每一次他都赌赢了。 有人说王文银成功的秘诀就是幸运,但在我看来,确实是因为幸运,却又不只是因为幸运。 王文银敢打敢拼,敢想敢做,单单是砸碎石油系统里的金饭碗,这个决定就是很多人无法做到的。 而他带上几百块钱就辞掉工作,南下拼搏,大有当年项羽破釜沉舟的魄力。即便是最简单的工作,他也可以做到最好,从一名普通员工一路做到公司高管,这种韧性与坚毅也是很多人都做不到的。 从表面上来看,王文银只是借了时代东风,凭借着自己的好运才有了今天的成就,但事实上,时代的机遇来临时,很多人都有机会去把握住,不过只有王文银有这种眼光,也只有他才有魄力拿出自己的家底来搏一搏。

拉玛钱德拉·古哈:印度历史与社会的卓越学者

拉玛钱德拉·古哈(Ramachandra Guha)是一位备受尊敬的印度历史学家、社会评论家和作家,以其广泛的研究领域和深刻的见解而闻名于世。他的作品涵盖了印度历史、生态学、政治学和社会问题,为了解印度的复杂性和多样性做出了杰出贡献。在本文中,我们将深入了解这位卓越学者的生平和他在历史与社会领域的杰出成就。 拉玛钱德拉·古哈于1958年出生在印度的德里,他的家庭背景富有学术传统。他在印度、英国和美国的顶尖大学学习,获得了博士学位。他的学术生涯始于圣斯蒂芬学院(St. Stephen's College),后来他在耶鲁大学担任讲席教授。 古哈的研究领域广泛,包括印度历史、政治学、社会学和生态学等多个领域。他的作品常常关注印度社会的复杂性和多样性,深入探讨了印度社会、文化和政治的发展。他的代表作之一是《印度之路:印度民主的发展史》(India After Gandhi: The History of...