Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

声音的魔法师:吉塔·达特的音乐传奇

吉塔·达特(Geeta Dutt)是印度音乐界的传奇女歌手,以她独特的音乐才华和迷人的嗓音而备受喜爱。她是印度电影音乐的重要一员,为数不胜数的经典歌曲赋予了生命。本文将深入探讨吉塔·达特的生平和她在音乐界的杰出成就。 早年生活与音乐启蒙 吉塔·达特于1930年出生在印度加尔各答,她在一个音乐家庭中长大。她的父亲是一位音乐家,这为她的音乐启蒙打下了坚实的基础。她从小就展现出了对音乐的浓厚兴趣,特别是对印度音乐的各种传统形式。 音乐生涯的开端 吉塔·达特的音乐生涯始于她的早年,她在家庭聚会和学校活动中展示了她的歌唱才能。她的歌声引起了人们的注意,很快她就开始在印度广播公司(All India Radio)的音乐节目中亮相。她的清澈嗓音和情感丰富的表演使她迅速崭露头角。 入行电影音乐 吉塔·达特的音乐职业生涯迅速起飞,她于1946年首次进入印度电影音乐界。她的首支歌曲在电影《Bhakta Prahlad》中亮相,这标志着她电影音乐生涯的开始。她的歌声渗透了情感和深度,很快赢得了观众和导演的喜爱。 与S.D. Burman的合作 吉塔·达特的事业迈入高峰是与著名音乐导演S.D. Burman的合作开始。他们成为了一个杰出的音乐合作伙伴,创作了许多不朽的歌曲。吉塔·达特以其情感丰富的歌唱风格和音乐表现力为这些歌曲赋予了生命。他们的合作作品常常成为印度电影音乐的经典之一。 多种音乐风格的掌握 吉塔·达特在多种音乐风格中都有出色的表现,包括印度古典音乐、印度民间音乐和流行音乐。她的歌声适应了不同类型的音乐,这使她成为了印度音乐界的多面手。无论是忧伤的情歌、欢快的民间曲调还是抒情的古典音乐,她都能轻松驾驭。 电影和音乐界的辉煌 吉塔·达特的歌声为无数印度电影注入了情感和音乐魔法。她的歌曲在电影中常常成为情节的重要部分,许多电影也因为她的歌声而广受欢迎。她的歌曲如《Mera Sundar...

身价百亿被称中国首富,“投资大王”段永平却为爱放弃一切

他一手缔造了“小霸王”和“步步高”,然而却在事业巅峰选择隐退。OPPO、vivo、一加手机、拼多多等创始人都曾是他门下的弟子。 1961年段永平出生在江西南昌,家里的生活条件也不是很好,父母取名段永平的意思是希望孩子能够永远平安。 他的出生给这个家庭带来了希望,父母也在那一年双双进入南昌工程学院当老师,日子也好起来了,这样的生活持续了五年。 后来父母被下放到了农村,年幼的段永平跟着父母一起来到乡下,在那里,段永平度过一段艰苦而又有点甜的农村生活。 段永平成为一个顽皮的孩子,个子不高的他,却因为顽皮练就了一身的“本事”。 这样的日子一直持续到高考恢复,1977年,全国恢复了高考,段永平的生活也重新燃起了希望。 虽然只有小学水平的他参加高考是一件遥不可及的事情,但是那段时间,在段永平眼里,考上大学是他人生的全部目标。 他要全力以赴。由于自己长时间没有摸课本,他第一次参加高考,四门科目加起来才80多分,但是段永平没有放弃,短暂的沮丧后再次投入奋斗中。 他的目标很明确,必须考上大学,半年后段永平再次参加高考,这次没有让所有人失望,他是学校唯一一个考上本科的学生,考取了浙江大学无线电专业。 16岁的他带着梦想和希望来到了浙江,从农村到城市,他连电话都不知道该怎么用,谁也没有想到,这个刚开始连电话都不会用的人,日后却成为中国无绳电话大王。 在大学期间的段永平特别珍惜学习机会,经历了两次高考的他,明白了学习的重要性,也明白了任何成功都是需要努力付出。 1982年,段永平大学毕业,被分配到北京电子管厂,当时的北京电子管厂是国有企业,进入厂里就相当于拥有了铁饭碗,是很多人都很羡慕的工作。 但是段永平却不这样认为,仅仅干了3年,他就厌倦了,通过自己的努力考取了中国人民大学经济系。 在他研究生期间,父亲因病去世,给段永平留下了终身遗憾,自己尚未成家立业,父亲就撒手人寰。他下定决心要成就一番事业,去报答自己的父亲。 段永平本来有机会留在北京。有几家不错的单位都想要招录他,可是他想了想,在这样的企业里,虽然待遇很好,但是没有太大的提升空间,而且厂里相关专业的人才很多,他并不是最出色的那一个。于是他决定到南方去看一看。 刚到广东,他先是进了一家看起来很不错的公司,这家公司有着几百名员工,老板的眼光很高,新招不是本科生就是研究生。 段永平觉得自己在这里很难发挥自己的特长,很快就离开了。要想让自己的特长得到发挥,就是要进入小厂。 在同学的介绍下,他来到中山市怡华集团下属的一个小工厂---日华电子厂,主要是生产家用电视游戏机。 由于经营不善,这个厂年年亏损。怡华集团董事长也只能死马当活马医,段永平在厂里勤勤恳恳,由于他的超前的眼光和魄力,不到一年的时间被任命为为日华电子厂的厂长。 当上了厂长,就有了厂长的压力,这个小厂一没有技术,二没有产品,靠着组装别人的产品,如何能够在市场上立足呢? 段永平考察市场之后,很快就瞄准了游戏机这一商机,“小霸王”游戏机就这样面世。 段永平利用央视平台花重金进行广告营销,小霸王很快占领市场。而此时距离段永平日华厂才三年时间,也就是在这一年,一批精英人才纷纷加入到小霸王公司。 1993年,小霸王研制出了电脑学习机,小霸王学习机取代了当时价格比较昂贵的电脑,受到了家长们的青睐,加上优秀的团队和出众的宣传,一时间,小霸王学习机火遍了大江南北。 1994年,段永平发现原来的体制无法满足市场的发展需求,希望将小霸王改为股份制。在当时,企业改革是很敏感的一件事情,也是一件非常棘手的事情,但是段永平认为如果这样下去,公司肯定会因为企业结构问题和激励机制受到制约。 既然不能改革,就没有必要留下来,而当时小霸王处于发展高峰事情,如果此时离开,对他来说是一种巨大的损失,但他没有犹豫,毅然决定离开,开始自己创业。 1995年8月,段永平带着六个精英人员,从小霸王公司离开,开始了自己的创业。 那六名精英里面有陈明永、沈炜和金志江,陈明永是日后OPPO的CEO,沈炜掌管vivo,而金志江在多年后管理步步高教育。 段永平身上独有的气质影响着周围人,他格言是绝对不会亏待身边的每一个人,也绝对不会亏待合作过的商家。 当时的段永平创立公司时连产品都没有,但是有很多的高管要求加入公司,还有很多人愿意给他投资。 在拥有了一支优秀的企业团队后,他的信心大增,开始向全国征集公司的品牌名字,最终,他选出“步步高”作为品牌名字。 接下来就是他大展拳脚的时候,1997年他拿下了央视的广告标王。一时间“哪里不会点哪里”广告词家喻户晓,销量一路飙升。 同时他大力开发新产品,步步高从单一产品,发展到了三大品类:音影产品,通讯产品和学习机,并且都做到市场前三的位置。 而此时,他仅仅用了三年的时间,从零到巅峰,不得不说是一个奇迹。 2001年,在他事业最辉煌的时候,为了爱情,他选择退居背后,跑到美国过着隐居的生活。 可能很多人都很质疑他的举动,这么大的事业说能放下就放下,但他选择了信任,放权手下,把家庭生活看得比事业还要重要。 此时的段永平开始有更多的时间去放空自己,去学习陌生领域的技能,后来,他看到了巴菲特的书,让他一下子找到了人生的另一个出口。 他开始投资,在网易最低谷的时候他购买了网易的股票,没想到,仅仅用了一年的时间,从刚开始的两百万投入,到最后变成一亿多美元。 在投资这件事情上他做得风生水起。2006年,段永平以62万美元的价格,拍得了巴菲特慈善午餐,这次午餐他带上他的小兄弟黄峥。虽然价格昂贵,但是与其对话的收获是巨大的。 如今的段永平一直用自己的方式去做着慈善,在他看来,富裕并不是真正的富裕,只有大家都富起来,那才有意义。

全球化品牌的“新航线”:对话The Yokryon Group创始人顾振宇

从澳洲贸易商到服务全球品牌 “我第一次理解‘供应链’的力量,不是在某个MBA课堂上,而是在大学期间,亲自把一批澳洲奶粉卖进中国。”顾振宇回忆着自己20岁时的创业起点。 出生于上海,15岁赴澳洲求学,20岁出头在马来西亚取得工商管理硕士学位。不同于纸上谈兵的“海归背景”,顾振宇从大学时代起便深耕中澳贸易。他率先将Devondale、Blackmores等优质澳洲品牌引入中国市场,成为最早一批中澳跨境商品直供的实践者。 他回忆道:“2012年那时候并没有现成的跨境电商平台,也没有明确的进口通路,一切都要自己摸索。”从清关政策到对接海外工厂、联系中国保税区合作仓库,几乎所有环节都亲自跑过。“那个时候你会真正意识到,品牌出海不是卖个产品那么简单,而是搭建一个复杂又精密的全球链路系统。” 上图:顾振宇受邀在加拿大青年发展峰会上给年轻企业家们分享经验 用系统思维,重塑出海逻辑 2023年,Stalzir E-Commerce正式成立,仅一年就实现GMV超5亿元人民币,服务品牌超过20个。公司搭建了涵盖“采购、选品、开店、运营、推广、物流、履约”的完整服务链条,提出“官方旗舰店全托管”模式,并迅速与日本乐天、韩国Gmarket、法国RDC等15+本土平台建立深度合作。 在顾振宇的带领下,Stalzir制定了“品牌诊断+平台适配+流量匹配+内容创作+用户交互+数据分析”的六维模型,不只是输出服务,更是帮助品牌构建长期可复制的运营体系。 截至目前,Stalzir已在韩国、马来西亚、中国香港、英国、加拿大、美国等地设立本地子公司和团队,形成了“全球战略 + 本地运营”的双轮驱动布局。 上图:顾振宇受邀参加韩国商业展览会 从“锆石精神”到全球战略 Stalzir的名字源自“Stal + Zircon”,意为“坚韧的锆石”。“Stal”象征钢铁般的强度,“Zircon”则是高折射率、高耐压的宝石,寓意品牌在激烈市场中的韧性、穿透力与光芒。这也成为公司的座右铭:Radiance, Brilliance, Stalzir。 而随着业务战略不断升级,顾振宇于英国设立集团母公司——THE Yokryon...

黛安普·卡帕迪亚:印度电影的女神

黛安普·卡帕迪亚(Dimple Kapadia)是印度电影界最杰出的女演员之一,以其多才多艺、深情和优雅的表演而广受赞誉。她的演艺生涯充满了传奇色彩,是印度电影历史上的一颗璀璨明珠。在本文中,我们将深入探讨黛安普·卡帕迪亚的生平事迹、职业成就以及她在印度电影界所作出的杰出贡献。 黛安普·卡帕迪亚于1957年出生在印度孟买,她的家庭与电影业有着紧密的联系。她的父亲是一位电影制片人,这让她早早接触到了电影的世界。然而,尽管她有一个电影世家的背景,她的演艺生涯并不是一帆风顺的。她在年轻时离开电影圈,嫁给了印度电影界的传奇演员拉吉什·卡普尔(Rajesh Khanna)。然而,在婚姻生活之后,她决定重返银幕,并且以非凡的表现夺得了观众的心。 黛安普·卡帕迪亚的电影生涯开始于1981年,当时她在拉库马尔·赞基亚执导的电影《波斯公主》中出演了女主角。这部电影让她一炮而红,她的出色表演和令人难以忘怀的美貌使她成为了印度电影界的新星。随后,她相继出演了一系列成功的电影,包括《法兰西情人》、《印度之心》和《兄妹情深》等,每一次都以出色的演技征服观众。 然而,黛安普·卡帕迪亚的职业生涯并不仅仅局限于印度电影。她还在国际电影界崭露头角,出演了英国导演克里斯托弗·诺兰执导的电影《信条》(Tenet)中的重要角色。这部电影为她赢得了国际观众的喜爱和认可,进一步扩大了她的国际影响力。 黛安普·卡帕迪亚的演技才华备受推崇,她的表演风格独具特色,常常充满了深情和情感。她能够在不同类型的角色中游刃有余地切换,展现出多样化的演技。观众们喜爱她的自然演技和真实情感,她的表演常常让人们感同身受,深受观众喜爱。 除了在电影中的出色表现,黛安普·卡帕迪亚还积极参与了一系列社会活动和慈善事业,她是印度癌症研究基金会的亲善大使,致力于提高癌症预防和治疗的意识。她还关注妇女权益和社会问题,通过她的影响力为这些问题发声,积极推动社会的积极变革。 黛安普·卡帕迪亚的电影作品常常涉及到社会问题和人类生活的复杂性,她通过角色和情节深刻探讨了种族、性别、家庭和社会压力等重要议题。她的作品不仅仅是娱乐,更是一种对社会和文化的深刻思考,引发了观众对当今社会的反思和讨论。 黛安普·卡帕迪亚是印度电影界的女神,她的演技才华和社会影响力使她成为了一个备受尊敬的演员和社会活动家。她的电影作品充满了深度、情感和思考,她的演出常常令人难以忘怀。她的未来充满了无限可能性,我们可以期待她继续在电影界和社会领域取得更多的成就,为世界带来更多的美好。