Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

钟薛高创始人林盛,一支雪糕最贵66元,三年卖出1亿支销量!

你相信吗?一款雪糕仅一天就能卖出四百六十万;16个月能卖出超过1亿的销售额。 这么惊人的销售业绩就出自一个福建男人的手笔。而他创造的销售奇迹,不只是卖出了多少数量雪糕,而是把雪糕卖出了高价,还能受到消费者追捧!他不仅能把一只雪糕卖出六十六元的高价,还能把66元的雪糕在64分钟内卖出300万支。 他就是钟薛高雪糕的创始人林盛。讲述原创商业创始人故事,传递商业智慧。 林盛的成长故事林盛,福建人,生于1975年,毕业于历史系。 和如今的风光不同,1999年,刚毕业的林盛也曾为找工作发过愁,投过的简历不计其数,但各个简历都石沉大海不见回复,唯有一家广告公司愿意聘用他。 于是,急于就业的林盛怀着满腔热血去了北京,开始了他的北漂生活。 可能林盛自己也想不到他这一做就是15年,但是正是15年的广告经验,让他的眼界和商业逻辑在行业里遥遥领先。 如今想来,林盛能创办钟薛高雪糕品牌,似乎也能在他过往的从业经验里寻得一丝征兆。 于是,2014年,林盛就递了辞呈,下决心出来单干,而上海作为国内的金融中心,商业链的布局比北京更加成熟发达,看中了这一点的林盛,毅然决然来到了上海,结束了他的北漂生活,又开始了沪漂生活,创办了属于自己的广告咨询公司。 公司创立初期,其中的艰苦不必多说,但是15年的广告人经验让他在处理这些困难时,也能独挡一面。 说来也巧,创办公司期间,林盛就做过两个优秀的雪糕策划案例。 曾经奥奇乐找到林盛,想与他合作把马迭尔雪糕推向北京市场,面对这样一个机会,林盛当然求之不得,于是,他按照以往的策划思路,极大力度地宣传“百年老字号”品牌深厚的历史文化和传统工艺。 直击大众心底深处对传统文化的高级向往,所以高档又有内涵的雪糕,谁不爱? 于是,北京群众纷纷买单,林盛这一营销策略果然很有效果,一举助力奥奇乐拿下了北京市场,不过一年,马迭尔在北京各区的销售额就达到了2000万,这一单也彻底开创林盛崛起之路的先河。 近些年,随着网络技术的愈发成熟,新生力量的势起使林盛嗅到了不少商机,各大电商平台的产业链具备完善,互联网日益渗透到大众生活中,流量群体顺势而起。 利用这一波商机,林盛后来利用小红书作为突破点,成功营销沈阳一家雪糕公司打入市场,取得了漂亮的营业战绩。 有了这些策划经验,林盛以他长远的眼光发现,当下冰激凌市场的增量性很高,未来的可持续发展不可估量。 若是作为家庭储备式的消费,冰激凌不但可以是消暑解渴的冰品,更是享受型的休闲甜品,于是进军冰激凌市场成了他需要攻破的目标。 但是此时这个行业的高端市场一直被哈根达斯、明治等外资企业紧紧占有,他急于改变拓展,再创立一个属于中国人自己的高端冰激凌品牌。 钟薛高的成立2018年林盛就成立了钟薛糕食品有限公司,但是在此之前,为了汲取更多专业经验,林盛曾到过国外进行考察,可是对方的一句,中国有好冰激凌吗?问得他心里五味杂陈,于是,就加快了钟薛高的成立时间。 林盛的初终就是想让国内冰激凌高端市场,有一个独属于中国人自己的品牌,所以,中国雪糕就是钟薛糕的含义,时值2018年,也是“国货”发展之年。 此时的国人燃起的文化自信使他们坚信,国货的品质相比外资产品的质量也不逞多让,也许是初心,也许是中国市场的庞大,结合自身的优势,林盛知道该怎么确定钟薛高的未来了。 而这时他的营销方向在这时已初现端倪,其产品定位就是国内冰激凌高端市场,受众人群是有收入的年轻群体。 有着多年营销经验的林盛,在策略方面当然也不能落下风,钟薛糕的名字含义就是借着国人的家国情怀迅速出圈,之后更是以它独特的口味和瓦片式的外观设计,赚足了中国风的噱头。 据说这项外观设计还专门去申请了专利,传统的雪糕摸具是3到8万一套,而钟薛高的是90万一套。 再加上林盛刚开始的营销定位很清晰,他知道现在的财富密码取决于流量,以流量造势,钟薛高杀出一片天指日可待,而国内目前最大的流量汇聚平台无非抖音和小红书了。 但是小红书的定位侧重于年轻有收入的注重高品质的女性,这点和钟薛高的受众群体不谋而合,林盛就想首选小红书作为推广平台。 于是钟薛高在小红书迅速就火出了圈,很快就成为了“网红雪糕”。 后来,加上外观的给力和其66元的昂贵价格,在大众心里竖起的高管形象就此根深,算是为钟薛高进军国内冰激凌市场夯实了基础。 但是,林盛还表示,虽然前期把钟薛高冠以网红身份,但是贴上标签容易,撕下标签很难,要想取得长远发展,除却第一步造就声势打响名号,品质的稳定也是不可或缺的。 除了这一个还需要有持续的创新,他觉得钟薛高虽然要立足于流量体制内但是产品本身的内容也要跟得上。 所以在众多群体使用了钟薛高后,给出的评价是除了贵,也没别的缺点,但是就性价比而言,钟薛高的产品对外公示都是不添加食品添加剂的,甚至一次用料要经过反复发热70次试验。 钟薛高的二三事自钟薛高2018年成立以来,创下一系列的销售神话:曾创下一分钟卖出一万支的销售纪录。 2018年成立之初,64分钟卖出三百万支实现日进460万的记录;2020年双十一,开售不到不过四十分钟,就卖出了五万支,当天销售额突破四百万的业绩;2021年618,开场三分钟就超前年全天销售额,当天卖出60万支。 但是与一项项的业绩突破一同而来的却是钟薛高弄虚作假的新闻,在企业对外说的特级红提只是葡萄干,甚至连只加牛乳不加水的工艺也被说成是虚假宣传。 最后在林盛的‘你爱要不要,它就那个价格’的言论下,大众的骂声估计都能覆盖整个钟薛高公司。 随着近几年日新月异的变化,90后、00后逐渐初入社会,他们对于生活的品质有了更高的追求。 而钟薛高在新生代的世界里,它的生存空间越来越大,但是后面的一些作为,却是让人大跌眼镜。 要知道新生代对于消费品的需求虽然大,但是若将他们看作待宰的羔羊,也是万万不可取的。 而钟薛高创始人林盛,也深知,在绝对的产品面前,任何的营销手段也不过昙花一现,近两年钟薛高的操作与当初的经营理念越来越背道而驰,此类做法是走向灭亡还是兴盛,谁知道呢?

鞋业巨头的成功征程:三木正浩的ABC-MART帝国

三木正浩,生于1955年7月26日,是一位日本亿万富翁商人,同时也是总部位于东京的鞋类制造商ABC-Mart的创始人和最大股东。三木正浩具有韩国血统。1985年,他创立了鞋类和服装公司国际贸易商事,该公司在1990年更名为ABC-Mart,并于2002年上市​。三木正浩以自己的努力和独特的商业视角,使得ABC-Mart成为了日本国内领先的鞋类零售商之一。 据2023年的数据显示,三木正浩的个人财富达到36亿美元,位列全球富豪榜第787位。他目前居住在日本东京,已婚,并在东宝学园获得了艺术/科学学士学位​。在创立ABC-Mart的早期,他是一名业余拳击手,但很快他发现了自己的商业天赋,并将其应用到了鞋类零售业务中​。 三木正浩的ABC-Mart不仅仅是日本的一个成功的鞋类零售品牌,它还拥有美国的鞋类品牌Danner。在他的领导下,ABC-Mart逐渐成为了亚洲的鞋类零售巨头,拓展到了台湾和韩国等地区。在2007年,三木正浩决定从公开交易的公司主席职位上退下来,但他仍然是该公司的主要股东,并继续为公司的发展提供战略指导​。 三木正浩的成功故事是一个典型的自助型富豪的典范。他的故事表明,凭借创新的商业模式、坚持不懈的努力和对市场的深刻理解,个人和企业都可以实现巨大的成功。他的ABC-Mart不仅在日本,而且在亚洲其他国家都有很高的知名度和良好的市场表现。三木正浩的商业智慧和他对于鞋类零售市场的深刻理解,使得他在全球鞋类零售领域占据了重要的地位。在日本国内,他是被广泛认可和尊重的商业领袖,他的成功也为日本的零售和制造业做出了重要的贡献。他的故事不仅仅是一个商业成功的案例,也是对所有创业者和商业领袖的鼓舞和启示。

家族传承的商业辉煌:Peter Fu Chong Cheng与家族的商界传奇

引言 Peter Fu Chong Cheng及其家族是新加坡商业界的杰出代表,以其在房地产和投资领域的卓越成就而广受尊敬。他们的商业帝国建立在坚实的家族价值观和才华之上,跨足了多个行业,包括地产、酒店和金融。本文将深入探讨Peter Fu Chong Cheng及其家族的生平事迹,以及他们在商业和社会领域的卓越贡献。 家族背景与价值观 Peter Fu Chong...

江刺正义 —— 微纳技术的奠基人

江刺正义(Masayoshi Esashi)是一位备受尊敬的日本微纳技术专家,以其在微纳米科学和技术领域的杰出贡献而广受赞誉。他的研究工作在微纳米领域引起广泛关注,特别是在微机电系统(MEMS)和纳米技术领域的卓越成就。本文将深入介绍江刺正义教授的生平、科研成就,以及他在微纳技术领域的卓越贡献。 早年生活和教育 江刺正义教授于1953年出生在日本青森县,他的早年生活中就展现了对科学和技术的浓厚兴趣。他在大学攻读电子工程专业,并在研究生阶段展现出了出色的科研潜力。他的早期教育为他成为一名杰出的微纳技术专家打下了坚实基础。 微机电系统(MEMS)的研究 江刺正义教授以在微机电系统(MEMS)领域的研究而闻名。MEMS是一种集成微小机械元件、传感器、执行器和电子电路于一体的微型系统,具有广泛的应用领域,如生物医学、通信、汽车和航空航天等。他的研究关注MEMS技术的发展和应用,致力于解决微纳技术领域的挑战性问题。他的工作为MEMS技术的创新和推广提供了重要的科学支持。 纳米技术领域 除了在MEMS领域的研究,江刺正义教授还在纳米技术领域取得了杰出成就。纳米技术涉及到控制和操作纳米级尺度的物质和结构,具有革命性的潜力,可用于创新性的应用。他的研究关注纳米技术的基础原理和制备方法,以及纳米材料和纳米器件的设计和应用。他的工作在纳米技术领域有着重要的影响,为纳米科学和工程的发展提供了宝贵的贡献。 国际合作与领导 江刺正义教授一直以来都积极推动国际科研合作。他与世界各地的科学家和研究机构合作,共同解决微纳技术领域的全球性挑战,推动了微纳技术领域的国际合作和交流。他还在国际学术界担任重要职务,积极促进微纳技术研究的国际合作。 奖项和荣誉 江刺正义教授的卓越贡献获得了多项国际性奖项和荣誉。他被授予了多个著名奖项,以表彰他在微纳技术领域的杰出成就。他的奖项和荣誉证明了他在科学界的卓越地位和影响力,也为他的科研工作提供了高度的认可。 科研传承与教育 江刺正义教授一直致力于教育工作和科研传承。他担任大学教职,培养了许多年轻的科学家和工程师,传授自己的科研经验和知识。他鼓励年轻一代积极参与微纳技术研究,为微纳技术领域培养了优秀的人才。 他的教育工作有助于培养了一代又一代的微纳技术专家,推动了微纳技术领域的发展。 江刺正义教授的故事激励着我们,提醒我们微纳技术的无限潜力和重要性。他通过在MEMS和纳米技术领域的深刻研究,为微纳科技的发展和应用提供了关键支持。他的国际科研合作和教育工作为科学界和工程领域带来了积极影响,为未来的微纳技术领域的创新和发展提供了坚实的基础。江刺正义将永远被认为是微纳技术领域的奠基人和领袖。