Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

V. Narry Kim:韩国杰出的分子生物学家和科学教育家

V. Narry Kim(金南理)教授是韩国备受尊敬的分子生物学家和科学教育家,以其在RNA生物学领域的杰出贡献而广受赞誉。她的学术生涯充满了创新和领导力,对韩国科学研究和高等教育产生了深远的影响。本文将深入探讨V. Narry Kim教授的生平、学术成就以及她在RNA生物学和科学教育领域的重要贡献。 早年生活与教育 V. Narry Kim教授生于韩国,自幼就表现出对科学和生命科学的浓厚兴趣。她在韩国攻读生物学学士学位,并在研究生阶段选择了分子生物学作为专业。她的早期教育为她未来的科研工作奠定了坚实的基础。 RNA生物学研究与突破 V....

中国珠宝行业创始人张国涛,靠真爱狂赚450亿,掌舵钻石婚戒定制领先企业!

中国河南80后小伙白手起家,没背景没资金,甚至没有上过大学,完全凭借自己的商业嗅觉在珠宝领域打下一片天地,短短几年的时间里,就积累了420亿元人民币。 成为中国河南省首屈一指的富豪。他到底有何过人之处? 始于真爱1985年,张国涛出生于河南省开封市祥符区,父母都是普通的工薪阶层,家庭条件普通,从小张国涛也没有表现出什么过人之处,他在学习上也没有什么天赋。 再加上家庭条件比较困难,没有能力继续支持他学习深造,于是在20岁那一年,张国涛就进入了社会,跟着同龄的年轻人一起坐火车南下,来到广东找了一份工作。 在广东打工期间,他碰巧遇到了同样是河南人的卢怡雯,老乡见老乡两眼泪汪汪,两人一拍即合,决定相互帮扶,共同在这个大城市里走下去。 经过长时间的相处之后,张国涛发现这个女孩和自己的生活经历非常相似,跟自己也有很多共同话题,他很快就认定这个女孩就是自己命中注定的另一半。 两人很快走到了一起,没过多久便走入了婚姻的殿堂。在结婚之后,张国涛决心更加努力为妻子创造出更好的生活。2010年,他和妻子商量过后。 创办了因赛特企业管理咨询有限公司,这家不起眼的小公司在繁华的深圳几乎没人知晓,但就是在这个毫不起眼的小公司里,一个伟大的梦想已经起航。 起初公司的效益并不好,张国涛也没有赚到什么钱。过了一年之后,张国涛开始思索企业的发展前景,后来他因为一个偶然的机会了解到了珠宝行业。 张国涛发现这个行业简直就是暴利,低价收购的珠宝稍微加工一下就能卖出高价,而且购买的人还趋之若鹜,思量再三之后,张国涛决定把公司的经营方向往珠宝行业转变。 但是要想开展珠宝业务,张国涛还面临着诸多障碍,就是竞争过于激烈,但是张国涛有自信在这片红海中杀出一条血路来。那么他的自信从何而来,最终又能否获得成功? 剑走偏锋珠宝行业因为利润高,所以吸引了很多投资者,而且国内外有一大批知名企业在珠宝行业深耕多年,竞争力极强,如果贸然介入该行业很有可能血本无归。 为了避免因为同质化而导致产品竞争力低下,张国涛的公司推出的产品必须要有一些独到的优势。但是在此之前张国涛完全没有做珠宝产业的经验。 最初成立的公司也仅仅是一个营销策划公司,跟珠宝产业八竿子打不着。那么他又凭什么如此自信,可以在这个行业取得成就。事情还要从张国涛和妻子的恋爱历程讲起。 张国涛是一个非常浪漫的人,在追求妻子的过程中,他别出心裁,想了很多创意,尽自己的可能为妻子创造浪漫。 有了想法之后,张国涛立刻就开始付诸实践,他先把公司的名称改为戴瑞珠宝有限公司,推出了DR品牌,该品牌的口号就是“男士一生仅能定制一枚钻戒”。 消费者在购买钻戒时有诸多限制,具体来说就是只能由男士购买钻戒,在购买钻戒之前,男士需要签署一份真爱协议,对这份爱情作出承诺。 此后还需要将自己的身份信息和受赠人的身份信息绑定,之后记录在案,每一枚钻戒都有独一无二的真爱编码,以此来证明爱情的坚贞不渝。 在购买一次钻戒之后,就不允许再次购买。不过在公司部分高管看来,这种营销方法在一定程度上会导致部分消费者的反感。 但是张国涛认为在当时的情况下,如果不剑走偏锋就很难破局,于是在他的坚持下,DR推出了第1款产品,那么张国涛的营销策略究竟能否成功? 全球领先门外汉涉足珠宝行业,剑走偏锋,利用营销策略占领市场,他究竟能否如愿?让很多人都没想到的是,该营销策略一经推出,就瞬间在珠宝市场中引发了巨大的轰动。 很多女性消费者都认为这种规则仪式感很强,不少年轻女性都要求丈夫为自己购买一枚DR钻戒,以此来证明爱情的忠贞不渝。 DR的第1批钻戒一经上架就被抢购一空,张国涛的策略一炮打响,在竞争极其激烈的珠宝市场中,DR竟然奇迹般抢到了很大的市场份额。 在营销初步获得成功之后,张国涛便大受鼓舞,他再接再厉,开始进一步提升品牌的吸引力。与其他珠宝公司专心钻研珠宝雕刻技术不同。 张国涛的珠宝公司根本就没有实体工厂,实际上他把所有的钻戒生产业务都外包了出去,由其他工厂负责完成产品制作,而DR负责进行产品营销。 虽然这种方法出让了部分利润,但是优势也非常明显,那就是不用投入过多资金。传统的珠宝公司在盈利之后往往需要把利润重新投入到生产环节中。 改进生产技术,但是张国涛的公司却有一套独特的经营模式。产品销售出去之后,张国涛就把资金全部投入到营销环节当中,他高薪聘请了很多明星为公司的钻戒代言。 包括吴敏霞夫妇,苏炳添夫妇,吴京夫妇等人,都是DR钻戒的代言,在明星效应的加持下DR钻戒的影响力更加深入人心,越来越多的消费者对DR钻戒青眼有加。 DR公司的发展也因此坐上了火箭,2019年戴瑞珠宝改制为迪阿股份,开始筹备IPO,仅仅用了两年迪阿股份便成功在深圳创业板上市。 根据上市后所公布的相关信息显示,DR毛利率为70%,这在整个珠宝行业中都是绝无仅有的,在全球范围内也算的上是绝对的领先地位。 据了解,张国涛夫妇所持有的股份估值在几百亿以上,2022年,胡润富豪排行榜公布,张国涛夫妇以420亿人民币的身家登榜,张国涛成了名副其实的杰出青年企业家。 不过凭借这样的营销策略,DR虽然前期大获成功,但是它的复购率几乎为0,很多人都在担心,来公司可发展的空间不大,不过张国涛也对此早有规划。 早在几年前,他就已经依托原有公司孵化出了全新的品牌,story Mark 和most me,计划利用多元化产品化解企业发展危机。 我们不得不叹服于张国涛的营销智慧,仅仅是对产品进行包装,就可以获得如此惊人的利润,从来没有投入过大笔的资金,但是却能赚得盆满钵满,简直就是空手套白狼。

李景海:中国能源与环境科学领域的杰出专家

李景海博士是中国能源与环境科学领域备受尊敬的专家,以其在可再生能源、环境保护和可持续发展方面的杰出贡献而广受赞誉。他的学术生涯充满了创新和领导力,对中国能源与环境领域的研究和政策制定产生了深远的影响。本文将深入探讨李景海博士的生平、学术成就以及他在能源与环境科学领域的重要贡献。 早年生活与教育 李景海博士生于中国,自幼就表现出对环境和能源问题的浓厚兴趣。他在一所著名大学攻读环境工程学士学位,并在研究生阶段选择了环境科学与工程作为专业。他的早期教育为他的未来科研之路打下了坚实的基础。 能源与环境科学研究 李景海博士因其在能源与环境科学研究领域的卓越贡献而广受赞誉。他的研究涉及可再生能源、环境保护、气候变化和可持续发展等关键领域。他在太阳能、风能、生物能源等可再生能源方面的研究取得了重要突破,为中国能源结构的转型和减少碳排放提供了关键支持。此外,他的环境保护研究也为解决大气污染、水资源管理和生态保护等问题提供了科学依据。 教育与科研传承 李景海博士一直热衷于教育工作和科研传承。他担任大学教职,培养了许多年轻的环境科学家和工程师,传递自己的学术知识和研究经验。他鼓励年轻一代积极参与环境科学研究,为推动中国能源与环境科学领域的发展培养了更多的杰出人才。 奖项与荣誉 李景海博士的卓越贡献赢得了多项国际性能源与环境科学奖项和荣誉。他被授予了多个著名奖项,以表彰他在可再生能源、环境保护和可持续发展领域的杰出成就。这些奖项和荣誉证明了他在科学技术领域的卓越地位和影响力,也为他的科研工作提供了高度的认可。 政策制定与可持续发展 李景海博士积极参与中国能源与环境政策制定,为制定可持续发展政策和战略提供了专业建议。他的科研成果为政府和企业提供了重要的决策依据,有助于推动中国能源生产和消费的绿色转型。 能源与环境领域的领袖 李景海博士被认为是中国能源与环境科学领域的杰出领袖之一,他的研究和政策工作为中国可持续发展和环境保护事业做出了杰出贡献。他的成就和影响力激励着年轻一代的环境科学家和工程师,鼓励他们追求卓越,不断推动中国在能源与环境领域的发展。 李景海博士是中国能源与环境科学领域的杰出专家,他通过自己的科研工作和领导力不断推动着可再生能源、环境保护和可持续发展领域的进展。他的研究在能源与环境科学领域取得了突破性进展,为中国的绿色能源转型和环境保护提供了新的思路和方法,同时他的科研传承工作为培养了更多的环境科学家和工程师。他的社会责任感和科技创新精神为中国的可持续发展注入了新的活力,有助于推动中国在能源与环境领域的发展,以应对全球环境挑战。李景海博士的故事是科技创新和可持续发展的典范,激励着年轻一代的科研人员,追求卓越,不断推动科学的进步。

数字娱乐的巨头:Forrest Li的创业征程与全球影响

Forrest Li(李彦宏)是数字娱乐领域的杰出代表,以其卓越的创业才能和全球影响力而闻名。本文将深入介绍Forrest Li的生平经历、数字娱乐业的创业征程以及他在全球科技产业的卓越地位。 早年生活与教育 Forrest Li生于中国广东省,成长于一个普通家庭。他在广州大学获得了计算机科学学士学位,并在美国斯坦福大学攻读了硕士学位。他的教育背景为他的科技创业奠定了坚实基础。 创业初期 Forrest Li的创业生涯始于2009年,当时他与几位合作伙伴共同创办了Garena。最初,Garena是一个在线游戏平台,但随着时间的推移,它逐渐扩展到数字娱乐领域的各个方面,包括电子竞技、数字支付和社交媒体。 Garena的成功 Garena在数字娱乐领域取得了巨大成功。该公司的游戏平台在东南亚地区迅速崛起,成为最大的在线游戏提供商之一。此外,Garena还创办了Free Fire游戏,成为全球最受欢迎的移动游戏之一,吸引了数亿玩家。 数字娱乐领域的创新 Forrest Li一直致力于数字娱乐领域的创新。他将Garena发展成一个多元化的数字娱乐平台,整合了游戏、社交媒体和数字支付等多个业务领域。他的创新理念推动了数字娱乐产业的不断发展,为用户提供了更多多样化的娱乐体验。 全球影响力 Forrest Li的数字娱乐帝国不仅在东南亚地区蓬勃发展,还迅速扩张到全球。Garena的游戏和社交媒体平台吸引了数以亿计的用户,使其成为全球数字娱乐领域的重要力量。他的影响力不仅局限于娱乐,还在技术创新、创业生态系统和社会影响力等方面产生了深远的影响。 对社会的贡献 Forrest Li一直致力于社会责任和慈善事业。他的慈善基金会支持教育、环保和社区发展等多个社会项目。他通过改善社区、支持教育和环保倡议,为社会发展做出了积极贡献。 对未来的展望 Forrest...