奖项申报奖项申报奖项申报奖项申报

Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

中国商业巨头:梁信军的创业传奇与全球商业影响

梁信军的早年生活与教育 梁信军(Liang Xinjun)生于中国,他的创业传奇始于一个普通的家庭。他在中国获得了经济学学士学位,并在美国攻读了硕士学位。他的教育背景为他的商业创业奠定了坚实基础。 创业初期 梁信军的创业生涯始于20世纪90年代,当时他与合伙人创办了一家小型的金融服务公司。最初,他的公司主要从事资产管理和投资业务,但他很快意识到了全球化的商机。 全球化的商机 随着中国经济的崛起,梁信军的公司迅速适应了市场变化,将业务拓展到全球。他的团队致力于跨国并购和投资,涵盖了多个领域,包括金融、房地产和能源。这些投资使他的公司在全球范围内取得了巨大成功,为公司带来了可观的回报。 全球商业影响 梁信军的商业帝国不仅在中国蓬勃发展,还迅速扩张到全球。他的公司在全球各个市场中拥有广泛的业务,成为跨国商业界的领袖之一。他的影响力不仅局限于金融领域,还在全球商业和投资界产生了深远的影响。 对社会的贡献 梁信军一直注重社会责任和慈善事业。他的慈善基金会支持各种社会项目,包括教育、医疗保健和社区发展。他的慈善事业旨在改善社区,为有需要的人们提供支持,并回馈社会。 对未来的展望 梁信军的商业帝国继续蓬勃发展,他的创新精神和领导力将继续推动公司的成长。他致力于将中国企业推向全球市场,并将社会责任视为企业成功的重要组成部分。他的未来展望充满了创新和机遇。 总结 梁信军是中国商业界的杰出代表,他通过创业才能、卓越的商业智慧和社会责任感建立了一个强大的商业帝国。他的成功故事鼓舞了其他创业者,展示了如何通过坚韧不拔的精神和创新的思维在全球商业界取得卓越的成就。他的影响力不仅局限于金融领域,还推动了社会责任和可持续发展在商业界的普及。梁欣军将继续影响全球商业产业,并在未来创造更多的商业和社会价值。

白春礼:中国科学界的杰出领袖

白春礼博士是中国科学界的杰出领袖,以其在化学和科学研究领域的杰出贡献而广受赞誉。他的学术生涯充满了创新和独到的思考,对中国科技发展产生了深远的影响。本文将深入探讨白春礼博士的生平、学术成就以及他在科学研究领域的重要贡献。 早年生活与教育 白春礼博士生于中国,自幼就表现出对科学和化学的浓厚兴趣。他在中国一所著名大学攻读化学学士学位,并在研究生阶段选择了化学作为专业。他的早期教育为他的未来科研之路打下了坚实的基础。 化学与科学研究 白春礼博士因其在化学和科学研究领域的卓越研究而广受赞誉。化学是科学技术领域的重要分支,涉及到物质的结构、性质和变化。他的研究在化学领域取得了突破性进展,特别是在纳米材料和材料科学方面。他的工作不仅在学术界引起了广泛关注,还在工业界产生了深远影响,有助于提高材料科学的水平和应用范围。 教育与科研传承 白春礼博士一直热衷于教育工作和科研传承。他担任大学教职,培养了许多年轻的科学家和研究人员,传递自己的学术知识和研究经验。他鼓励年轻一代积极参与科学研究,为科研发展培养了更多的杰出人才。 奖项与荣誉 白春礼博士的卓越贡献赢得了多项国际性科学奖项和荣誉。他被授予了多个著名奖项,以表彰他在化学和科学研究领域的杰出成就。这些奖项和荣誉证明了他在科学技术领域的卓越地位和影响力,也为他的科研工作提供了高度的认可。 科技创新与国际合作 除了在学术界的卓越贡献,白春礼博士还以他在科技创新和国际合作方面的贡献而闻名。他积极参与科技创新和国际科学合作项目,推动科技创新对社会的积极影响。他的国际合作精神和科技创新理念为中国科学界注入了新的活力,有助于推动科技创新对社会和经济的发展。 中国科学界的领袖 白春礼博士被认为是中国科学界的领袖之一,他的研究和科技创新工作为中国科技发展做出了杰出贡献。他的成就和影响力激励着年轻一代的科研人员,鼓励他们追求卓越,不断推动科学和技术的发展。 白春礼博士是中国化学和科学研究领域的杰出学者,他通过自己的科研工作和领导力不断推动着科学技术的进展。他的研究在化学领域取得了突破性进展,为材料科学和科技创新提供了新的思路和方法,同时他的科研传承工作为科学界培养了更多的杰出人才。他的社会责任感和科技创新精神为中国科学界注入了新的活力,有助于推动科技创新对社会和经济的发展。白春礼博士的故事是科技创新和科学研究的典范,激励着年轻一代的科研人员追求卓越,不断推动科学的进步。

马来西亚娱乐业巨头:林国泰的商业传奇

引言 林国泰(Lim Kok Thay)是马来西亚最杰出的商业领袖之一,他的名字与娱乐业的繁荣与创新紧密相连。本文将深入介绍林国泰的生平和他在娱乐业的杰出贡献,揭示他的商业智慧和领导力。 家族背景与早年生活 林国泰出生于马来西亚,他来自一个富裕的家庭。他的父亲是马来西亚著名的实业家,为他提供了坚实的家庭背景和商业启发。林国泰年轻时展现出了卓越的商业头脑和领导才能。 从企业到娱乐业 林国泰最初在家族企业中工作,但很快他将目光转向了娱乐业。他认识到了娱乐业的潜力,决心投身其中。他的决策被证明是明智的,因为他的职业生涯取得了巨大成功。 亚洲娱乐业的巨头 林国泰是亚洲娱乐业的巨头之一,他领导的公司拥有多家著名的赌场和度假村。他的愿景和领导力将公司带向了国际舞台,吸引了全球游客前来体验他的娱乐项目。 多元化投资与全球扩张 林国泰不仅局限于娱乐业,他还将投资多元化扩展到了其他领域,包括房地产、酒店和旅游。他的全球扩张战略使他的商业帝国在世界各地茁壮成长,为马来西亚赢得了国际声誉。 社会责任与慈善事业 林国泰一直注重社会责任和慈善事业。他的公司积极参与社区项目,并通过慈善基金会支持了教育和社会福祉项目。他的慈善事业反映了他对社会的关切和回馈社会的决心。 总结 林国泰是一位杰出的商业领袖,他在亚洲娱乐业的成功经历令人瞩目。他的远见卓识、领导力和多元化投资策略使他成为了亚洲娱乐业的巨头,同时他的社会责任感和慈善事业也让他成为一个备受尊敬的商界领袖。林国泰的故事激励着许多人追求商业卓越和社会责任。

从打工人到上海首富,拼多多黄峥为何能在短时间内成功

在商业界中,有着这样一位奇才,35岁开始创业,从公司成立到上市仅仅只用了3年的时间。 在人生得意,他却捐出1000亿美元,辞去CEO和董事长职位,去实现自己小时候的梦想,当一名科学家。 1980年,黄峥出生在杭州郊区,父母都只有初中文化,在工厂当工人,从小家境贫寒,但是并没有影响到黄峥的成绩。 黄峥从小成绩优异,每次考试都是班上第一名,有一次,语文老师出了一道作文题,长大后要成为什么。 全部同学只有黄峥写了要成为一名科学家,引得同学们的讽刺,但是这个梦想在黄峥的心里生根发芽。 “学霸”人生小学六年级的时候,黄峥参加奥数比赛得了一等奖,老师看出这个孩子的才华,决定推荐黄峥报考杭州外国语学校。 这所学校招生都是杭州各地的尖子生,而且这所学校是初中到高中制,很多优秀的孩子经过专门的选拔,送往各个品牌高校。 黄峥如愿考到了这所学校。在杭州外国语学校6年后,直接被保送到了浙江大学混合班。 黄峥进入了浙江大学计算机实验班,黄峥的聪明以及刻苦的学习态度,让他的计算机很快就达到了高水平。 当时是互联网刚刚兴起的时候,黄峥时常在某技术网站以及论坛上发表一些自己的观点和心得,很快在圈内有点名气。 这也引起了一个人的注意,主动加他的MSN,他就是网易的丁磊。他想和黄峥探讨技术上的问题。丁磊很欣赏他的能力,直到后来也一直跟他保持着联系。 2002年,黄峥从浙江大学考入美国威斯康星大学,拿到了计算机专业的硕士学位。在美国,黄峥不断提高自己的专业水平,在学习上一刻都不放松。 此时的丁磊把他介绍给自己的好朋友段永平。段永平是步步高创始人,在国内企业做得非常好,他为了爱情做了甩手掌柜,在美国做投资。 段永平也是从浙江大学毕业的,作为学长,段永平也很欣赏黄峥的才华,在黄峥年轻的时候,遇到高人的指点和提携是多么幸运的一件事情。 2006年段永平拍下了和巴菲特一起吃午餐的机会,他带上了黄峥。这次午餐也为黄峥日后的创业奠定了很好的基础。 加入谷歌2004年,黄峥硕士毕业之后,就来到了微软公司,在这里他的能力得到了进一步的提升,同时他还拿到谷歌的offer,这时的他放弃了微软的高薪,选择了谷歌。 他认为谷歌是一个很有潜力的公司,虽然此时的谷歌仅仅只是成立5年的创业公司,但正是由于它的年轻,才有更大的升职空间。 不出黄峥所料的,入职不到半年,谷歌就上市了,他的工资一下子涨了很多。也让黄峥挣到了人生的第一桶金。 2007年,黄峥已经是谷歌资深工程师,但是此时的他并不想继续为他人打工,他想要创业,于是他把手里的期权全部套现,然后选择辞职回到了中国。 成立欧酷网回国后的黄铮,来到了北京的中关村,去柜台卖手机。但他并不是想要通过卖手机来挣钱,而是想寻找机会做一个电商网站,了解手机的销售渠道。 很快,黄峥成立了欧酷网,并且得到了段永平的大力支持,把步步高产品放在欧酷网上卖,黄峥也通过自己的努力,欧酷网成了手机和电子教育品类排名前三的电商网站。 但是此时的黄峥并不满意这个成绩,在那个时代,除了电商网站排在首位的淘宝,还有刚刚上市的京东。 黄峥认为即使自己再怎么努力,也干不过淘宝和京东。于是他把欧酷网卖给了自己前谷歌同事。 其乐2009年,黄峥又成立了一家新的公司名叫其乐,主要是电商代运营业务。其乐在黄峥的努力发展迅速,不过三年的时间就发展成淘宝的金牌淘拍档。 有梦想的人不会仅仅满足眼前的风景,2013年,黄峥又成立了一家新的公司,叫“寻梦”,主要做游戏业务。 但是此时的黄峥在商场上拼搏,身体上也出现了一点小状况,于是决定回家,这一便是半年的时间。 在这半年里,黄峥思考接下来的路应该怎么走,怎样才能快速实现财富的增长?在期间,黄峥每天都会从手机和网站上去发现一些新的资讯,了解当前人们的消费取向以及消费渠道。 他很快就嗅到了市场的风向,廉价的电商平台将来一定是风口。 拼多多上线2015年,黄峥回到了公司,开始做一个新的项目,利用微信的社交关系做拼团,取名“拼好货”。通过社群把信息发送出去,然后等凑齐客户就开团,拼好货团队再去采购水果发货。 很快人们就被这样廉价的水果所吸引,客户也就越来越多。但是在这个过程中,随着客户的增加,问题也随之产生了。 订单量增加,货品不能及时发出,这是很大一个问题,黄峥认为单一的销售渠道是,要增加后台运转能力建设。 于是他亲自监督后台,就这样,拼多多正式上线。拼多多上线后,在没有广告宣传的情况下,仅仅依靠微信进行推广,上线不到一年的时间就到达了收益10个亿,硬是在淘宝和京东之间创出了一条路,成为电商的行业巨头。 2018年,成立不足三年的拼多多正式在美国资本市场发行,当时的市值就达到了240亿美元,成为了创富神话。 上市后的拼多多每年的市值不停地在上涨,黄峥的身价也随之不停地上涨,成为中国电商巨头,把淘宝和京东远远甩在后面。 辞去董事长职位本以为黄峥会继续创造自己的神话财富,他却像他的恩师段永平一样,选择了隐退。辞去了拼多多董事长的职位,并且捐出1000亿美元。 他选择了自己小时候的梦想,成为一名科学家,用他的话说:我并没有停止我的脚步,我只是想摸一摸10年后路上的石头。 并且捐出1亿美元给母校,希望用这笔费用向生物医疗,农业食品方面做研究经费。 他想如果有一天成功了,那就是功成名就,如果有一天没有成功,能够成为科学家的助理,也是一种骄傲,也就实现了自己小时候的梦想,一举两得何乐不为。 黄峥的成功,除了天生的聪慧之外,还有他坚持做正确的事情,随时把握住市场的方向,不打无准备之战。而这些成功的经验值得我们每一人去学习和借鉴。