奖项申报奖项申报奖项申报奖项申报

Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

Kwoh Leong Keong: 新加坡杰出的计算机科学家与科技领袖

Kwoh Leong Keong教授是新加坡备受尊敬的计算机科学家和科技领袖,以其在计算机科学和信息技术领域的杰出贡献而广受赞誉。他的学术生涯充满了创新和领导力,对新加坡科技产业和高等教育产生了深远的影响。本文将深入探讨Kwoh Leong Keong教授的生平、学术成就以及他在计算机科学领域的重要贡献。 早年生活与教育 Kwoh Leong Keong教授生于新加坡,自幼就表现出对科学和技术的浓厚兴趣。他在一所著名大学攻读计算机科学学士学位,并在研究生阶段选择了计算机科学作为专业。他的早期教育为他未来的科研工作奠定了坚实的基础。 计算机科学研究与突破 Kwoh Leong...

中国商业才子何享健,从小厂到上市集团,打造美的4000亿市值公司!

有一个人,他只有小学学历,却被格力董小姐称为最大的敌人。为帮村民就业,他带着村民仅用5000元办厂,最后造出千亿市值的集团公司,而他个人也成为千亿富豪。 2020年《亚洲人物》中国富豪排行榜,他位列第四位,超过当时的小米雷军、京东刘强东。 但是,他为人却十分低调,很少接受媒体采访,他就是中国家电行业的另一个风云人物,美的集团创始人何享健。他的成功又蕴藏着怎样的智慧呢? 1942年8月,何享健出生在广东顺德。小时候家里很穷,加上那时期国内的物资很匮乏。何享健上学较晚,等他小学毕业也差不多到了能做零工挣钱的年龄了。 为了糊口,何享健什么工作都做过,帮家里务农,做过苦力,也当过工人。就这样,何享健慢慢成长为家里的顶梁柱,还当上了北滘的街道干部。 为村民谋出路,创办塑料生产组1968年,作为街道干部的何享健,主要工作就是解决村民就业问题。为此,他找了很多家工厂也没有找到接收单位。 无奈之下,何享健决定自己组织一个工厂,由街道办给群众创造出一批就业岗位。就这样,何享健便带着23名村民,集资5000元成立了顺德“北滘街办塑料生产组”,主要生产玻璃瓶和塑料瓶。 说起这个成产组,在那个计划经济的年代就属于灰色产业代了。 那时的还没有自主创业的说法,所有的生产销售都是按计划分配的,而何享健带领的生产组就属于计划经济之外,没办法分配到订单。 可这个办法毕竟是何享健想出来的,他要为参与集资的村民负责啊。为了能帮生产组拉到订单,何享健便开始走南闯北的跑市场了。 为了能把产品推销出去,他吃了不少苦头,白天跑业务,因为住不起宾馆,晚上就在车站睡觉;为了能多跑一家企业,他一天就只啃一个馒头,用挤出来的时间多见一个客户。 正是凭借着这股韧性,何享健才能在那个计划经济的时代,勉强维持着生产组的经营,北滘街道的群众也才能一直有工作养家。 到了1975年,北滘街办塑料生产组的资产已经从当初的5000元变成了10万元。因此,何享健也顺势把生产组更名为“顺德县北滘公社塑料金属制品厂”,自己则继续做一把手,担任厂长。 没有哪个人的成功是轻而易举的。何享健为了生产组的经营吃了不少的苦,但也在这个过程中培养了敏锐的市场嗅觉。 他见的客户多了,也能从客户那里了解到国家经济形势的变化,同时感知到市场需求的变化。 1978年12月,国家的经济政策发生了转变,实行改革开放。次年,国务院便决定在深圳、珠海、汕头和厦门四个地方试点特区政策。 那时,我们国家自有生产能力很低,连个螺丝钉都要从国外采购,改革就是为扶持本土生产能力。 何享健虽然没什么文化,但也能懂得国家政策的用意,他更加明白,工厂要想不被淘汰就得顺应大势。 于是,他几经思考后,选择了电风扇作为工厂的转型方向。1980年,何享健将工厂更名为“顺德县美的风扇厂”,开始生产电风扇。 同期市场上还有容声、万家乐等电器品牌,规模也都比美的大。但那时正值国产品牌替换进口品牌的时间点,国内的市场容量很大,而电风扇是家庭必备产品。 美的凭借着过硬的产品质量,一经问世,就受到消费者的哄抢。第一年销售额直接突破300万,第二年就突破了700万。 剔除通货膨胀因素,这个销售额相当于现在的7000万不止。在随后的几年竞争中,何享健又抢占了市场先机,成为了当时风扇行业的龙头。 敢做吃螃蟹的人,试点成功上市其实,何享健的成功还源自于他另一个优点,懂得审时度势!1992年,国务院决定选择少数优质股份公司上市,公开发行股票。 那时,国内家电行业的优秀企业,如小天鹅、容声、万家乐等,比美的规模更大的品牌,都是观望态度。 偏偏何享健主动申请作为股份制产权改革的试点企业。1993年,美的上市成功并募集到12亿的发展资金。顺德县美的风扇厂成为了第一家完成股份制改革的乡镇企业。 按理说,成功上市后,公司应该迎来更好的发展才对。但是,美的公司却恰恰相反,上市后的几年出现了业绩下滑的局面。 何享健也在反思公司的管理哪里出问题了?为此,他还专门请教了一些专业人士,学习了国外家电企业的管理模式。几经探讨之下,何享健决定实施大刀阔斧的改革,招贤纳士为美的引入大量的高学历人才。 1997年,何享健开始参考日本松下公司的事业部制,在内部设立“股东、董事会、经营团队”,采用三权分立模式管理公司。 对于公司的创业元老,何享健也深知他们的文化程度有限,不能更好地融入公司新模式里。 因此,他主动降低了个人权利,并找来元老们交谈,晓之以情,动之以理。最终说服他们退出管理层。 改革之后的美的,业绩得到了明显的提升。2000年左右,国内开始流行职业经理人管理企业的模式,何享健也积极接受新思潮,有意从企业内部发掘职业经理人。 他的深谋远虑并不是在从内部培养职业经理人,而是接下来的一系列操作。 回购股权,实现对公司的绝对控股2001年,何享健就开始积极推动美的的管理层股份回购计划。先是收购了顺德市北窖投资发展有限公司的股权。 此后,他通过关联交易,多次增持公司股份,并利用上市公司资金助力集团其他业务的发展。 最终在美的股改之后,何氏家族拿到美的电器50.17%的股份,实现了对美的电器的绝对控制权。与此同时,何享健也实现了个人财富与公司市值的挂钩。 何享健的睿智不仅体现在他对公司股权的重视,还有他对公司战略布局的前瞻性。 2001年之后,何享健积极完善美的公司的多元化布局,先后收购了日本三洋磁控管工厂,合肥荣事达和广州华凌,春花吸尘器等企业。公司的产业布局也发展到了家电行业的上下游。 在完成了这些产业布局,以及对公司股权的控制之后,何享健选择了退休。2009年,他从公司内部挑选最有实力的人方洪波,担任职业经理人管理公司。 经过几年的试炼后,2012年,何享健正式辞去美的集团董事长的职务,仅做为美的集团控股股东存在。截止到2022年5月,美的集团的公司市值已达3736亿元。 辞职之后,何享健便投身到慈善事业之中,现在是广东省的慈善基金会荣誉主席。可以说,何享健的成功除了努力之外,还离不开他对势态发展的洞察力。 这个社会高学历人才不少,但像何享健这样能对自己有清醒的认知,并能及时顺应时代发展的又有多少呢!

Sanghamitra Bandyopadhyay:计算机科学的女性领袖

Sanghamitra Bandyopadhyay(桑哈米特拉·班迪奥帕迪亚)是一位备受尊敬的计算机科学家,她的卓越成就和领导地位使她成为了国际科学界的杰出代表。她在计算机科学和生物信息学领域的杰出贡献以及对女性在科学领域的鼓励使她成为一个备受关注的女性科学家。本文将深入探讨Sanghamitra Bandyopadhyay的生平、学术成就以及她在推动科学研究和性别平等方面的重要作用。 早年生活与教育 Sanghamitra Bandyopadhyay出生在印度,自幼展现出对科学的浓厚兴趣。她在印度一所著名大学攻读计算机科学学士学位,并在研究生阶段选择了计算机科学作为专业。她的早期教育为她未来的科研工作奠定了坚实的基础。 生物信息学研究与突破 Sanghamitra Bandyopadhyay教授在生物信息学领域取得了多项重要突破。她的研究涵盖了基因组学、蛋白质组学和生物数据分析等多个方面。她开发了创新的算法和工具,用于解决生物信息学中的复杂问题,例如基因识别、蛋白质相互作用预测和疾病基因的鉴定。她的工作在生物医学领域产生了深远的影响,有助于理解和治疗许多疾病。 女性科学家的榜样 作为一名杰出的女性科学家,Sanghamitra Bandyopadhyay一直致力于鼓励和培养女性在科学领域的发展。她不仅以自己的学术成就为女性科学家树立了榜样,还积极参与性别平等和科学教育方面的倡导工作。她的工作鼓励了更多的女性加入科学研究,并为她们提供了机会和支持。 教育与科研传承 Sanghamitra Bandyopadhyay教授一直热衷于科学教育和知识传承。她担任大学教职,培养了许多年轻的科学家和研究人员,传递自己在生物信息学和计算机科学领域的知识和实践经验。她鼓励年轻一代积极参与科学研究,为培养更多的科学领袖和专业人才做出了重要贡献。 科技政策与国际合作 Sanghamitra Bandyopadhyay教授积极参与印度的科技政策制定和国际科研合作。她在政府和科技部门担任重要职务,为印度的科技创新和研究提供了专业建议。她的国际科研合作为印度在生物信息学和计算机科学领域的发展提供了重要支持,促进了全球科学界的交流与合作。 奖项与荣誉 Sanghamitra...

糖业王子到商业帝国:郭鹤年的成功之路

在亚洲,当谈论到商业巨擘时,郭鹤年的名字必然会被提及。他不仅是马来西亚的首富,更是一个真正的商业传奇。从糖业起家到建立多元化的商业帝国,郭鹤年的一生充满了智慧、决断和创新。 郭鹤年出生在马来西亚的福建族家庭。他年轻时便展现出了非凡的商业才华和眼光。在他的领导下,家族的生意逐渐从糖业扩展到了酒店、房地产、航运、农业和金融等多个领域。 在郭鹤年的经营策略下,家族的糖业迅速崛起,他因此被尊称为“糖业王子”。但他并没有止步于此,郭鹤年意识到多元化经营的重要性,于是开始涉足其他领域。他成功地将业务扩展到全球,与此同时,郭鹤年也凭借着其卓越的商业智慧和战略眼光,使得他的企业在每一个领域都取得了巨大的成功。 郭鹤年的商业哲学一直是:“诚信为本,务实创新”。他坚信,只有真诚对待合作伙伴和客户,企业才能够取得长久的成功。在他的领导下,郭家族的企业一直秉承着这一原则,与合作伙伴建立了长久的互信关系。 除了商业成功,郭鹤年还是一个深受尊重的慈善家。他始终认为,财富不仅是个人的,更应该用来回馈社会。因此,他积极参与各种慈善事业,捐款助学,支持医疗和科研,为社会的进步和发展做出了巨大的贡献。 尽管郭鹤年已经年逾古稀,但他依然对商业充满了热情。在他的引导下,家族的商业帝国不断壮大,新的业务和机会仍然在不断地涌现。 对于年轻的创业者和商业领袖,郭鹤年的人生和事业无疑提供了宝贵的教训和启示。他的成功告诉我们:商业不仅仅是追求利润,更是对社会、对合作伙伴的责任和承诺。有了这样的信念和决心,成功自然会如影随形。 郭鹤年是亚洲商业界的杰出代表,他的人生和贡献都值得我们深入研究和借鉴。