Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

用初心守护她健康,以专业缔造私密帝国 专访天润医疗集团创始人、董事长罗冠捷

从二手车里的梦,到中国私密医疗独角兽;一位80后企业家的“倔强”与“温柔” 引言:一场关于生命与尊严的创业 在波澜壮阔的中国医疗健康产业图景中,有一个领域长期处于沉默与隐秘之中,却又与亿万女性的生命质量与尊严息息相关——那就是女性私密健康。 一位来自江西井冈山的“80后”企业家,凭借其近乎偏执的信念与深切的共情,毅然闯入这片荒芜之地,用十余年时间,开创了中国首家女性私密医疗专科连锁品牌(添润医疗 TIRAIN),并将其打造为行业瞩目的“独角兽”。他,就是天润医疗管理集团有限公司董事长——罗冠捷。 他的故事,并非一个循规蹈矩的商业成功叙事,而是一部混合了个人痛楚、家国情怀、技术尊严与生命希望的拓荒史诗。从井冈山脚下田埂间的不服输少年,到睡在二手现代车里辗转谋生的深漂创业者,再到执掌拥有超2000名员工、全国17家分院的医疗集团掌舵人,罗冠捷的人生轨迹,本身就诠释了 「于无人处踏新路,于艰深处点明灯」 的开拓者信念。 一、 根植于苦难的“倔强”:从井冈山到深圳的突围 童年家庭条件的艰苦,让他从劳动中早早明白了生活的意义,也韧性生长出一股不服输的倔劲。 从南昌大学电子信息工程专业毕业后,他在一家台资500强企业担任PE工程师。但很快他发现,“人生不能就这样一眼望到头”。2007年,他毅然辞职,投身创业大潮,却在广州广交会电子商务平台的项目中,撞上了2008年的金融危机,首次创业宣告失败。 2011年成为转折点。他与妻子带着5000元钱,在南山租下一间10平米的办公室。一辆二手现代车,既是交通工具,也是他们的“移动办公室”和临时住所。 所有的伟大,可能都始于一个微不足道的开始。 二、 源自“挚爱之痛”的转型:锚定私密医疗 创业初期,天润主要从事美业代理业务,凭借强大的地推和运营能力,年产值很快做同行前列,团队规模迅速扩大。然而,就在业务看似顺风顺水之时,一场深刻的家庭危机,让罗冠捷对企业的使命进行了彻底的重塑。 这一切,源于妻子孟薇女士的一次痛苦经历。“我们刚在一起时,因为经济条件不好,意外怀孕后选择了人流。”罗冠捷的声音低沉下来,那段记忆显然至今仍令他心痛不已。“不幸的是,手术没有做干净,留下了后遗症,导致孟薇女士落下了严重的慢性盆腔炎。” 当后来经济条件好转,他们满怀希望地准备迎接新生命时,命运却给了他们更沉重的打击。两次宫外孕,两次紧急手术,孟薇女士的两侧输卵管都被切除,自然受孕的可能性被彻底剥夺。“我记得当医生让我在手术同意书上签字的那一刻,我的心都碎了。”作为丈夫的无助与心痛,转化为了一个企业家最坚定的决心。 随后是长达三年、五次试管婴儿的历程。“那是一场对身心极致的煎熬。”功夫不负有心人,2017年,第五次试管终于成功,他们迎来了第一个孩子。但这段经历像一把刻刀,深深塑造了罗冠捷的商业哲学和人生选择。 他深刻地意识到:“女性很多亚健康问题、炎症,如果能在前期进行有效的调理和干预,是完全可以避免后续严重的病理病变的。但在当时,全中国都没有人专门做私密专科,只有等到出了问题,才去公立医院的妇科治疗,往往为时已晚。” 这个念头在他心中愈发清晰、坚定:必须改变这一切! 2017年底,在绝大多数人还不理解甚至误解“私密医疗”的时候,罗冠捷做出了一个让所有同行瞠目的决定:毅然斩断年产值高额的代理业务,将所有资源和精力ALL IN在当时几乎一片空白、前景未卜的“私密医疗”领域。 天润医疗在前海成立了中国第一家专科私密医疗机构——“添润医疗”。 三、 技术突围的尊严之战:从“百万学费”到“全球领先” 创业维艰,拓荒者尤甚。在国内无先例可循的情况下,罗冠捷将目光投向了海外。2018年,他带着公司高管和医生团队远赴日本,拜访当地最大的连锁医疗机构之一的湘南医院。 “我们抱着学习的心态而去,但现实给了我们一盆冷水。”日方的态度冷淡而戒备,“他们不愿意将技术让我们学到,生怕我们学了去。”罗冠捷提出邀请对方专家来中国教学,对方的答复是:“可以,100万一天。”他们起初以为是日元,对方明确是人民币。“这本质上是一种拒绝,他们不相信中国人能掌握这项技术,也不愿意教。” 这次“碰壁”没有击垮罗冠捷,反而点燃了他心中更强的斗志。“我当时就发了一个愿:越是封锁,越是看不起,我们越是要把中国的私密医疗干好,干到世界领先!” 这场最初的“出海取经”虽以失败告终,却成为了天润技术自强之路最强大的催化剂。它让天润人彻底放弃了“等靠要”的幻想,坚定了全面自主创新的决心。 而历史的转折点发生在2023年。当罗冠捷再次带队前往韩国和日本进行学术交流时,情况发生了戏剧性的逆转。在交流中,天润团队发现,“在某些技术、某些医疗耗材上,我们已经实现了领先。”当他们走进东京银座的知名医院进行技术切磋时,曾经的老师不得不对天润带来的技术和成果刮目相看。 罗冠捷对此充满自信与自豪:“某种意义上是我们的专注和庞大的案例数量推动了我们技术的飞速进步。因为他们至今没有像我们这样的专科医疗机构,而我们从第一天起就只专注这一件事。今天,我们可以昂着头告诉中国女性:在中国做私密修复,不必飞去日本、韩国求医。最先进的技术,就在这儿。在私密医美领域,我们已经实现了对日韩的超越!” 这场历时多年的“尊严之战”,最终以中国企业的技术领先而告捷。 四、 私密行业独角兽:构建天润的硬核实力与创新体系 海外学习的挫败,没有让罗冠捷和天润团队陷入沮丧,反而极大地激发了他们自主创新的决心。他清醒地认识到,核心技术是买不来、求不来的,必须将发展的根基牢牢掌握在自己手中。回国后,一场轰轰烈烈的技术攻坚战在天润全面展开。 罗冠捷为天润构建了一套系统性的研发创新体系。他深知人才是创新的第一资源,率先牵头成立了天润的医生集团,汇聚了百余位来自国内顶尖三甲医院、在妇科、整形外科等领域拥有深厚经验的专家医生,形成了强大的临床与科研中坚力量。 与此同时,他投入重金组建了医疗技术研究中心。该中心不仅专注于临床技术的优化与标准化,更与上游顶尖医疗器械厂商(如华熙、爱美客、昊海等)建立了深度战略合作,从材料学、生物工程学等基础领域入手,共同研发新一代的专利器械和产品。 “没有老师,我们就自己成为教科书。”这句话成为了天润技术团队的口号。无数个日夜,他们埋头于钻研、试验和总结。最大的优势来自于中国庞大的市场基数,天润通过旗下连锁机构积累了数十万例的临床案例,这构成了一个无比宝贵的数据库。通过对这些海量案例进行深度分析和循证研究,天润得以不断验证、优化和迭代技术,一步步筑起了坚实的技术壁垒。 截至目前,天润已主导研发了30余项专利技术及器械,覆盖了私密修复、功能康复、年轻化治疗等多个领域。这些专利是技术领先性和安全有效性的坚实证明。 天润不再是一个跟随者,而是通过自主创新,逐步将“中国标准”写入全球私密医疗的版图,实现了从技术依赖到技术自立的伟大跨越。 五、...

领航创新之路:Vinod和Anil Rai Gupta的企业传奇

Vinod Rai Gupta(维诺德·莱·古普塔)和Anil Rai Gupta(阿尼尔·莱·古普塔)是印度企业界的杰出代表之一,以其在制造和科技领域的卓越成就、创新思维和社会影响力备受瞩目。他们是Havells India Limited(哈维尔斯印度有限公司)的创始人和领导者,该公司已经发展成为印度和全球领先的电气设备和消费品制造商之一。他们的故事是印度制造业的传奇,鼓舞着全球的企业家、工程师和创新者,追求卓越并推动科技进步。 Vinod和Anil Rai Gupta的创业之路始于20世纪80年代,当时他们创立了Havells...

杨倩:射击界的新星,中国的骄傲

在2020年东京奥运会上,杨倩凭借其出色的表现捧起了女子10米气步枪的金牌,成为奥运会开幕后为中国赢得的首枚金牌。这位年轻的射击选手用她的冷静、坚定和技巧,为中国射击界写下了新的辉煌章节。那么,这位射击新星是如何崭露头角,又背后隐藏着怎样的故事呢? 杨倩出生于2000年,她的家乡位于中国浙江省。从小,杨倩就对射击产生了浓厚的兴趣。在家人的支持下,她很早就开始了射击训练。与许多顶尖运动员一样,杨倩的成功并非一帆风顺。她不仅要面对严格的训练和竞争,还要应对生活中的种种压力。但是,杨倩从未放弃,她坚信只有通过不懈的努力,才能走到最顶端。 随着训练的深入,杨倩的天赋和努力逐渐得到了回报。她在各种国内和国际射击比赛中都取得了出色的成绩。这些胜利不仅为她积累了丰富的比赛经验,更为她赢得了东京奥运会的参赛资格。 在东京奥运会上,杨倩面对了来自全球的射击高手。在比赛中,她展现了超凡的冷静和坚定。在关键时刻,她凭借稳定的发挥,成功击败了众多对手,为中国队赢得了宝贵的金牌。这枚金牌不仅是对杨倩多年努力的肯定,也是对中国射击队不懈追求的证明。 背后的故事是什么呢?杨倩在赢得金牌后,曾经表示,她之所以能够取得这样的成绩,与她的教练、队友和家人的支持是分不开的。在她的成长过程中,她的教练给予了她很多的指导和鼓励。而她的队友则是她的良师益友,他们共同面对困难,共同追求梦想。而她的家人,则是她的坚强后盾。他们始终相信杨倩,为她提供了最好的支持和鼓励。 杨倩的故事不仅仅是一个关于射击的故事,更是一个关于梦想、努力和坚持的故事。她用自己的经历告诉我们,只要我们有梦想,有决心,不畏困难,就一定可以实现自己的梦想。 杨倩是中国射击界的新星,也是中国的骄傲。她的成功为中国射击界带来了新的希望和动力。同时,她的故事也为广大的青少年提供了宝贵的启示和鼓励。在未来,我们相信,杨倩会继续为中国射击界创造更多的辉煌。

林汉翁:航运业的掌舵者

在马来西亚和全球的航运界,林汉翁Lim Han Weng的名字堪称传奇。他以其在航运业的卓越贡献和敏锐的商业洞察为人们所敬重。不仅仅是在本地,其影响也遍布国际,使得他成为这一行业的杰出代表。 初入航运业 林汉翁的航运事业并非一帆风顺。年轻时,他进入航运行业,开始是在一个小航运公司工作。但凭借其对航运的热情和不懈的努力,林汉翁逐步崭露头角,开始了他的航运事业。 创建航运帝国 凭借着对行业的深入了解和对市场的敏感度,林汉翁逐渐创建了自己的航运公司。他的企业凭借高效的运营,先进的船队和出色的服务在行业中获得了很高的声誉。在他的领导下,公司逐步扩大了业务版图,从马来西亚走向了国际市场。 创新与发展 林汉翁深知在竞争激烈的航运业中,创新是关键。因此,他不断地引入新技术,改进运营流程,确保公司始终保持竞争力。此外,他还通过与其他航运公司的合作,扩大了公司的业务范围和影响力。 对社会的回馈 除了在商业上取得了巨大的成功,林汉翁也非常重视对社会的贡献。他创建了多个慈善基金,支持教育、医疗和其他公益事业。他认为,作为企业家,除了追求利润,更应该对社会承担起一定的责任。 展望未来 面对未来,林汉翁充满了信心。他认为,随着全球化的深入,航运业将面临更多的机会和挑战。而他希望自己的企业能够继续发扬创新和开拓的精神,为马来西亚航运业书写新的辉煌章节。 林汉翁是航运业的真正领袖。他不仅仅是一个成功的企业家,更是一个有远见、有社会责任感的领导者。