Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

Amalgamations family:印度企业传奇的缔造者”

Amalgamations family是印度商业界的杰出代表,以其在多个领域的卓越成就和领导力而闻名于世。他们的生平和职业生涯充满了创业精神、创新和社会责任感。本文将深入探讨他们的生平、企业帝国的建立以及他们在印度商业界的杰出影响力。 Amalgamations family的起源可以追溯到印度南部,他们的商业历史始于20世纪初。家族的主要企业包括Amalgamations Group(融合集团)旗下的多个公司,涵盖了汽车零部件、工程、农业机械、金融和教育等多个领域。他们的公司在印度和国际市场上都享有盛誉,为全球经济做出了杰出贡献。 家族的一大亮点是Eicher Motors Limited(艾奇尔摩托有限公司),该公司是印度最大的商用车和摩托车制造商之一。他们的产品如Royal Enfield(皇家恩菲尔德)摩托车在国际市场上备受欢迎,成为了印度摩托车制造业的领军企业。 除了商业成功,融合家族还积极参与了社会福祉和慈善活动。他们支持教育、医疗保健和社区发展项目,为数千人提供了改善生活质量的机会。他们的慈善工作在印度社会中产生了深远的影响,推动了社会福祉的提升。 家族的领导力哲学强调了创业精神、社会责任感和多元化经营。他们坚信企业成功应伴随着社会的进步,同时也为未来的发展保留了坚实的基础。他们的坚韧、决心和对印度经济增长的热爱鼓舞着全球的企业家、领袖和社会改革者,推动商业界和社会领域的进步。 融合家族是印度商业界的缔造者,他们的卓越成就、领导力和社会责任感使他们成为该领域的杰出人物。通过家族企业的成功、慈善工作和社会责任项目,他们为印度商业界的发展和社会福祉做出了杰出贡献,同时也激励着全球的企业家、领袖和社会改革者,积极推动多个领域的进步。

Tiong Hiew King及家族:从林业大亨到多元化企业的领导者

在东南亚的商界历史中,Tiong Hiew King(张修庆)及其家族的名字犹如一颗璀璨的星星。从最初的木材业到后来的多元化经营,张家在商界的影响力历久弥坚,成为马来西亚商业史上的一个传奇。 初入商界:林业之路 张修庆生于一个普通家庭,但他的商业才华却早早显现。20世纪70年代,他进入了木材行业,很快在这个领域取得了很大的成功。凭借其敏锐的商业嗅觉和坚韧的性格,他建立了Rimbunan Hijau集团,迅速成为东南亚最大的木材出口商之一。 家族企业:传承与发展 在张修庆的领导下,Rimbunan Hijau集团不断扩张业务范围。但与此同时,他也非常注重家族的传承,将经营之道传给了自己的子女。在家族的共同努力下,集团不仅在木材业取得了卓越的成绩,还成功进入了其他多个领域,如传媒、石油、地产等。 多元化经营:应对挑战 随着全球化的发展和环保意识的提高,木材业面临了前所未有的挑战。但张修庆及其家族并没有被困境所困扰,而是选择了多元化的发展路径。他们进入了新的行业,通过创新和改革,确保了集团的稳健发展。 社会责任:回馈社会 除了商业上的成功,张修庆及其家族还非常注重企业的社会责任。他们积极参与各种公益活动,捐资助学,支持医疗和其他慈善事业。张家相信,企业的成长不仅是为了追求利润,更重要的是为社会做出贡献。 展望未来:继续前行 尽管已经取得了巨大的成功,但张家并没有停下脚步。他们依然怀揣着梦想,希望将Rimbunan Hijau集团推向更高的峰巅。对于他们来说,挑战和机遇总是并存的,只要有决心和信念,就一定能够走向更广阔的未来。 总之,张修庆及其家族的故事,是一个关于梦想、坚持和责任的传奇。他们用自己的经历告诉我们,只要付出努力,坚守初心,就一定能够实现自己的人生目标。

维恩卡塔·纳拉亚纳·帕德玛纳班:计算机科学巨匠与科技创新领袖

维恩卡塔·纳拉亚纳·帕德玛纳班教授是一位备受尊敬的计算机科学家,以其在计算机科学和信息技术领域的杰出贡献而广受赞誉。他的学术生涯充满了创新和领导力,对科技创新和高等教育产生了深远的影响。本文将深入探讨维恩卡塔·纳拉亚纳·帕德玛纳班教授的生平、学术成就以及他在计算机科学领域的重要贡献。 早年生活与教育 维恩卡塔·纳拉亚纳·帕德玛纳班教授生于印度,自幼就表现出对科学和技术的浓厚兴趣。他在一所著名大学攻读计算机科学学士学位,并在研究生阶段选择了计算机科学作为专业。他的早期教育为他未来的科研工作奠定了坚实的基础。 计算机科学研究与突破 维恩卡塔·纳拉亚纳·帕德玛纳班教授在计算机科学领域取得了多项重要突破。他的研究涵盖了分布式计算、计算机网络、云计算和信息安全等多个方面。他领导的研究团队在分布式系统和云计算领域取得了显著成果,开发了创新的技术和解决方案,为信息技术领域的发展提供了新的思路和方法。他的工作不仅提高了印度在计算机科学领域的国际地位,还为科技创新和科学研究提供了重要支持。 高等教育与科研传承 维恩卡塔·纳拉亚纳·帕德玛纳班教授一直热衷于高等教育和科研传承。他担任大学教职,培养了许多年轻的科学家和工程师,传递自己的计算机科学知识和研究经验。他鼓励年轻一代积极参与科技创新和计算机科学研究,为培养更多的科技领袖和专业人才做出了重要贡献。 科技政策与创新 维恩卡塔·纳拉亚纳·帕德玛纳班教授积极参与印度的科技政策制定和科技创新工作。他在政府和科技部门担任重要职务,为印度的科技产业和创新生态系统提供了专业建议。他的领导力和创新思维有助于推动印度在科技领域的发展,促进科技创新和科学研究合作。 奖项与荣誉 维恩卡塔·纳拉亚纳·帕德玛纳班教授的卓越贡献赢得了多项国际性科学奖项和荣誉。他被授予了多个著名奖项,以表彰他在计算机科学领域的杰出成就。这些奖项和荣誉证明了他在科学界的卓越地位和影响力,也为他的科研工作提供了高度的认可。 维恩卡塔·纳拉亚纳·帕德玛纳班教授是印度计算机科学领域的杰出领袖,他通过自己的科研工作和领导力不断推动着科技的进展。他的研究在分布式计算和云计算领域取得了突破性进展,为信息技术领域的发展提供了新的方法和工具。他的科研传承工作为培养了更多的科技领袖和计算机科学家,推动了印度在科技领域的进步。维恩卡塔·纳拉亚纳·帕德玛纳班教授的社会责任感和科技创新精神为印度的科技产业和高等教育注入了新的活力,有助于推动科技对社会和经济的发展。他的故事是科技研究和科技政策的典范,激励着年轻一代的科技创新者,追求卓越,不断推动科技的进步。

张海锋:推动全球IT解决方案的中国先行者

文/黄彬  引言在当今全球化的商业环境中,软件和信息技术行业正在经历前所未有的迅猛发展。无论是人工智能、大数据、云计算,还是物联网、区块链等新兴技术,均在不断重塑着企业的运营模式与商业生态。作为社会数字化转型的重要推动力量,信息技术行业不仅仅提供了工具与解决方案,更是企业提升效率、优化决策和创造竞争优势的关键。在中国,随着国家大力推动新基建和数字经济的加速发展,软件行业的需求呈现爆发式增长,市场竞争日益激烈。在这个时代背景下,能够深入理解用户需求、掌握核心技术并具有创新能力的行业领军人物愈发重要。而张海锋,作为中国计算机行业的佼佼者,正是这样一位卓越的领导者,他通过多年的努力与坚持,在技术服务领域开拓出了一片广阔天地。 卓越攀登:张海锋的计算机行业之路 张海锋本科毕业于电子科技大学电子材料与元器件专业,他早期的教育背景为其打下了坚实的理论基础。毕业后,张海锋进入了华为技术有限公司,随后又加入了微软中国有限公司。凭借在这些世界顶尖科技公司的工作经验,他迅速积累了丰富的实战经验,并深入了解了全球计算机技术的发展趋势。 随着时间的推移,张海锋对计算机行业的理解逐步深化,他意识到技术服务领域存在着巨大的市场潜力和发展机遇。在这种强烈的创业驱动下,他决定成立属于自己的公司,专注于为各行业客户提供高质量的计算机技术服务。成都飞逸计算机服务有限公司应运而生。  创新领航:张海锋创立成都飞逸计算机服务有限公司 2008年,张海锋凭借他对市场敏锐的洞察力和扎实的技术背景,创立了成都飞逸计算机服务有限公司。他并没有停留在行业惯常的技术框架内,而是迅速准确地定位了公司的核心业务方向。他通过深入研究企业需求与市场趋势,主导了公司在业务流程管理(BPM)、微软SharePoint平台开发以及商业智能(BI)解决方案方面的核心技术布局。 特别值得一提的是,张海锋领导下的飞逸公司并不仅仅是单纯的技术执行者。他凭借个人技术积累,主动开拓与美国K2公司、西南地区微软SharePoint平台、以及全球数据仓库领导者Teradata的合作关系。这一系列技术联盟和个人努力,迅速奠定了飞逸公司在业内的技术优势地位。 在张海锋的直接推动下,公司为华为数字技术(成都)有限公司、成都伊藤洋华堂有限公司、芯源系统(MPS)有限公司、莫仕连接器(Molex)有限公司、康明斯重庆分公司、易初明通集团等世界级企业提供IT解决方案。他不仅通过高效的项目管理和卓越的技术能力确保了项目成功交付,还建立了深厚的客户信任,成为这些企业的首选IT合作伙伴。 合作典范:张海锋与成都伊藤洋华堂有限公司的经典案例 张海锋职业生涯中最具代表性的项目之一便是与成都伊藤洋华堂有限公司的合作。这一项目不仅展示了张海锋在技术层面的专业性,也凸显了他在业务理解和客户需求分析上的深刻洞察力。 成都伊藤洋华堂有限公司面临着系统架构无法支撑其快速发展的业务挑战,特别是在OA系统、财务系统与人事系统之间缺乏有效整合,造成了流程瓶颈和业务低效。在深入分析企业的痛点后,张海锋决定实施美国K2公司的BPM平台,旨在实现跨系统的业务整合与自动化。 在整个项目过程中,张海锋不仅提供了创新性的解决方案,还成功解决了高管审批流程的滞后问题,特别是为频繁出差的日籍高管设计了移动办公解决方案。这一解决方案使得审批速度显著提升,同时也增强了业务流程的透明度和协调性。 (张海锋获奖后与伊藤洋华堂中国总代表三枝富博合影) (张海锋获得“伊藤荣誉奖”照片) 这一项目的成功不仅极大提升了伊藤洋华堂的运营效率,也为行业内树立了典范。张海锋因其杰出的领导和技术贡献,获得了“伊藤荣誉奖”,这一奖项不仅是对他个人成就的认可,也展示了他在行业中的深远影响力。 行业标杆:张海锋推动企业数字化转型及行业变革 张海锋不仅仅是成都飞逸的领导者,更是中国计算机行业技术革新的推动者。他不仅专注于技术的深耕,还强调技术服务对企业实际业务的推动力。在每一个项目中,他都能够通过精准的需求分析,帮助企业实现业务的数字化转型。 例如,在BPM领域,张海锋带领的团队是美国K2公司在西南地区的独家代理及服务商。他帮助众多企业优化业务流程,成功实施了多项自动化解决方案。在SharePoint平台方面,张海锋主导的项目多达20个,推动了西部地区企业的信息化进程。在BI领域,他通过与Teradata的合作,为四川长虹等企业提供了高度智能化的商业决策支持系统。 在每一个项目中,张海锋都始终坚持以用户需求为核心,量身定制解决方案。这不仅为企业带来了显著的效益提升,也为整个行业提供了宝贵的经验和参考。张海锋的工作方法,已经成为技术服务领域高效、精准的典范。 通过这些成功的项目,张海锋不仅帮助企业提升了市场竞争力,还为行业树立了创新标杆。他的成就不只是技术上的突破,更是对整个行业发展模式的深刻影响。 创新驱动:张海锋对技术价值与行业需求的深刻洞见 张海锋在谈到自己的职业道路时曾表示:“我始终坚信,技术的价值不仅在于其本身的创新性,更重要的是如何通过技术为用户解决实际问题。我创办飞逸计算机服务有限公司的初衷就是希望能够帮助企业在信息化浪潮中脱颖而出,推动业务流程的数字化转型。” 他还强调:“在信息技术行业,客户的需求是多样化的,而我们的任务就是在多变的市场环境中,快速响应客户的需求,并提供最适合的技术方案。只有持续不断地创新和优化,才能在激烈的市场竞争中立于不败之地。” 未来展望:张海锋论计算机行业的挑战与机遇 张海锋认为,未来的计算机行业将面临更多的挑战与机遇。随着人工智能、云计算、5G网络等技术的不断成熟与普及,企业对数字化转型的需求将进一步加速,这将给技术服务商带来巨大的市场机会。然而,随着技术的快速迭代和更新,行业也将面临新的挑战。如何应对技术变革、如何不断提升服务质量并保持技术领先,将是未来行业从业者必须面对的重要课题。 他展望道:“在未来,计算机技术将更加深入地融入各行各业。作为一名技术服务提供商,我始终相信,只有不断学习和创新,才能在这个瞬息万变的行业中走得更远。同时,我们也应当积极推动行业的健康发展,共同构建一个更加开放、互联的数字世界。” 结语 从最初的技术开发人员,到如今的行业领军人物,张海锋凭借卓越的洞察力、丰富的经验以及对技术服务的热忱,带领成都飞逸计算机服务有限公司走向了行业的巅峰。他的成功不仅是个人努力的结果,更是对中国计算机技术服务行业的深刻贡献。未来,随着数字化浪潮的进一步深化,张海锋将继续引领飞逸,迈向更加辉煌的未来,为更多的企业提供领先的IT解决方案。