Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

企业领袖与发展倡导者:Tomas Alcantara的杰出轨迹

在菲律宾的商界,Tomas Alcantara是一个响亮的名字。作为Alsons Group的主席,他领导了一家多产业的集团公司,涉及能源、房地产、自然资源和农业。但除了他的企业成就,Tomas Alcantara更被誉为一个致力于经济和社会发展的倡导者。 Tomas Alcantara的商业之路并非一帆风顺。他的成长过程中,充满了努力、坚持和创新。从他的早期职业生涯,我们就可以看到他对商业的敏锐洞察和无畏精神。在加入Alsons Group之前,他在多家公司和政府部门担任了关键职位,积累了宝贵的经验。 作为Alsons Group的领导者,Tomas Alcantara注重企业的长远发展和社会责任。他认为,企业的成功不仅仅是盈利,更是为社会和经济做出贡献。因此,他强调企业的社会责任,确保公司的发展与社会的利益相结合。 在能源领域,Alsons Group是菲律宾的先锋。在Tomas...

基兰·马祖姆达·肖:生命科学领域的女性巨匠

基兰·马祖姆达·肖(Kiran Mazumdar-Shaw)是印度生命科学领域的杰出代表,以其在生物技术和制药行业的卓越成就和领导力而广受赞誉。她的生平和职业生涯充满了坚韧、创新和社会责任感。本文将深入探讨她的生平、生命科学领域的突破性成就以及她在印度和全球的杰出影响力。 基兰·马祖姆达·肖的职业生涯始于20世纪70年代,当时她在澳大利亚获得了生物化学学士学位,并获得了英国的药剂学硕士学位。她回到印度后,于1978年创办了Biocon Limited(拜奥康有限公司),这是一家专注于生物技术和制药领域的公司。她的使命是为改善人类生活质量提供高质量的生物医药产品,如生物类似药物和生物治疗药物。 其中,肖女士最著名的成就之一是她在生物类似药物领域的突破性研究。她的公司Biocon成为了印度领先的生物类似药物制造商之一,为世界各地的患者提供了经济实惠的替代药物。她的领导力和创新精神使她成为全球制药行业的杰出人物。 除了在制药领域的卓越成就,肖女士还是科技创新的倡导者。她支持和鼓励了许多科技创新项目,包括基因工程和生物技术研究。她的公司Biocon也在药物研发和临床试验方面取得了重要突破,为医学科学的发展做出了贡献。 肖女士同时也是社会责任和慈善事业的积极倡导者。她的公司Biocon开展了多个社会项目,改善了印度社会的各个方面,如医疗保健、教育和社区发展。她坚信企业家精神和社会责任的结合是成功的关键,她的公司始终以可持续发展和社会责任为导向。 肖女士的领导力哲学强调了坚韧、创新和社会责任的重要性。她坚信领导力是为人类社会做出积极贡献的关键,她以自己的成就和影响力激励着其他女性企业家、领袖和梦想追求者,展示了女性在科学和商业领域的卓越潜力。 基兰·马祖姆达·肖是印度和全球生命科学领域的杰出代表,她的卓越成就、创新业务和社会责任感使她成为印度商业界的杰出人物。通过生物类似药物、科技创新和社会项目,她为印度工业的发展和社会福祉做出了杰出贡献,同时也激励着其他企业家、领袖和梦想追求者,引领生命科学领域的未来。

李景海:中国能源与环境科学领域的杰出专家

李景海博士是中国能源与环境科学领域备受尊敬的专家,以其在可再生能源、环境保护和可持续发展方面的杰出贡献而广受赞誉。他的学术生涯充满了创新和领导力,对中国能源与环境领域的研究和政策制定产生了深远的影响。本文将深入探讨李景海博士的生平、学术成就以及他在能源与环境科学领域的重要贡献。 早年生活与教育 李景海博士生于中国,自幼就表现出对环境和能源问题的浓厚兴趣。他在一所著名大学攻读环境工程学士学位,并在研究生阶段选择了环境科学与工程作为专业。他的早期教育为他的未来科研之路打下了坚实的基础。 能源与环境科学研究 李景海博士因其在能源与环境科学研究领域的卓越贡献而广受赞誉。他的研究涉及可再生能源、环境保护、气候变化和可持续发展等关键领域。他在太阳能、风能、生物能源等可再生能源方面的研究取得了重要突破,为中国能源结构的转型和减少碳排放提供了关键支持。此外,他的环境保护研究也为解决大气污染、水资源管理和生态保护等问题提供了科学依据。 教育与科研传承 李景海博士一直热衷于教育工作和科研传承。他担任大学教职,培养了许多年轻的环境科学家和工程师,传递自己的学术知识和研究经验。他鼓励年轻一代积极参与环境科学研究,为推动中国能源与环境科学领域的发展培养了更多的杰出人才。 奖项与荣誉 李景海博士的卓越贡献赢得了多项国际性能源与环境科学奖项和荣誉。他被授予了多个著名奖项,以表彰他在可再生能源、环境保护和可持续发展领域的杰出成就。这些奖项和荣誉证明了他在科学技术领域的卓越地位和影响力,也为他的科研工作提供了高度的认可。 政策制定与可持续发展 李景海博士积极参与中国能源与环境政策制定,为制定可持续发展政策和战略提供了专业建议。他的科研成果为政府和企业提供了重要的决策依据,有助于推动中国能源生产和消费的绿色转型。 能源与环境领域的领袖 李景海博士被认为是中国能源与环境科学领域的杰出领袖之一,他的研究和政策工作为中国可持续发展和环境保护事业做出了杰出贡献。他的成就和影响力激励着年轻一代的环境科学家和工程师,鼓励他们追求卓越,不断推动中国在能源与环境领域的发展。 李景海博士是中国能源与环境科学领域的杰出专家,他通过自己的科研工作和领导力不断推动着可再生能源、环境保护和可持续发展领域的进展。他的研究在能源与环境科学领域取得了突破性进展,为中国的绿色能源转型和环境保护提供了新的思路和方法,同时他的科研传承工作为培养了更多的环境科学家和工程师。他的社会责任感和科技创新精神为中国的可持续发展注入了新的活力,有助于推动中国在能源与环境领域的发展,以应对全球环境挑战。李景海博士的故事是科技创新和可持续发展的典范,激励着年轻一代的科研人员,追求卓越,不断推动科学的进步。

癌症诊疗专家高宇亮:重塑肿瘤治疗的未来

在今天的医疗领域,数字技术的飞速进展和海量数据的产生已经彻底改变了行业的运作方式。尤其是在癌症诊疗领域,对数据的分析和应用已经成为判断病情、制定治疗方案和预测疾病进展的重要工具。在这样的背景下,四川省肿瘤医院的癌症诊疗专家、中国管理科学研究院经济发展研究中心的客座教授高宇亮,为我们带来了一个前所未有的创新——“癌症数据采集系统”。 近年来,随着癌症患者数量的持续上升,医疗行业面临着巨大的压力。不仅是因为治疗资源和设备的需求增加,更重要的是面对如此大规模的数据,如何进行高效处理和准确分析,并据此做出科学的治疗决策,已成为行业亟待解决的问题。长久以来,医生们都依赖于自己的经验和传统的医学理论来判断和决策,但随着数据技术的进步,这种模式已经变得不再适用。 癌症数据采集系统 高宇亮教授深谙此一挑战,经过长时间的研究和实践,成功推出了"癌症数据采集系统"。这一系统的独特之处在于,它不仅可以实时采集、存储和管理患者的医疗数据,还能够对这些数据进行深入分析,从而为医生提供关于疾病发展、治疗效果、预后等方面的关键信息。而这一创新背后的核心技术就是数据分析。通过采用先进的机器学习和人工智能技术,高宇亮教授的系统能够自动识别患者数据中的模式和趋势,进而为医生提供更加准确、更具针对性的治疗建议。这不仅大大提高了治疗的成功率,还为患者带来了更好的治疗体验和更高的生存率。 此外,“癌症数据采集系统”还有一个独到之处,那就是其与其他医疗数据系统的集成能力。通过与各大医疗机构和研究机构的数据系统进行连接,高宇亮教授的系统可以实现数据的无缝共享和互通,从而进一步提高医疗服务的效率和质量。"癌症数据采集系统"的成功开发并不是一个人的功劳,它得益于与各大医疗机构和研究机构的紧密合作。高宇亮教授作为中国管理科学研究院经济发展研究中心的客座教授,凭借其在经济和管理领域的深厚积累,为系统的研发和推广提供了有力的支持。 据悉,“癌症数据采集系统”极具创新性和社会影响力,获得了“2023癌症诊疗科技创新优秀发明成果”奖,高宇亮本人也因此获得“2023医疗行业科技创新先锋人物”称号。然而,高宇亮教授在医疗领域的贡献远不止于此。他还拥有两项极具创新性的专利:“一种肿瘤患者膳食能量摄入优化方法”和“一种宫颈癌组织间插植针重建系统”。这两项专利同样为肿瘤治疗带来了新的可能性,显示出高宇亮教授深厚的学术背景和对医疗行业的深度研究。正是这样一位站在创新前沿的医学家,为肿瘤治疗带来了全新的视角和方法。 一种肿瘤患者膳食能量摄入优化方法 我们都知道,癌症患者在接受治疗的过程中,身体对于营养的需求是特殊且高度的。很多时候,由于肿瘤或治疗方法的影响,患者会出现消瘦、营养不良等情况,这无疑会影响到治疗效果和身体恢复。 高宇亮教授提出的这一优化方法,从食物的摄入到消化吸收,为肿瘤患者制定了一套完整、科学的膳食方案。它基于每位患者的具体状况,如肿瘤类型、治疗方式、身体状况等,为其量身定制,确保其在治疗过程中获得足够且适当的营养。这不仅有助于提高患者的身体状况,还有助于提高治疗的有效性和减少治疗的副作用。 一种宫颈癌组织间插植针重建系统 宫颈癌是妇女的常见恶性肿瘤之一。对于宫颈癌的治疗,除了常规的手术、放疗和化疗外,近年来局部的放射治疗也开始受到医生和患者的关注。而高宇亮教授的这一专利,正是为了提高局部放射治疗的效果而设计的。 传统的放射治疗方法,往往难以确保放射线精确作用于肿瘤组织,同时避免对周围正常组织的伤害。而这种新的插植针重建系统,通过高度精确的定位和针对性的放射,确保治疗的效果最大化,同时将对正常组织的伤害降到最低。这不仅提高了治疗的成功率,还大大减少了患者的痛苦和恢复时间。 高宇亮教授的创新为医疗行业带来了一场真正的革命。在数字技术的帮助下,医生可以更加精确地判断病情,更加科学地制定治疗方案,而患者也可以得到更为个性化、更为人性化的治疗服务。我们有理由相信,随着这种技术的普及和应用,未来的医疗将会变得更加先进、更加智能,而癌症患者也将获得更好的生活质量和更高的生存率。