奖项申报奖项申报奖项申报奖项申报

Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

Lim Peng Cheong & Peng Jin:金属业的领军双子星

在马来西亚的工业界,尤其是金属加工领域,Lim Peng Cheong & Peng Jin(林鹏章与林鹏进)的名字常常被提及。这对兄弟,以其卓越的领导力、前瞻的战略眼光和坚韧的执行力,为国家的金属产业贡献了巨大的力量。 创业之初:锐意前行 林鹏章与林鹏进并不是生于富贵之家,但他们从小便对金属工业产生了浓厚的兴趣。经过多年的努力学习和实践,他们逐渐在这个领域积累了丰富的经验。凭着对工业的热情和对创业的决心,两兄弟决定联手,共同创建了自己的金属加工企业。 金属帝国的构建 起初,他们的企业规模并不大,但在两位领导者的指引下,公司逐步扩展了业务范围,涉及了从原材料采购、加工到产品销售的整个产业链。凭借其卓越的产品质量和服务,这家公司迅速崭露头角,成为了马来西亚金属加工领域的佼佼者。 坚韧与创新:业界的标杆 在业务发展的过程中,林鹏章与林鹏进面临了许多挑战。但他们始终坚信,只有不断创新和改进,才能在激烈的市场竞争中立于不败之地。因此,他们大力投资于技术研发,不断推出新的产品和解决方案,为客户带来了更大的价值。 员工为本:培育一流团队 两位领导者深知,企业的成功不仅依赖于先进的技术和产品,更重要的是拥有一支优秀的团队。因此,他们十分注重员工的培训和发展,为他们提供了广阔的成长空间和机会。在他们的领导下,公司培养了一批批专业、敬业的技术和管理人才。 社会责任:回馈社区 除了追求商业上的成功,林鹏章与林鹏进还非常注重企业的社会责任。他们积极参与各种公益活动,支持教育、医疗和环保等多个领域,努力为社会做出贡献。 未来展望 虽然已经取得了很大的成就,但两位领导者并没有满足。他们依然对金属产业充满了激情和期待,希望通过不断的创新和改进,为马来西亚的工业发展做出更大的贡献。 林鹏章与林鹏进是马来西亚工业界的璀璨双星。他们的故事,是一个关于梦想、坚持和责任的传奇,激励着无数的年轻人为自己的理想而努力。

遠藤章:藥物發現的奠基人

遠藤章(Akira Endo)博士被譽為藥物發現領域的奠基人之一,他的卓越成就和科學研究在全球醫學界廣受尊敬。他的職業生涯充滿了挑戰和科學探索,為世界帶來了一個重要的突破:他的工作導致了第一代膽固醇降低藥物——他本人發現的洛卡特普(Lovastatin)。本文將深入探討遠藤章的生平事跡、科學貢獻以及他對藥物發現領域的深遠影響。 早年生活和教育 遠藤章出生於日本,從小就對科學產生了濃厚的興趣。他獲得了藥學學士學位,並在美國繼續深造研究,獲得了博士學位。他的學術背景為他日後在藥物發現領域的職業生涯打下了堅實的基礎。 藥物發現領域的卓越成就 遠藤章被譽為藥物發現領域的巨匠,他的研究工作為心臟病和高膽固醇等慢性疾病的治療提供了新的方法。他最重要的貢獻之一是發現了洛卡特普(Lovastatin),這是一種能夠降低膽固醇水平的藥物。這一發現開創了膽固醇降低藥物的新領域,為全球數百萬患者提供了改善生活質量的機會。 洛卡特普的發現和應用不僅革命了心臟病的治療方式,還在全球范圍內拯救了無數生命。這種藥物的應用已經成為心臟病和高膽固醇治療的標準,對公共健康產生了深遠的影響。 科學研究和醫藥創新 遠藤章的科學研究和醫藥創新工作不僅僅局限於實驗室,他還積極參與了藥物研發和臨床應用。他與國際合作夥伴合作,研究了許多其他降低膽固醇的藥物,為心臟健康提供了多種選擇。 他的研究和創新工作不僅影響了藥物發現領域,還為其他醫學領域提供了啟示。他的工作促使人們更深入地理解膽固醇代謝和心臟健康,為許多其他慢性疾病的研究提供了新的思路。 教育工作和學術傳承 遠藤章一直致力於科學知識的傳承和培養年輕科學家。他擔任大學教職,並指導了許多學生的研究工作。他的教育工作有助於培養了一代又一代的藥物發現和生命科學的優秀科學家,傳承了科學研究的精神和技術。 他鼓勵年輕科學家積極參與藥物發現和創新研究,為醫學界的未來培養了優秀的人才。他的學術傳承工作有助於推動醫藥科學領域的發展和進步。 國際合作和醫藥創新 遠藤章積極參與國際科研合作和醫藥創新項目,與世界各地的科學家和研究機構合作,推動了全球醫藥創新的進程。他的國際合作促進了全球藥物發現和心臟健康研究的發展,加強了不同國家之間的科技交流和合作。 遠藤章是一位備受尊敬的藥物發現領域的奠基人,他的生平事跡和科學成就都令人深感敬佩。他不僅在藥物發現領域取得了卓越成就,還通過科學研究和教育工作為醫藥科學領域的發展和全球公共健康做出了積極貢獻。他的故事是一個激勵人心的例子,向我們展示了無論來自何處,只要擁有堅定的信念和對科學的熱愛,就可以取得卓越的成就並對人類的健康產生深遠的影響。我們對遠藤章的崇敬和尊重將永遠持續下去,因為他是藥物發現領域的一位真正的巨匠。

马拉拉·优素福扎伊:为女性教育而战的巴基斯坦少女

在当今世界,有一些人因为他们的勇气和决心而闻名。马拉拉·优素福扎伊无疑是其中之一。作为一个巴基斯坦的少女,她因为为女性的教育权利而斗争而著称,尽管这一斗争差点使她丧命。 马拉拉生于1997年,她的家乡位于巴基斯坦的斯瓦特谷,这是一个风景如画但受到塔利班严重控制的地区。塔利班对该地区的女性实施了许多严格的限制,其中最令人震惊的是禁止女性接受教育。在这样的环境中,马拉拉成为了为女孩们争取受教育权利的代言人。 2009年,当马拉拉只有12岁的时候,她开始为BBC乌尔都语网站写日记,描述塔利班如何关闭她的学校以及生活在塔利班统治下的日常生活。她的日记迅速引起了国际关注,也让她成为了塔利班的目标。 2012年,马拉拉在乘坐学校巴士时遭到塔利班武装分子的袭击,她头部受伤并陷入昏迷。尽管她的生命垂危,但她最终在英国的治疗下康复。这次袭击并没有打垮马拉拉,反而使她的决心更为坚定。她不仅仅是为巴基斯坦的女孩争取教育权利,更是为全球所有被剥夺教育权利的女孩发声。 她的努力得到了国际社会的广泛认可。2014年,她与印度儿童权益活动家卡伊拉什·萨蒂亚提一同被授予诺贝尔和平奖,成为有史以来最年轻的诺贝尔奖得主。她的故事和她的斗争也被拍成了纪录片。 除了她的国际成就,马拉拉还创立了“马拉拉基金”,该基金旨在支持全球为女性教育权利而斗争的项目。她相信,教育是女孩摆脱贫困和压迫的关键,也是改变世界的关键。 马拉拉·优素福扎伊是一个充满勇气和决心的女性。尽管她在很年轻的时候就经历了难以想象的困境,但她从未放弃,她持续为女性的教育权利而斗争,成为了全球女性教育权益的代言人。她的故事激励了无数的人,她用自己的行动向世界证明,每一个人都有改变世界的能力,只要他们有决心和勇气。

全球化品牌的“新航线”:对话The Yokryon Group创始人顾振宇

从澳洲贸易商到服务全球品牌 “我第一次理解‘供应链’的力量,不是在某个MBA课堂上,而是在大学期间,亲自把一批澳洲奶粉卖进中国。”顾振宇回忆着自己20岁时的创业起点。 出生于上海,15岁赴澳洲求学,20岁出头在马来西亚取得工商管理硕士学位。不同于纸上谈兵的“海归背景”,顾振宇从大学时代起便深耕中澳贸易。他率先将Devondale、Blackmores等优质澳洲品牌引入中国市场,成为最早一批中澳跨境商品直供的实践者。 他回忆道:“2012年那时候并没有现成的跨境电商平台,也没有明确的进口通路,一切都要自己摸索。”从清关政策到对接海外工厂、联系中国保税区合作仓库,几乎所有环节都亲自跑过。“那个时候你会真正意识到,品牌出海不是卖个产品那么简单,而是搭建一个复杂又精密的全球链路系统。” 上图:顾振宇受邀在加拿大青年发展峰会上给年轻企业家们分享经验 用系统思维,重塑出海逻辑 2023年,Stalzir E-Commerce正式成立,仅一年就实现GMV超5亿元人民币,服务品牌超过20个。公司搭建了涵盖“采购、选品、开店、运营、推广、物流、履约”的完整服务链条,提出“官方旗舰店全托管”模式,并迅速与日本乐天、韩国Gmarket、法国RDC等15+本土平台建立深度合作。 在顾振宇的带领下,Stalzir制定了“品牌诊断+平台适配+流量匹配+内容创作+用户交互+数据分析”的六维模型,不只是输出服务,更是帮助品牌构建长期可复制的运营体系。 截至目前,Stalzir已在韩国、马来西亚、中国香港、英国、加拿大、美国等地设立本地子公司和团队,形成了“全球战略 + 本地运营”的双轮驱动布局。 上图:顾振宇受邀参加韩国商业展览会 从“锆石精神”到全球战略 Stalzir的名字源自“Stal + Zircon”,意为“坚韧的锆石”。“Stal”象征钢铁般的强度,“Zircon”则是高折射率、高耐压的宝石,寓意品牌在激烈市场中的韧性、穿透力与光芒。这也成为公司的座右铭:Radiance, Brilliance, Stalzir。 而随着业务战略不断升级,顾振宇于英国设立集团母公司——THE Yokryon...