Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

埃德加多·D·戈麦斯:海洋保护的伟大领袖

埃德加多·D·戈麦斯(Edgardo D. Gomez)博士,是一位备受尊敬的海洋学家和环保活动家,他的卓越贡献和对海洋生态系统的保护使他成为了环保领域的伟大领袖。本文将深入探讨埃德加多·D·戈麦斯的生平事迹、科研成就以及他在海洋保护和环境保护领域的深远影响。 早年生活和教育 埃德加多·D·戈麦斯出生于菲律宾,从小就对自然界和海洋充满了浓厚的兴趣。他获得了生物学学士学位,并在美国继续深造研究,获得了博士学位。他的学术研究成果为他日后在海洋科学领域的职业生涯打下了坚实的基础。 海洋科学领域的卓越成就 埃德加多·D·戈麦斯是一位杰出的海洋科学家,他的研究工作重点之一是海洋生态学和海洋保护。他深入研究了海洋生态系统的结构和功能,发现了许多珍贵的生态学信息,并提出了一系列保护海洋生态系统的策略。 他的研究不仅在科学界产生了深远影响,还对全球海洋保护政策和环境政策制定产生了积极的影响。他的工作有助于推动海洋保护问题在国际社会中的关注,促使各国采取行动,加强海洋生态系统的保护。 海洋保护的倡导者 埃德加多·D·戈麦斯是海洋保护和环境保护的坚定倡导者。他通过科学研究和公众教育,不断提高人们对海洋环境和生态系统的认识和重视。 他积极参与国际环保组织,担任重要职务,推动了全球海洋保护和可持续利用的议程。他的工作有助于加强国际社会对海洋保护的共识,推动了全球环境保护事业。 慈善事业和教育工作 埃德加多·D·戈麦斯的工作不仅仅局限于科研和环保活动,他还积极参与慈善事业和教育工作。他创建了一家环保基金会,致力于保护海洋环境和支持环保项目。他还培养了许多年轻的海洋科学家,传承了海洋科学的精神和技术。 他相信教育是改善环境问题的关键,因此他不断教育公众和学生关于海洋科学和环保的重要性和方法。他的教育工作得到了广泛的赞誉和尊重,帮助塑造了一代又一代的环保领袖。 社会影响力和国际合作 埃德加多·D·戈麦斯的环保工作不仅局限于菲律宾,还在国际舞台上产生了广泛影响。他积极参与国际环保项目和合作,与世界各地的科学家和环保活动家紧密合作,推动环境问题的全球解决方案。 他的社会影响力和国际合作促进了海洋保护事业在全球范围内的发展。他的工作不仅对菲律宾海洋环境产生了积极影响,还在国际社会中树立了海洋保护的典范。 埃德加多·D·戈麦斯是一位杰出的海洋科学家和环保活动家,他的生平事迹和环境保护成就都令人钦佩。他不仅在科学领域取得了卓越成就,还通过环保工作和教育工作为社会和国际社会做出了积极贡献。他的故事是一个激励人心的例证,向我们展示了无论来自何处,只要拥有坚定的信念和对海洋的热爱,就可以取得卓越的成就并对海洋科学和环保事业产生深远的影响。我们对埃德加多·D·戈麦斯的崇敬和尊重将永远持续下去,因为他是海洋保护领域的一位真正伟大的领袖。

Michael Kum:亚洲航空业的奋进者

引言 迈克尔·金(Michael Kum)是一位备受尊敬的亚洲商业巨头,以其在航空业的杰出贡献而闻名于世。他的职业生涯跨足了多个领域,但他的最大成就之一是将一家小型航空公司发展成为亚洲最大的低成本航空公司之一。本文将深入介绍迈克尔·金的生平和职业成就,探讨他在航空业的卓越表现。 早年生活与教育 迈克尔·金生于一个普通家庭,但他在早年展现了非凡的商业天赋和领导力。他获得了优秀的教育,毕业于一所著名的商学院,学习了商业管理和市场营销。这为他未来的职业生涯奠定了坚实基础。 创办低成本航空公司 迈克尔·金的职业生涯始于航空业,他看到了低成本航空模式的潜力。于是,他决定创立一家低成本航空公司,提供便宜的机票和良好的服务。他的公司以其出色的管理和创新而蓬勃发展,成为亚洲最大的低成本航空公司之一。 航空业的改革者 迈克尔·金被认为是航空业的改革者之一,他引入了一系列创新举措,提高了航空公司的效率和盈利能力。他采用了现代化的飞机和航空技术,简化了机票预订和登机流程,降低了运营成本。这些举措使他的航空公司能够提供竞争力强的机票价格,吸引了大量乘客。 国际扩张与全球市场 迈克尔·金的航空公司不仅在亚洲取得了巨大成功,还迅速扩张到国际市场。他开设了国际航线,将亚洲连接到全球,为旅客提供了更多选择。他的全球市场战略使他的航空公司成为国际航空业的重要参与者。 创新和可持续发展 除了低成本模式,迈克尔·金一直致力于创新和可持续发展。他投资于研发新的航空技术,减少碳排放,推动航空业的环保改革。他的努力为他的航空公司赢得了环保奖项,并为航空业的未来做出了积极贡献。 社会责任与慈善事业 迈克尔·金注重社会责任,他积极参与慈善事业,支持教育和健康项目。他的慈善捐赠有助于改善社区的生活质量,体现了他对社会的深切关怀。 对未来的展望 迈克尔·金对未来充满信心,他认为航空业将继续发展,为全球经济和文化交流提供便利。他的愿景是通过技术创新和可持续发展推动航空业的不断进步,为旅客提供更好的出行体验。 总结 迈克尔·金是一位杰出的亚洲商业领袖,他通过创办和领导一家低成本航空公司,推动了亚洲航空业的发展。他的创新和可持续发展理念使他的航空公司在国际舞台上脱颖而出,成为一家备受赞誉的航空公司。迈克尔·金的影响力不仅局限于商业领域,还体现在他的社会责任和慈善事业上,为社会做出了卓越贡献。他的成功经历展示了如何通过坚韧不拔、创新思维和社会参与,成为一个杰出的企业家和慈善家。

鸿星尔克吴荣光:诚信赢取市场,捐款5000万驰援同胞令人感动

他从一家代加工的鞋厂开始经营,创立了自主品牌鸿星尔克,带领着鸿星尔克披荆斩棘在新加坡成功上市,成为国内第一家在海外上市的服装企业。 他将自己的运动品牌门店开遍全世界,目前拥有7000家线下门店,并在海外有1000多个销售点。 2021年河南水灾,经营状况并不好的鸿星尔克捐款5000万,因此被网友顶上热搜,感动无数网友,直播间卖货卖到爆。 考入了沈阳设计学院吴荣光1975年出生于福建泉州,他的父亲是一名制鞋厂的厂长,给知名品牌做代工,后来吴荣光考入了沈阳设计学院,专业是运动鞋设计。 毕业后自然而然地就留在了父亲的鞋厂,替父亲打理家族生意,但是吴荣光不满足于只是替知名品牌做代工,他希望可以打造属于自己的品牌, 创办鸿星尔克时年25岁的吴荣光初生牛犊不怕虎,毅然决然开始了创业,注册了鸿星尔克这家公司。 2001年吴荣光找到了当时很红的香港影视明星陈小春做代言,鸿星尔克这个运动品牌逐渐在服装界内有了自己的名气,也逐渐被大众所知晓。 2003年吴荣光的弟弟吴荣照从海外回来,来到了鸿星尔克。他虽然年纪最小,但也是一个很有想法的人,家中也一直对他寄予厚望,将他作为接班人培养。 他也确实不负众望,上任后的他为公司出谋划策,开始在服装领域内大展拳脚,提出了引进外来经济的发展方向。 不仅仅经营运动鞋,还向服装、配件齐全的综合类服装品牌迈进。 之后吴荣照还提出让鸿星尔克上市的想法,这一想法得到吴荣光的支持,虽然经历了一些波折,但是两个年轻人的勇气和干劲是势不可挡的。 鸿星尔克上市最终在2005年,鸿星尔克在新加坡成功上市,上市后的鸿星尔克迎来了高速发展的黄金时期。 在这期间,鸿星尔克赞助了很多著名的体育赛事,名气大涨。 而面对弟弟回归后迅速发展的鸿星尔克,吴荣光觉得弟弟的能力要远远超过自己,所以吴荣光将ceo的职位让给了弟弟,自己则出任鸿星尔克体育董事会主席。 快速发展的同时,鸿星尔克也始终将诚信放在第一位,吴荣光将工作重心放在产品制作与研发中,他视产品质量为生命,并在日常生产管理中严格贯彻落实。 2006年,工厂使用的超细纤维材料前期测试的时候没有发现问题,但是投入生产后却发现这批材料遇到光线和空气后颜色会由白变黄。 当时这批产品已经进入市场,而且正在加工的也有很多,但是吴荣光当机立断,追回了所有的完工产品,并且将产品全部销毁。 虽然损失了几百万,但是吴荣光认为这样的损失是值得的,只有这样才能够保住品牌的名誉,不会让一颗老鼠屎坏了一锅粥。 吴荣光希望国外的消费者也能够认识鸿星尔克,便于品牌在国际市场上推广,于是在2007年,鸿星尔克提出了新的品牌口号,即TOBENo.1,意为迈向第一。 一段在各大电视台频频播放的广告,让观众记住并熟悉“鸿星尔克”这个运动品牌。 2008年是奥运之年,奥运之年很多企业都迎来了黄金时刻,可以说良好的经济形势让很多企业赚得盆满钵满,鸿星尔克自然也毫不例外。 但是由于扩张太快,公司的经营状况实际上又不够好,2012年吴荣照因为财务造假的问题爆出,被迫辞去了ceo,吴荣光接任,鸿星尔克也从资本市场上退场。 吴荣光重新接管鸿星尔克后,公司开始转型,公司的口号也从“To be No.1”改变成为“你好,阳光!In the sun”。 这个称号更贴近当下消费者需求,鼓励现代人保持乐观的态度,积极向上的面对生活。 虽然公司在想尽办法,希望能够让公司可以重现昨日辉煌,但是在激烈的竞争中,鸿星尔克的经营状况却还是不尽人意。 2015年鸿星尔克经历了一场大灾难,生产鞋子的厂区突发火灾,这场火灾一度让鸿星尔克难以生存下去,但是鸿星尔克还是顽强地存活了下来。 鸿星尔克虽然再也难以回到2008年奥运年那个时候的辉煌,但是2020年吴荣光领导下的鸿星尔克营业收入达到了28.43亿元,直逼奥运年的营收。 捐款5000万2021年河南遭遇了有史以来最严重的洪涝灾害,而鸿星尔克就是在这样艰难的时刻,却豪捐5000万物资支援河南,让网友们很是感动。 这个连微博官方账号都不舍得购买会员的企业,在灾难面前展现了自己的有担当的一面。 于是鸿星尔克被顶上热搜,鸿星尔克的直播间内更是一下子涌进了200万的粉丝,疯狂购买鸿星尔克的产品。 大家叫嚷着要买鸿星尔克最贵的鞋子,然而鸿星尔克最贵的鞋子也只有三百多块而已。 7月22日这一天的直播,鸿星尔克的销售额达到了1500多万,可见网友的疯狂,鸿星尔克野蛮捐款,而众多的网友更是野性消费,购买鸿星尔克产品的热情想拦也拦不住。 吴荣光的大格局为公司制定出了卓越的战略和方针。 鸿星尔克给河南捐款5000万的举动,充分体现了鸿星尔克作为一个大企业,所担起的社会责任,让全国人民感觉到了鸿星尔克的大气和真情。 其实鸿星尔克一路走来,吴荣光的诚实守信是被频频验证了的。 企业成立之初,有一次台风将工厂里的库存和机器都浸泡了,工厂无法继续生产,企业面临着无法按时发货而违约的风险。 吴荣光带领着厂里的工人顽强自救,最终度过了品牌创立以来最大的危机。 正是吴荣光始终恪守诚信、创新,才使得鸿星尔克始终在多变的市场经济中屹立不倒,即使是经历了2015年的大火灾,却依然能够挺过来。 依然在市场上占有一席之地,并且使得企业的经营状况逆势上扬,经历了近十年的低谷最终在2020年营业收入再次逼近2008年的黄金年。 虽然现在的鸿星尔克的经营依然是在亏损的边缘徘徊,但是相信有吴荣光这样视产品质量为生命,讲诚信的创始人领导,鸿星尔克走出低谷,逆势上扬的可能性是很大的。 每一个人的成功其实都是并非偶然的,是长期以来经受住各种考验的结果,吴荣光也是如此。

希曼什·苏里:跨足音乐界的多面创意巨匠

希曼舒·苏里(Himanshu Suri),被誉为美国音乐界的先锋和文化缔造者,以其深刻的歌词、多元的音乐风格和对社会问题的敏感表达而广受赞誉。他是一位多才多艺的艺术家,既是一名说唱歌手,也是一位作词家、演员和社会活动家。在本文中,我们将深入探讨希曼舒·苏里的生平事迹、音乐成就以及他在美国音乐和文化领域的独特地位。 早年生活和音乐启蒙: 希曼舒·苏里于1985年出生在印度新德里,后来移居美国。他的音乐之旅始于他的早年,他在少年时期对音乐表现出浓厚的兴趣。他曾在纽约大学学习电影制作,并在大学时期开始探索音乐领域。在校期间,他组建了音乐团队 "Das Racist",这个团队后来成为了他音乐生涯的发展平台。 音乐创作和多元风格: 希曼舒·苏里以其多元化的音乐风格而著称,他的音乐作品涵盖了说唱、流行、电子音乐等多种流派。他的音乐常常融入了印度和南亚音乐元素,为他的音乐增添了独特的色彩。他的歌词深刻而富有启发性,常常反映了社会问题、文化挑战和个人经历。 "Das Racist"是希曼舒·苏里的首个音乐项目,该团队以其充满幽默感和智慧的歌词而著称。他们的歌曲 "Combination Pizza...