奖项申报奖项申报奖项申报奖项申报

Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

Naveen Garg:卓越计算机科学家的故事

在现代数字时代,计算机科学的重要性愈发凸显。而在这个领域里,有一位杰出的科学家,他的名字为Naveen Garg。Naveen Garg教授不仅是一位杰出的学者,还是一位卓越的教育家,他的故事激励着年轻一代的科学家,为计算机科学领域的进步注入了新的活力。 早年生活与教育 Naveen Garg教授生于印度,自幼就表现出对科学和技术的浓厚兴趣。他在印度著名的大学攻读计算机科学学士学位,并在研究生阶段选择了计算机科学作为专业。他的早期教育为他未来的科研工作奠定了坚实的基础。 计算机科学研究与突破 Naveen Garg教授在计算机科学领域取得了多项重要突破。他的研究涵盖了算法设计、优化问题、分布式计算和网络科学等多个方面。他在算法设计领域的工作被广泛认为是开创性的,为解决复杂问题提供了新的方法和工具。他的研究工作在计算机科学界产生了广泛的影响,为优化问题、网络设计和分布式系统等领域提供了关键的理论支持。 教育与科研传承 Naveen Garg教授一直热衷于科学教育和知识传承。他担任大学教职,培养了许多年轻的科学家和工程师,传递自己的计算机科学知识和研究经验。他鼓励年轻一代积极参与科技创新和计算机科学研究,为培养更多的科技领袖和专业人才做出了重要贡献。 科技政策与创新 Naveen Garg教授积极参与印度的科技政策制定和科技创新工作。他在政府和科技部门担任重要职务,为印度的科技产业和创新生态系统提供了专业建议。他的领导力和创新思维有助于推动印度在科技领域的发展,促进科技创新和科学研究合作。 奖项与荣誉 Naveen...

20年创业5次,杜国楹究竟是营销鬼才还是忽悠大王?

教师出身的他白手起家,先后打造了多个家喻户晓的品牌,他是营销界的神话。但他的人生也并非一帆风顺,经历了大风大浪的他有着怎样的创业人生呢? 其实大家可能会对杜国楹这个名字感到陌生,但是只要提到他的产品,如“背背佳”、“好记星”、“8848手机”等等几乎是无人不知无人不晓,甚至可以说成为了几代人的记忆,而杜国楹的创业历程也很有意思。 其实杜国楹的出身并不好,1973年他出生在河南周口市西华县的一个农村家庭,家境也并不富裕,但是他凭借自己的努力考上了一所师范学校。 于1992年顺利从学校毕业,这时的杜国楹年仅19岁。其实当时在师范学校毕业以后,去当老师是一个特别稳定的工作,很多人都羡慕,甚至是求之不得。 辞职创业但让很多人都大跌眼镜的是,杜国楹仅仅在教师岗位上工作了两年,便辞去了这份工作,转身下海去创业了。 这几乎让他周围的所有人都震惊了,在旁人看来这样一个铁饭碗比起前途未知的创业要好得多。 但21岁的杜国楹认为,如今的日子只够温饱,他不想再过着如此平淡的生活,他想要过上富裕的生活。就这样,杜国楹开始走出去寻找一个属于自己的机遇。 杜国楹做好了面对离开安逸生活的准备,他选择了从最底层做起。很多脏活累活他都干过。 从一个小小的柜员到外派去送货,再到被领导派遣去天津开发市场,这些升职的过程是他一步一步用辛勤付出才做到的。 当时由于外派人数并不多,担子都落在了杜国楹一个人身上,每天杜国楹想得最多的一个问题就是,如何才能把这个天津市场开发出来,做大做强。 尽管他把所有的精力都放在了这个事情上,但是开发进行得并不顺利,相比较于他的预期而言,开发区的销量增长微乎其微,没有太多的成效。 这让原本信心满满的杜国楹开始反思自己,要怎样才能扩大销量呢?这个经历也为他日后的创业积攒了经验。 让他知道了一昧的埋头苦干是没有用的,真正要做好产品,还得拥有独特的眼力,掌握风向才是掌握了王道。 “广告营销”,销售神话在他独到的眼光下,他发现广告对于一个产品的重要性,广告能在很大程度上提高产品的知名度,知名度上去了,销量自然也水涨船高。 就这样,在杜国楹的劝说下,老板同意了他,做广告来推销产品的方案。这样的奇招让杜国楹所负责的天津市场销售额一骑绝尘。 在当时年纪轻轻的他已经成为了公司里全国区域的销售冠军,各个分公司争相学习。 杜国楹并没有止步于销售冠军,没多久他离开了这个公司,在新公司了解到了一款最新的矫正形体的产品以后,他敏锐的商业嗅觉发现这里头的巨大商机。 这时的他对于公司运作、销售经营这方面的手段可以说已经趋于成熟了。杜国楹再次选择跳槽,但这一次,他自立门户,与知名大学的教授联合开发了“背背佳”。 “背背佳”一上市就获得了很好的销量,创造了3个月突破3000万的成绩,这给予了杜国楹极大的自信心。 尝到甜头的杜国楹加大了推广力度和产品投入,在1998年创下了高达4.5亿的销售神话。 这一年,杜国楹才仅仅25岁,凭借“背背佳”的成功,他一举成为了当时中国经商者中最年轻的亿万富豪。 “从头再来”可是在这次成功以后没过多久,杜国楹因为这次的成功而开始骄傲,他抱着轻视的态度做出了不慎的投资,让他从原本的高位上狠狠的摔了下来。 连续两个项目的接连失败让他在一夜之间倾家荡产,不仅赔光了所有的钱,身上还背负着4600万的巨额债务。 这让原本以为营销可以改变一切的他不得不重新调整自己的认知,端正自己的态度,想方设法地去解决债务问题。 巨大的落差让杜国楹很不适应,在还债的那段时间里,无数个夜晚他都痛苦至极。后来想通了的他开始为自己的还债做出一个计划。 凭借当时的情况他是不可能一次性将这些欠款还清的,于是他选择制定了每个月的还款目标。 这既保证了自己的工作积极性,也向各位债主证明了自己的诚信和决心。在那些失眠的晚上,他就会去想怎样赚更多的钱来早日还清债务。 转变观念,营销鬼才还是忽悠大王?在有了这次投资失败的经验以后,杜国楹再次带领团队开始创业。经过长期的研究调查,这次他把目光投向了学习机“好记星”。 他采用了双管齐下的方式,一边改变传统的方式转而使用整版广告;另一方面,有了推广就需要一个能让大众购买到的渠道,杜国楹这次想到了新华书店。 这个几乎普及了每个地区的销售渠道,这个渠道的创新十分大胆。凭借着“好记星”杜国楹还清了所有的债务。 此后他不断地跨界创新,做出了“E人E本”、“8848”等这些家喻户晓的品牌,这些产品的销售额一个比一个要高。 在这个过程里,杜国楹也认清了营销只是一种手段,一个外壳,真正重要的内核是要有一个好的产品才能打动消费者。 在2014年时,杜国楹再次跨界投资了茶叶,创立了“小罐茶”,后来在接受采访时,杜国楹笑谈道:“这是我的‘最后一次创业’了。” 他突破原本中国传统茶产业的销售方式。不仅仅要卖茶,还要让消费者用最方便的方式品茶。 他请来8位制茶大师讲述制茶故事,让茶的故事有了更广泛的普及,让大家开始不仅仅普通的泡一杯茶喝,也开始琢磨着喝好茶。 让“小罐茶”等于好茶这个概念深深留在消费者心里。而确实杜国楹将“小罐茶”经营得很好,消费者品尝过后一致给出了好评。 经历风雨,杜国楹也迎来了自己的彩虹。人的一生不可能一帆风顺,其实大部分时间,人与人之间的差距就是在这一次次跌倒又重新站起来的过程中拉开的。 很多人在失败以后就不愿意再次去尝试,其实挫折是给予我们的一个锻炼和反思的机会,只有知道哪里错了,才能让自己变得更好。 杜国楹显然很早就意识到了这一点,在他的创业人生中,他明确地对自己有一个认知,他懂得合理发挥自己的优势为自己创造价值。 同样,他也知道怎样处理自己的不足,渐渐成长为一个成熟的商人。他用自己独特的商业模式创造来一个又一个商业传奇。

兰顿·奥坎普:生命科学的探索者与创新者

兰顿·奥坎普教授是一位备受尊敬的生命科学家,他的卓越研究和创新成就为生物医学领域带来了深远的影响。本文将深入介绍兰顿·奥坎普教授的学术生涯、科研成就以及他在生命科学领域的重要贡献。 早年生活与教育 兰顿·奥坎普教授早年生于菲律宾,自幼展现出对生物科学的浓厚兴趣。他在一所杰出的大学攻读生物学学士学位,并随后前往美国深造,获得了博士学位。他的早期教育奠定了他未来在生命科学领域的坚实基础。 突破性研究与创新 兰顿·奥坎普教授在生命科学领域取得了多项突破性研究成果。他的研究涵盖了细胞生物学、分子生物学和免疫学等多个方面。他在肿瘤免疫治疗领域的工作尤为杰出,开发出创新的治疗方法,有助于提高癌症患者的生存率和生活质量。他的研究成果为癌症治疗和免疫疾病治疗提供了新的方向和希望。 教育与科研传承 兰顿·奥坎普教授一直热衷于科学教育和知识传承。他担任大学教职,培养了许多年轻的科学家和研究人员,传递自己的生命科学知识和实验经验。他鼓励年轻一代积极参与生命科学研究,为科学领域培养了更多的专业人才。 社会责任与国际合作 兰顿·奥坎普教授不仅在科学研究方面有卓越成就,还积极履行社会责任。他参与了多个国际合作项目,推动了不同国家和地区的科学界合作。他的国际视野有助于将最新的科研成果应用到全球各地,为全球卫生和科技合作做出了重要贡献。 奖项与荣誉 兰顿·奥坎普教授的卓越贡献赢得了多项国际性科学奖项和荣誉。他被授予了多个著名奖项,以表彰他在生命科学领域的杰出成就。这些奖项和荣誉证明了他在科学界的卓越地位和影响力,也为他的科研工作提供了高度的认可。 兰顿·奥坎普教授是生命科学领域的杰出科学家,他通过自己的卓越研究和创新,为癌症治疗和免疫疾病治疗带来了新的希望。他的科研成就和教育传承工作为培养了更多的生命科学家和研究人员,推动了生物医学领域的进步。兰顿·奥坎普教授的社会责任感和国际合作精神为全球科研合作和创新注入了新的活力,有助于推动科学对社会和经济的发展。他的故事是生命科学研究和国际科研合作的典范,激励着年轻一代的科学家,追求卓越,不断推动科学的进步。

桑迪普·英吉尼尔与家族:印度工程业的杰出奋斗者

桑迪普·英吉尼尔及其家族(Sandeep Engineer & family)是印度工程领域的杰出代表,他们以卓越的领导力和创新精神而闻名于世。他们的生平和职业生涯充满了决心、勤奋和对工程技术的热爱。本文将深入探讨他们的生平、工程领域的成功以及他们在印度工程业的杰出影响力。 桑迪普·英吉尼尔及其家族出生于印度,他们从小就对工程技术产生了浓厚兴趣。他们于1990年代创立了一家著名的工程咨询和建筑公司,专注于基础设施项目和工程解决方案。 英吉尼尔工程咨询公司的成功得益于卓越的工程技术和市场洞察力。公司参与了印度众多重要基础设施项目的设计和建设,包括桥梁、高速公路、机场和工业设施等。他们的工程解决方案以高质量和创新而著称,为印度的基础设施发展做出了巨大贡献。 除了在工程领域的卓越成就,桑迪普·英吉尼尔及其家族也是一位积极的社会活动家。他们关注教育、医疗保健和社会福祉等领域,并通过自己的慈善基金会积极支持各种项目。他们的慈善工作有助于改善印度社会中弱势群体的生活质量,为社会福祉做出了积极贡献。 桑迪普·英吉尼尔及其家族的领导力哲学强调了家族价值观、社会责任和创新。他们坚信工程技术是印度经济发展和社会进步的关键驱动力,也是提高生活质量的关键。他们的坚韧、决心和对工程技术的热爱鼓舞着全球的工程师、企业家和领袖,追求卓越,推动工程领域和社会的进步。 桑迪普·英吉尼尔及其家族是印度工程领域的杰出代表,他们的卓越成就、领导力和社会责任感使他们成为该领域的杰出人物。通过英吉尼尔工程咨询公司的成功、工程解决方案创新和慈善工作,他们为印度工程业的发展和社会福祉做出了杰出贡献,同时也激励着全球的工程师、企业家和领袖,积极推动工程领域和社会的进步。