Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

欧普照明马秀慧:负债创业,将8人小厂做成274亿的照明企业

她在浙江的一个富裕家庭中长大,不甘愿过着平淡稳定的工作,选择和父母并不看好的对象“私奔”。 从只有夫妻二人的批发灯管的小门店到八人的小工厂再到274亿的照明企业,她就是因节能灯出圈的马秀慧。 马秀慧1971年出生于浙江缙云的一个富裕家庭,她的养父母都是当地鼎鼎有名的富商,她也是家中唯一的女儿。 从小接受良好的教育,在班里也是名列前茅,再加上家里条件好,不少人称她为“小公主”,追她的人也很多。 谁知从小在父母熏陶下长大的她最后竟然选了一个穷小子王耀海,农民家庭,家里的兄弟姐妹也很多,这门不当户不对的爱情自然会遭到马秀慧父母的反对。 原本父母想的是给马秀慧找一份稳定的工作,然后再给她找一个门当户对的丈夫,女儿的终身大事也就解决了,谁知半路上杀出来一个王耀海,把马秀慧迷得神魂颠倒。 在马秀慧眼里,王耀海是一个有见识、肯吃苦的人,马秀慧从小读遍书籍,幻想成为书中敢于闯荡的女主角,两人都想要闯荡出属于自己的天地。 于是两人一拍即合,迅速坠入爱河。奈何王耀海去马家下跪,她的父母也依然不同意,几番抉择之后马秀慧最终在爱情和亲情中选择了和王耀海“私奔”。 那时候的马秀慧才只有20岁,父母得知她出走的消息也是十分着急,后来她和王耀海南下广东落脚之后也给父母打过电话报平安,父母想要她赶快回来,她却说要等到干出个名堂之后才会回家。 这是因为只有这样,父母才会真正认可王耀海,才会真正把他当做一家人。马秀慧出走之前特意找朋友借了30万,还承诺自己衣锦还乡之后加倍奉还,可是生意真的就这么好做吗? 两个涉世未深的小白看到当时农场很赚钱,于是选择在一个小镇里搞起了农场,养鸡鸭顺带种植农作物。 就在二人看着园子里的幼崽和田地里的幼苗一天天在自己的照顾下长大时候,一阵台风彻底打破了现实。 一夜之间,所有的鸡鸭和农作物全都死了,两个年轻人第一次发现自己外面的世界并没有想象的精彩,反而布满荆棘。 1994年,经过两人的商量决定彻底放弃农场,打算先去投靠表姐,再思考以后再干什么。 两人就这样来到了中山古镇,表姐原本说他们两个人如果找不到工作,干脆来她的灯具厂上班吧。 谁知道马秀慧看中了表姐的灯具,打算开个小店批发表姐的灯具进行售卖。年轻就是好,马秀慧立刻从之前的失败中脱身转战到了灯具事业。 可是当时的中山古镇有着“中国灯饰之都”的称号,想来这里做灯具生意的也不在少数,他们二人刚刚过来,人生地不熟,除了表姐之外几乎不认识什么人,所有的一切都得靠自己。 逆境中的人总是成飞快,从小在家几乎从来不干活的千金大小姐马秀慧现在变成了一个每天吃着粗茶淡饭的普通妇人。 王耀海出去骑着三轮车送货不在家的时候,她一个人就得身兼数职。就连她怀孕的时候,也没有在家安心休养,反而还得为了孩子的奶粉钱去催债。 甚至还有人欺负她是孕妇将钱撒了一地,挺着大肚子的她为了生活弯下了腰,她早已不是以前的公主了,现在只是一个做着小本生意的女人。 撒钱这件事给马秀慧的刺激很大,之后她就将店关掉了,打算用自己赚来的钱开一家工厂。 1996年中山市绿明电器有限公司创立,这两年他们在开店的同时,也在不断研究灯具的各种构成,以及市场上到底需要哪些灯具等等,最后他们将目光定位于节能灯。 当时国内风靡节能灯,但是质量参差不齐,国外进口的节能灯价格又太高,普通家庭根本不会购买,价格便宜的节能灯寿命又不长,所以她下定决心要做一个物美价廉的节能灯。 为此,她专门挑选制作节能灯的材料,尽可能地找到性价比最高的材料,再请专人画设计图纸,夫妻两个人加上六个人员工最后再一起制作,前前后后就花了不少时间,后来还需要将产品送去检验。 后来,她的节能灯一上市就迅速占领市场,跟其他公司的节能灯想比就是使用时间更长了,价格没有什么差别,但是赚的却少了,因为材料都是用的最好的。 可是有失必有得,她们家的口碑建立起来了,即使之后又不少大企业欺负她们是小企业而抹黑她们,她却用产品再一次赢得了客户的信任。 1999年,马秀慧将自己的公司更名为欧普照明,从先开始的节能灯占领低端市场后,再次蓄力进攻中端市场。 因为随着经济的发展,人们的需求从最初的节能省钱也逐渐开始追求灯的美观了,欧普照明如果死守节能灯迟早会被时代所抛弃的。 为此她花费大量的时间研究新的灯管,每天都和技术人员呆在实验室里研究,这样一个女人搞起研究来丝毫不亚于男人,让不少的人对这个女老板刮目相看。 之后一款集美丽和节能为一体的吸顶灯问世,再次成为欧普照明的明星产品,同时这款灯能够适应各种装修风格,成为了不少家庭的首选,欧普照明再次进入人们的日常生活中。 有了拿得出手的产品之后,她又想要拓展销路了,毕竟现在欧普照明的主要市场集中在大中城市,小城市和农村地区几乎很少。 有人会说欧普照明已经很赚钱了,别人都是去往大市场,欧普照明却是反向行驶,让许多人不理解。 其实马秀慧并不只是一个商人,她是一个有大格局的人,她明白小城市和乡村地区也需要美观及实用为一体的,她想要把光明带去世界各地,为人们的生活增添幸福感。 之后,她主动提出在小城市和乡村地区建立销售网点,可以送货上门安装,如今欧普照明在全国的门店和销售网点加在一起已经高达上万了。 2016年,欧普照明正式上市,从以前的八人小工厂变成了价值274亿的照明企业。 她是富裕家庭的大小姐,放弃了优越的生活选择为爱私奔从头开始,即使遭受羞辱也坚决不动摇,从先开始只售卖灯具的小门店到自己研究灯具。 事实证明技术才是硬道理,凭借着高性价比的节能灯杀出一条路,才正式在灯具产业有了自己的一席之地。 然而,节能灯并不是昙花一现,之后成立专业实验室进行技术研发,研发出了核心产品吸顶灯,具有大智慧的她着眼于小城市和乡村地区,走进了千家万户的生活。 现在依然在不断研发出新产品,在多个领域都能够看到欧普照明的身影,期待以后的欧普照明会为我们研发出更多的好产品。

安鲁兰·贾因与家族:印度汽车产业的创新奇才

安鲁兰·贾因与家族(Anurang Jain & family)是印度汽车产业的杰出代表,以其在摩托车和电动车领域的卓越成就和领导力而广受赞誉。他们的生平和职业生涯充满了创新、坚韧和成功。本文将深入探讨他们的生平、汽车业务的崛起以及他们在印度工业界的杰出影响力。 安鲁兰·贾因是Bajaj Auto(巴贾奥托)的主席和董事总经理,他的兄弟拉胡尔·贾因则是Bajaj Auto的总裁。这家公司是印度最大的摩托车制造商之一,也是全球最大的三轮车制造商之一。安鲁兰·贾因和拉胡尔·贾因兄弟俩共同领导了公司,使其在国际市场上占据了重要地位。 其中,他们最著名的成就之一是在摩托车领域的成功。Bajaj Auto生产各种类型的摩托车,从城市通勤车到高性能机车,深受印度和全球消费者的喜爱。他们的领导力和创新精神推动了公司的国际扩张,使其成为全球摩托车市场的关键参与者。 除了传统的内燃机摩托车,安鲁兰·贾因与家族还积极参与了电动交通工具的发展。他们的公司推出了电动摩托车和电动三轮车,为清洁能源交通提供了可行的解决方案,同时也为印度的城市交通问题提供了创新的解决方案。 贾因兄弟俩还致力于推动科技创新。他们支持了多个科技研究和创新项目,如智能交通系统和电动车充电基础设施。他们的公司也在研发新技术和材料方面取得了重要突破,为汽车行业的未来做出了贡献。 贾因兄弟俩同时也是社会责任和慈善事业的积极倡导者。他们的公司开展了多个社会项目,改善了印度社会的各个方面,如教育、卫生和社区发展。他们强调企业家精神和社会责任的平衡,认为企业应该回馈社会。 贾因兄弟俩的领导力哲学强调了创新、坚韧和社会责任的重要性。他们坚信领导力是企业成功的关键,同时也强调了为社会做出贡献的重要性。他们是印度汽车产业的杰出领袖,激励着其他企业家、领袖和梦想追求者,走上成功之路,引领印度汽车业向前发展。 安鲁兰·贾因与家族是印度汽车产业的杰出代表,他们的卓越成就、创新业务和社会责任感使他们成为印度商业界的杰出人物。通过摩托车制造、电动交通工具和社会项目,他们为印度工业的发展和社会福祉做出了杰出贡献,同时也激励着其他企业家、领袖和梦想追求者,推动印度汽车业的未来。

摩亨佐-达罗:印度河流域古代文明的谜团

摩亨佐-达罗,位于现今巴基斯坦境内,是世界上最古老、最神秘的文明之一。这座古代城市遗址承载着印度河流域古代文明的瑰丽历史,其兴盛和衰亡依然是考古学界的谜团之一。本文将深入探讨摩亨佐-达罗的历史、文化、城市规划以及考古发现,带领读者踏上一段时光之旅,探寻这座古代城市的奥秘。 摩亨佐-达罗,古代印度次大陆的一颗明珠,曾繁荣于公元前2500年至前1900年之间,距今已有四千多年的历史。它位于印度河流域,是印度次大陆上最早的城市之一,与古埃及、美索不达米亚和中国的古代文明同时代存在,被认为是古代城市规划的杰作之一。 摩亨佐-达罗的城市规划令人叹为观止。这座城市坐落在广阔的平原上,被高耸的城墙环绕,城内街道整齐划一,建筑设计精巧。考古学家发现了庞大的公共浴场、神庙、市场和居住区,揭示了这座城市繁荣的一面。 这座古代城市的文化也令人着迷。摩亨佐-达罗的居民使用了印度河流域的原始文字,但至今尚未被完全解读。考古学家在城市遗址中发现了雕刻精美的印章、首饰、陶器和艺术品,这些文物反映了当时居民的技艺和审美。此外,古代宗教和宗教仪式在这座城市中也扮演着重要角色,神庙和祭坛的存在证明了当时居民的宗教信仰。 然而,尽管摩亨佐-达罗繁荣了千余年,它的兴盛和衰亡仍然是一个谜团。考古学家发现城市遗址中的大火痕迹和废墟,这些发现暗示着一场灾难性的事件,但具体原因尚不清楚。一些理论认为可能是印度河的改道或自然灾害导致了城市的沦陷,但真相仍待揭示。 在近年来的考古发现中,摩亨佐-达罗继续为研究人员提供新的线索。通过对城市遗址的考古挖掘和科技手段的运用,考古学家不断深入了解这座城市的结构和历史。此外,摩亨佐-达罗也被列为联合国教科文组织的世界文化遗产,成为了国际上备受关注的历史遗址。 摩亨佐-达罗的独特之处还在于它为研究古代文明和城市规划提供了重要材料。它的城市规划和文化元素不仅影响了印度次大陆的后续发展,还为全球城市设计和文明研究提供了重要参考。 除此之外,摩亨佐-达罗也为游客提供了一次难忘的历史之旅。如今,人们可以参观这座古代城市的遗址,漫步在曾经繁华的街道上,欣赏古老的建筑和文化遗产,感受古代文明的独特魅力。 摩亨佐-达罗是一个千年的谜团,它的兴盛和衰亡仍然让人们感到好奇。作为古代印度河流域文明的一部分,这座城市为人类历史和文化研究提供了宝贵的线索。它的城市规划和文化遗产不仅令人叹为观止,也启发了对古代文明和城市生活的深入思考。摩亨佐-达罗,永远的谜团,永恒的魅力。

David Kong:酒店业的领航者

在全球酒店业中,David Kong的名字无疑是响当当的。作为Best Western Hotels & Resorts的首席执行官,他以其深厚的经验、创新的思维和坚定的领导力,推动这家企业走在了酒店行业的前沿。 从基层到高层:一步一个脚印 David Kong并不是一个天之骄子,他的成功故事充满了努力和坚持。他的职业生涯从酒店业的基层开始,从最初的服务员,一步步晋升到管理层。这段时间的经历不仅为他积累了丰富的酒店业务知识,更培养了他与员工、客户打交道的技巧。 加入Best Western:一个新的开始 David Kong在多家知名酒店企业工作后,最终选择加入了Best...