Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

战略先锋:Andrew Tan与他的商业版图

在菲律宾的商业领域中,Andrew Tan是一个响当当的名字。他的事业从地产开始,逐步扩展到酒业、游戏娱乐和餐饮等多个行业,形成了一个多元化的商业帝国。而在这些成功背后,是他不懈的努力、深沉的战略眼光和对商业趋势的敏锐洞察。 Andrew Tan出生于福建省,年少时随家迁居至菲律宾。与许多成功的华裔企业家一样,Andrew Tan的成功之路并不是一帆风顺。刚开始,他在马尼拉的市场中摸爬滚打,凭借敏锐的商业嗅觉和坚韧的性格,逐渐打下了商业的基础。 20世纪90年代,Andrew Tan创立了Megaworld Corporation,标志着他在房地产业的崭露头角。凭借其独特的城市开发理念和高效的项目管理,Megaworld迅速成为菲律宾的主要地产开发商之一。但他并没有止步于此,继续扩展商业版图,先后涉足了酒业、餐饮、娱乐等多个行业。 在酒业领域,Andrew Tan创建的Emperador品牌更是成为菲律宾甚至全球的著名品牌,其产品遍布各大超市和酒店,受到了广大消费者的喜爱。而在娱乐领域,他投资的Resorts World Manila成为了菲律宾最受欢迎的娱乐度假胜地之一,吸引了众多国内外游客前来。 Andrew...

印度文坛之星:深度探寻维克拉姆·塞斯的文学奇才

维克拉姆·塞斯(Vikram Seth)是印度文学界最杰出的作家之一,以其卓越的文学才华、多才多艺和国际声誉而备受世界瞩目。他是印度文学的代表性人物之一,也是文学创作的奇才。本文将深入探讨他的生平、文学作品、文学哲学以及他在文学界的独特地位。 维克拉姆·塞斯于1952年出生在印度加尔各答,他的文学生涯始于20世纪70年代。他以其精湛的写作技巧和文学多样性很快崭露头角,成为印度文学界的新星。他的文学作品涵盖了小说、诗歌、散文和儿童文学等多个领域。 他的文学作品备受赞誉,他以其卓越的叙事能力和深刻的人物塑造而闻名。他的代表作之一是小说《一千零一夜》(A Suitable Boy),这部作品被誉为是印度文学的杰作,深刻地描绘了印度社会和家庭生活。 他的文学作品还包括了诗集《秋日·早晨》(The Golden Gate)和小说《精灵之书》(An Equal Music)等,这些作品展现了他的文学多才多艺和对人类情感的深刻洞察。 维克拉姆·塞斯的文学哲学强调文学的力量和人类情感的共鸣。他认为文学是一种沟通的桥梁,能够跨越文化和语言的障碍,打开人类心灵的窗户。他的作品充满了温情和智慧,为读者带来了深刻的思考和感受。 尽管他的文学事业在文学才华和国际声誉上备受认可,但他的生平也充满了挑战和努力。他常常在创作过程中面临写作的压力和文学形式的探讨,但坚持不懈地追求文学艺术的完美。他的创新精神和才华是他成功的关键,也是他在文学界的独特地位。 维克拉姆·塞斯是印度文坛之星,以其卓越的文学才华、多才多艺和国际声誉备受尊敬。他的文学作品深刻反映了印度社会和文化的多样性,为印度文学界留下了深远的影响。他是文学的奇才,是情感的大师。

中国最大问答社区却屡次被罚,周源将带领知乎将何去何从?

他从小热爱物理,但无意间接触了父亲的三八六电脑,对计算机可谓是“一见钟情”。高中毕业后。 他大胆地报考了当时仅处于新兴行业的计算机专业,并且坚信计算机前景广阔,后来又继续攻读硕士,探索未知的计算机世界。 毕业后,他做过码农,也做过IT记者,最后还是决定自己创业,奈何突遇资金断裂。后来瞄准了国外的Quora,决定做一款中国的Quora,知乎由此诞生,花了十年时间从用户不足两百人到现在成为国内最大的在线问答社区。 1980年,周源出生于贵州贵阳,父母都是知识分子,他的父亲是一名新闻工作者,饱读诗书,他的母亲是一名教师。 在家庭氛围长大的他从小动手能力就很强,尤其喜欢物理这门学科,本以为他大学会选择物理专业,成为一名优秀的物理学家。 选择计算机行业可是他却选择了当时刚刚新起的计算机专业,原来他早在初中看到了父亲正在使用三八六电脑,十分感兴趣。 苦于我国当时计算机并不发达,他的许多问题并没能得到解决,所以他下定决心要自己亲自去探索,这也是他选择计算机的原因。 高考过后,他被成都理工大学的水上图书馆所吸引,正式成为了成都理工计算机学院的一名大学生。 在大学期间,他除了学习专业知识外,对大学生创业也十分关注,但当时大学生创业远没有今天有如此多的优惠政策,反而壁垒重重。 他得知同为计算机专业的丁磊,创办的网易在纳斯达克上市,受到十分大的触动,他更加坚信计算机这条路没有走错。 同时,在校期间也尝试过小型的创业,他和院里的几个同学一起创办过计算机服务部,卖出了14台电脑,放在今天可能算不了什么,但在当时已经算是不菲的成绩了。 大学毕业之后,也有不少公司向他抛出了橄榄枝,可他认为自己资历尚浅,还需要继续学习,于是他考上了东南大学软件工程专业的硕士。 研究生毕业之后,他如愿成为了一名程序员,他在上海的一家大公司负责底层数据库的开发,大城市的光鲜亮丽和足够稳定的工作让他被不少人羡慕,可是他真的甘心每天在屏幕前敲代码吗? 日复一日的代码工作对他来说并不是什么头疼的事情,但是却让他觉得枯燥疲倦,他开始思考自己学计算机的初心到底是什么了,可以说这是周源最迷茫的一段时间了。 成为记者2005年,他选择离开上海来到北京,在《IT 经理世界》杂志社成为了一名记者,有人会说程序员不都是不善言辞的吗,一直以来给人沉闷感觉的程序员,也可以做能说会道的记者? 或许是从小受到父亲记者职业的影响,他除了是一名优秀的程序员,还十分善于和别人沟通交流,再加上IT记者并不是普通的记者,只有懂计算机的人才能当IT记者,周源大概是最好的选择。 他专门负责报道科技公司和企业首席信息官,这段记者生涯让他见识了很多企业的成长,比如腾讯、百度等知名公司,他越发对计算机前景充满信心,同时也对创业充满了憧憬。 于是在2007年,他利用自己敲代码的老本行和同事一起创办了一个网站,没想到的是创办第一个月就超过了《IT 经理世界》主站的流量。 他发现大家对于IT的关注度也在逐渐提高,属于IT的时代即将来临,同时他认为自己做的产品远比写一篇IT文章要得到的关注度高,他开始思考是否应该回归到自己的老本行? 事实证明,他终究还是属于计算机的世界,三年的记者生涯也只是他的一段过渡时期。 创业2008年他辞去了记者的工作,正式成为了创业大军中的一员。他最初的想法是利用模拟机器人做淘宝这种大型网站的压力测试工作。 后来发现这种技术难度较大,需要花费非常多的时间和精力才能去实现。面对这样的情况,他并没有选择死磕到底,而是另辟蹊径,转身做了帮企业在百度等搜索引擎投放广告用的管理软件Meta搜索。 这本是个大有前景的搜索软件,而且Meta本身也并不比当时的同类其他软件差,但苦于周源只是个善于敲代码的“技术猿”,对于软件如何运营、如何融资是一窍不通,三年的记者生涯也从来没有接触过这些东西。 软件做出来之后他并没有去寻找真正的市场需求,而是经常把别人的建议当作真实的市场需求,以至于用自己的虚假设想来推动软件的发展,反而将其与现实越来越远,最后因为资金链的断裂导致第一次创业失败。 创业失败的他在西藏偏僻的一家小旅馆里仔细思考第一次创业失败的原因,他并没有因为第一次创业失败而颓废,反而对做软件有了新的看法,他要做一款以自己为用户的软件。 正巧当时国外出了一款名叫Quora的新产品吸引了他,这个产品是一款问答机制的软件,让他开始思考人与人、人与信息之间的关系。 创办知乎正是抱着为大家解决问题,能够有人回答的初衷,2010年8月他创办了知乎。经过第一次创业失败的经历,他不仅将知乎本身做更好,还拿到了投资来支撑知乎的发展, 2011年3月,周源就拿到了李开复的天使投资,之后陆续又拿到了启明的投资,可以说在知乎发展的前期就已经做好了充足的资金支持。 原先知乎的用户只是一些计算机爱好者,之后逐渐拓展到每一个平民百姓,并且对于回答问题所谓的“专家”也进行了严格的证明,以免一些人在上面冒充“专家”招摇撞骗,同时也为了提高解决问题的效率。 十年的时间,知乎从以前的一个只有两百人的问答社区变成了国内最大的在线问答社区,并且在2020年12月已经启动了上市程序。 但是表面上看知乎的确是越做越大了,但周源似乎也从一个认真做为民众带来幸福感的软件的工程师变成了一个商人,他的初心在近些年也是屡次遭受质疑。 2017年以前的确是因为风格独特且有深度的回答受到了不少人的关注,但从2017年引入巨额融资开始后,知乎似乎就变成了一个商业化的平台,充斥着广告和娱乐新闻。 有的文章甚至为了博眼球,会取一些诋毁明星的标题来获得浏览量,当然也有一些优质作者依然坚守在知乎,乞求在这个日益商业化的平台中博得一方净土。 希望知乎能够在做大的同时多一点耐心,多倾听一下用户们的意见,尤其不要忘记了自己的初心。

持续创新的通信巨头: 重田康光与光通信的辉煌历程

重田康光(Yasumitsu Shigeta),出生于日本东京,是日本通信及保险业的重要人物。他是东京上市公司光通信(Hikari Tsushin)的创始人和主席,该公司主要经营移动电话销售,并在其HIT Shop连锁店中展售,同时也销售保险和办公设备​。重田康光在1988年创立了光通信,并在多年的努力下,使得该公司成为日本通信领域的佼佼者。 在2000年,由于网络泡沫破裂,光通信的股票价值大幅下跌,导致重田康光的财富损失惨重。但是,他并没有放弃,通过多年的努力和调整经营战略,使得光通信在2005年恢复元气,并再次成为通信领域的佼佼者​。根据2023年的数据,他的个人财富达到了16.5亿美元,是当年最大的财富增长者之一,尽管这还远远未能达到他在2000年2月42亿美元的财富顶峰​。 重田康光的教育背景颇为优秀,他在东京的一所知名高中毕业后,进入了著名的东京大学学习经济学​。在职业生涯中,除了光通信,他还曾担任过多家公司的主席和总裁,包括Call to Web, Inc., Little I...