奖项申报奖项申报奖项申报奖项申报

Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

水墨巨匠:探寻张大千的艺术传奇

张大千(Zhang Daqian),是中国艺术界最杰出的水墨画家之一,以其卓越的艺术创作、传统与现代的融合和国际影响备受世界瞩目。本文将深入探讨他的生平、艺术作品、艺术哲学以及他在中国和国际艺术界的独特地位。 张大千于1899年出生在中国四川省,他的艺术生涯始于20世纪20年代。他是中国艺术界的代表性人物之一,也是中国水墨画的奇才。他的艺术作品涵盖了山水、花鸟、人物等多种题材,以及传统的水墨画和现代的色彩画。 张大千的艺术创作备受赞誉,他的作品常常融汇传统和创新,将古老的艺术传统注入现代的艺术语言。他的代表作之一是山水画作品《千里江山图》(A Thousand Li of Rivers and Mountains),这幅画作深刻展现了中国山水画的精髓,以及对自然景观的深情表达。 他的艺术作品还包括花鸟画作品如《牡丹图》(Peonies)和人物画作品如《五百罗汉图》(Five Hundred...

中国“炸串界一哥”王宽宽,靠炸串半年赚3.7亿,三年开店数千家!

同样是卖炸串,为何他如此优秀?90后小伙中途辍学创业,半年就狂揽2.95亿投资,短短3年,门店数量猛增至1976家。 平均每月销售6000万串产品,门店覆盖29个省级行政区域,300余座城市,被美食爱好者称为“炸串界的蜜雪冰城”。 目前这个数据一直保持增长的趋势,更是在最近宣布完成A+轮7500万元融资。那么他究竟是何方神圣?在他的背后又有着怎样的创业历程? 高材生卖烧烤喜姐炸串的创始人叫王宽宽,于1990年出生在江苏徐州丰县的一个农村里,是个地地道道的“农村小伙”。 他的父亲并没有如同其他农民一般在家种地、养殖,而是选择做“五花八门”的生意,不得不说王爸还是很有商业头脑的,靠着做生意养活了一大家人。 在父亲的耳濡目染下,王宽宽对创业做生意很有想法。高考时他以优异的成绩进入了南京财经大学就读电子商务专业,这也是他创业之梦开始的地方。 初来南京的他,经常和朋友一起去小吃街吃烧烤撸串,渐渐地也喜欢上了这种烟火气息。在学校的学习生活十分的单调。 每天听着老师说谁谁谁创业成功了,谁谁谁又赚了多少多少,他就心痒痒,心想那要是自己就好了。大一还没结束,他彻底按耐不住创业的想法,选择辍学创业。 期待满满的王宽宽,在开始创业后才发现,创业没他想的那么简单,毫无经验的他更是四处碰壁,从互联网,到麻辣烫、火锅店、烧烤店等无一例外全部以失败告终。 他几乎将整个餐饮业能干的都干了一遍,这让他很是沮丧。十一次创业的失败,使他精神和身体感到前所未有的疲惫,期间更是有合伙人“背刺”。 他也一度想过放弃,可以心里的不甘心支撑着他坚持了下来。那么在创业初期屡战屡败的他,在接下来会做出怎样的选择呢? 他又能否一鸣惊人呢?选择再战一次的王宽宽,将目光再一次放到了餐饮业上面。 和炸串的不解之缘2013年左右,王宽宽再战麻辣烫,这一次不是普通的麻辣烫,而是砂锅麻辣烫,皇天不负有心人,失败近十次的他这一次终于有了收获。 不到几年时间门店数量便超过了1000多家,风靡整个餐饮界,更是一度成为南京的知名品牌。可是好景不长,从2018年开始,该项目便开始变得乏力起来。 王宽宽等多位合伙人也尝试了各种方法,但最后都不尽人意,害怕耗下去得不到发展的王宽宽,选择放弃这个项目,重新出发。 这一次,王宽宽没有盲目的进行创业,而是选择走进小吃街大吃一顿,在寻找美食的路上寻找创业灵感。 他发现:炸串是我们所有人的共同回忆,从学校门口那辆炸串小三轮,到美食街的炸串小店,都排起了长队,可以说只要有炸串的地方就有人。 而且炸串的种类也十分多,可谓是“万物皆可炸”,也正是如此炸串的受众面很广,毛利润还高,还是全国性很有发展前景。 王宽宽的市场调查之旅也正式结束,有了创业方向的他,很快的便将它提上了行程。2015年,第一家喜姐炸串在南京新街口正式开张。 乍一听店面,还以为是自家姐姐开了一个炸串店,无形中也拉进了顾客与商家之间的距离,这也是王宽宽取这个名字的目的所在。 新街口更是有着中华第一商圈之称,高人流量,接地气店面,让人眼前一亮的装修风格,再加上先前创业的经验,还没正式营业的时候,王宽宽便做起了发家致富的美梦。 可是现实却给了他当头一棒,营业一个月,生意惨淡的可怜,最高的一天也刚过2000元,最低的一天还不到600元,收入就连开店成本都不够,更别提赚钱了。 这让他十分的郁闷,一定是那里出现了问题。左思右想后,他终于发现了问题所在,原来是门头的原因,之前装修的时候为了讲究格调,将字弄的很小。 而且店标还是一个胖胖的喜姐,一眼看上去没人会觉得它是一个炸串店,更像一个月子会所。 发现问题所在的王宽宽连夜更改了门头,将背景颜色换成了鲜艳的红色,其中也只有四个大字“喜姐炸串”,还将它放到了最显眼的地方。 事实证明,门头就是店的第一个招牌,换了门头的喜姐炸串,营业额倍增,平均日流水可达2万多元,比起之前最高的时候还翻了十多倍。 2019年国庆期间,单店日流水更是高达7万元。这时王宽宽也有了将喜姐炸串开遍中国的想法,那么喜姐炸串能成功地开遍中国吗? 炸串也能有讲究喜姐炸串受到广大美食爱好者的喜爱后,王宽宽没有为赚钱而降低品质,他知道消费者需要的是什么,为了满足他们的需求,喜姐炸串从原材料入手。 选择优质新鲜肉类,严格按照供应商准入标准执行,为了提高食用的口感,王宽宽创新地使用九宫格来炸串。 保证出餐速度同时也保证了食用的口感,还制定出了各种炸串最佳的炸制时间。一时间,喜姐炸串成为了年轻人每日必吃的不二选择。 成立了两年半的喜姐炸串,从南京走向了全国,在江苏、浙江、江西等29个省级行政区域,300多个城市里都有着喜姐炸串的影子。 2018年,喜姐炸串门店就已经超过了1400多家,每月新开门店可达近百家,而且真的是开到哪儿火到哪。在发展的同时,王宽宽还决定建立最适用于喜姐炸串的发展模式。 他先从供应链入手,建立了属于自己的供应链,将复杂的上游操作都放到工厂完成,加盟门店只需要做最简单的炸制售卖即可。 所有的产品需求都全链条配送,让没有经验却想创业的人有一个机会。目前喜姐炸串也有了一套完善的供应链。 据了解,截至目前,喜姐炸串在中国已经建立了9个总仓,覆盖了喜姐炸串全国门店,也大有朝着万店发展的迹象。 近日,据媒体报道,喜姐炸串宣布完成A+轮7500万融资,而本次投资则是大名鼎鼎前阿里CEO卫哲创立的嘉御资本进行的独家投资。 这也是喜姐炸串半年里的第二次融资,早在去年十月,喜姐炸串就已获得2亿多的融资。截至目前,喜姐炸串累计融资金额已超3亿,俨然成为了“炸串界一哥”。 喜姐炸串创始人王宽宽表示:成立之初,百城万店就是喜姐的目标,如今我更有信心了,万店已不是梦想。 喜姐炸串今年的目标就是,将长沙分仓建好,加大对西南地区辐射,争取新增签约门店两千家,将重点城市门店占比提升到60个点以上。 在五年内达到百城万店的规模,打造一个千亿市值的企业,让更多想创业的年轻人能够实现梦想,我也相信未来喜姐炸串一定能完成百城万店的目标。

Sanghamitra Bandyopadhyay:计算机科学的女性领袖

Sanghamitra Bandyopadhyay(桑哈米特拉·班迪奥帕迪亚)是一位备受尊敬的计算机科学家,她的卓越成就和领导地位使她成为了国际科学界的杰出代表。她在计算机科学和生物信息学领域的杰出贡献以及对女性在科学领域的鼓励使她成为一个备受关注的女性科学家。本文将深入探讨Sanghamitra Bandyopadhyay的生平、学术成就以及她在推动科学研究和性别平等方面的重要作用。 早年生活与教育 Sanghamitra Bandyopadhyay出生在印度,自幼展现出对科学的浓厚兴趣。她在印度一所著名大学攻读计算机科学学士学位,并在研究生阶段选择了计算机科学作为专业。她的早期教育为她未来的科研工作奠定了坚实的基础。 生物信息学研究与突破 Sanghamitra Bandyopadhyay教授在生物信息学领域取得了多项重要突破。她的研究涵盖了基因组学、蛋白质组学和生物数据分析等多个方面。她开发了创新的算法和工具,用于解决生物信息学中的复杂问题,例如基因识别、蛋白质相互作用预测和疾病基因的鉴定。她的工作在生物医学领域产生了深远的影响,有助于理解和治疗许多疾病。 女性科学家的榜样 作为一名杰出的女性科学家,Sanghamitra Bandyopadhyay一直致力于鼓励和培养女性在科学领域的发展。她不仅以自己的学术成就为女性科学家树立了榜样,还积极参与性别平等和科学教育方面的倡导工作。她的工作鼓励了更多的女性加入科学研究,并为她们提供了机会和支持。 教育与科研传承 Sanghamitra Bandyopadhyay教授一直热衷于科学教育和知识传承。她担任大学教职,培养了许多年轻的科学家和研究人员,传递自己在生物信息学和计算机科学领域的知识和实践经验。她鼓励年轻一代积极参与科学研究,为培养更多的科学领袖和专业人才做出了重要贡献。 科技政策与国际合作 Sanghamitra Bandyopadhyay教授积极参与印度的科技政策制定和国际科研合作。她在政府和科技部门担任重要职务,为印度的科技创新和研究提供了专业建议。她的国际科研合作为印度在生物信息学和计算机科学领域的发展提供了重要支持,促进了全球科学界的交流与合作。 奖项与荣誉 Sanghamitra...

《亚洲人物》2023年度U30榜单:Vincent Xu引领物联网创新之光

在展望亚洲未来的光辉道路时,我们必须关注那些在推动社会进步、科技创新和文化交流中发挥核心作用的年轻领袖。《亚洲人物》2023年度U30榜单正式揭晓,旨在表彰那些年龄不超过30岁、在各自领域内展现出非凡才华和卓越成就的青年杰出人物。这份精选榜单是对亚洲最具前瞻性和创新精神的青年领袖的最高荣誉和国际认可,涵盖了科技、经济、文化、艺术及社会公益等多个领域。每位入选者不仅代表了其所在领域的卓越成就,更是亚洲青年一代力量的象征,他们的故事和成就激励着全球范围内的年轻人勇于追求梦想,积极贡献社会。 在物联网(IoT)技术飞速发展的今天,一位年轻的创业者在新加坡引发了一场革命。Vincent Xu,AetherIoT的联合创始人,凭借其在实时位置和传感器解决方案领域的创新,被《亚洲人物》评选为2023年度U30榜单上的杰出人物。这份荣誉不仅是对Vincent个人才华和创新精神的认可,更是对他在推动物联网技术进步和应用方面所做出贡献的肯定。 Vincent Xu的AetherIoT提供了一种无需硬件基础设施、全由电池供电的实时位置和传感器解决方案,这一突破性的产品改变了传统认知,使其成为业界的领先者。通过与多个软件平台的兼容性以及将数据转换为图表和图形的能力,AetherIoT的解决方案极大地加快了运营速度,改进了库存管理,并提高了健康与安全水平。Vincent的公司已经成功吸引了包括巴西国家石油公司Petrobras和法国个人护理巨头欧莱雅在内的客户。 Vincent从哥伦比亚大学毕业后,在谷歌工作,积累了丰富的经验和洞见。他对技术的深刻理解和对未来的独到见解促使他投身于物联网领域的创新和创业之中。Vincent认为,物联网技术有潜力彻底改变我们管理和互动世界的方式,他希望通过AetherIoT推动这一变革。 Vincent的创业精神和创新才能得到了业界的广泛认可。在他的领导下,AetherIoT不仅开发出了领先的技术产品,更展示了物联网技术在现实世界中的广泛应用潜力。从提高生产效率到确保工作场所安全,Vincent和他的团队正在为客户提供解决方案,以应对日益复杂的挑战。 在接受《亚洲人物》杂志采访时,Vincent表示:“物联网技术是连接物理世界和数字世界的桥梁。我们的目标是利用这一技术,为人们创造更安全、更高效、更便捷的生活和工作环境。”他的愿景和努力,正是他被评为《亚洲人物》2023年度U30榜单上杰出人物的原因。 随着物联网技术的不断发展,Vincent Xu无疑将继续在这一领域内发挥重要作用。他的故事不仅激励了同龄人追求科技创新和创业梦想,也向世界展示了亚洲年轻一代在全球科技革命中的活跃和贡献。Vincent Xu的成就,是对年轻创新者勇于探索未知、勇攀科技高峰精神的最佳诠释。 为了深入了解《《亚洲人物》杂志2023年度亚洲30岁以下影响力人物 - U30榜单的详细报道,我们诚挚邀请您订阅《亚洲人物》杂志。通过订阅,您将获得对这些杰出人物背后故事的全面洞察,以及他们如何在各自领域内产生深远影响的深度分析。To gain comprehensive...