FigureAsia  Prize & Award 2024  NominationsFigureAsia  Prize & Award 2024  NominationsFigureAsia  Prize & Award 2024  NominationsFigureAsia  Prize & Award 2024  Nominations
商务合作商务合作商务合作商务合作

Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

从斯坦福到Zepto:Aadit Palicha和Kaivalya Vohra的创业故事

Zepto帮助开创了印度的快速商业模式——现在其联合创始人希望从更大的竞争对手手中夺取市场份额。 当19岁的Aadit Palicha和Kaivalya Vohra放弃斯坦福大学的名额,推出承诺10分钟送达的印度杂货配送服务时,潜在投资者笑了。然而,这对在2022年《亚洲30位30岁以下精英》榜单上榜的年轻人毫不气馁,2021年推出了Zepto。三年后,他们已经成为印度第三大快速商业公司,以商品总值计,每天通过40,000名配送员在十个城市配送50万件商品,并从杂货扩展到玩具、裤子等各类商品。 下一步的挑战是蚕食其主要竞争对手Blinkit和Instamart的市场份额。“最大的挑战是保持严谨的态度,”公司首席技术官Vohra说道。为了资助其扩展计划,总部位于孟买的Zepto已经从包括美国创业加速器Y Combinator和风险投资公司Goodwater Capital在内的知名投资者那里筹集了5.5亿美元,最新一轮融资对公司的估值达到14亿美元。未来18到24个月内,IPO也在计划中。 虽然疫情推动了印度的配送行业,Zepto帮助创建了快速商业这一细分市场。根据德国数据公司Statista的预测,这一市场的销售额预计将从今年的33亿美元增长到2029年的100亿美元。CEO Palicha表示,Zepto在截至3月31日的财年收入预计将达到506亿卢比(约合6.1亿美元),比去年增长150%。他还预计Zepto将在未来几个月内首次实现运营利润,此前2023财年亏损127亿卢比(约合1.55亿美元)。“核心业务正在快速发展,”他补充道。“我们希望在地理范围和产品类别上同时扩展。” Zepto表示,其95%的订单来自回头客,计划在未来几个月内扩展到诸如斋浦尔和苏拉特等较小城市,在德里和孟买等主要城市建立基础后。自2023年末推出以来,公司还推出了自有品牌Relish的肉类和海鲜产品,销售额达15亿卢比。其他举措包括Zepto Café服务,提供热饮和小吃,而新的忠诚度计划Zepto Pass自2月份以来已经签约了400万用户。 两位创始人在迪拜三年级时相识,并自然形成了一个团队。2020年,他们双双被斯坦福大学录取,计划学习计算机科学。但当所有课程因疫情转为线上时,两人申请了间隔年。在Vohra位于孟买郊区安泰里的家中,他们意识到老年邻居在获取日常必需品方面存在困难。这促使他们想到了KiranaKart,一个从本地小店(kiranas)提供超本地配送服务的想法。他们每天在孟买的大街小巷奔波三个月,向当地商店推销他们的应用——在产品和库存管理、需求预测和配送延迟方面学到了宝贵的经验。“我们的父母希望我们关闭公司去斯坦福,”Vohra回忆道。 相反,他们放弃了斯坦福的名额,于2021年1月至3月参加了加州创业加速器Y Combinator的创业计划。一个月后,他们基于人们对快速杂货配送的需求创立了Zepto。(Zeptosecond是物理学中可测量的最短时间单位。)他们还意识到,仅仅做配送无法致富:必须控制整个供应链和客户体验。 快速配送的关键在于340个“暗店”或仓库的网络,这些仓库位于主要住宅区附近,储存着6000种最受欢迎的产品。(Zepto计划在未来几个月内将其增加到1万种。)通过租赁偏僻位置来保持低成本。接下来是快速履约:订单在不到一分钟内被挑选、打包、装袋并发出。一支由骑自行车和摩托车的配送员组成的队伍接单并使用显示实时交通状况的路线工具,客户可以在手机上跟踪配送情况。从仓库到前门的平均距离约为1.5公里,中位配送时间为11分钟。“客户并不在乎10分钟变成15分钟甚至20分钟,”总部位于古尔冈的零售咨询公司Technopak的Arvind...

巴塔·萨拉希·穆克吉:一位卓越的化学家和科研家

巴塔·萨拉希·穆克吉(Partha Sarathi Mukherjee)是一位备受尊敬的化学家和科学家,以其在有机化学领域的杰出贡献而广受赞誉。他的学术生涯充满了创新和领导力,对科学研究和化学领域的发展产生了深远的影响。本文将深入探讨巴塔·萨拉希·穆克吉教授的生平、学术成就以及他在化学领域的重要贡献。 早年生活与教育 巴塔·萨拉希·穆克吉教授生于印度,自幼就表现出对科学的浓厚兴趣。他在印度攻读化学学士学位,并在研究生阶段选择了有机化学作为专业。他的早期教育为他未来的科研工作奠定了坚实的基础。 有机化学研究与突破 巴塔·萨拉希·穆克吉教授在有机化学领域取得了多项重要突破。他的研究涵盖了有机合成、催化化学和分子设计等多个方面。他的工作在有机化学领域具有广泛的应用,为新药物的合成和材料科学的发展提供了重要支持。他的研究不仅在学术界备受推崇,还在工业界产生了实际的影响。 高等教育与科研传承 巴塔·萨拉希·穆克吉教授一直热衷于高等教育和科研传承。他担任大学教职,培养了许多年轻的化学家和研究人员,传递自己的有机化学知识和实验经验。他鼓励年轻一代积极参与科学研究,为化学领域培养了更多的专业人才。 科研政策与创新 巴塔·萨拉希·穆克吉教授积极参与科研政策制定和科技创新工作。他在政府和科研机构担任重要职务,为印度的科技研究和创新提供了专业建议。他的领导力和创新思维有助于推动印度在科技领域的发展,促进科技创新和科学研究合作。 奖项与荣誉 巴塔·萨拉希·穆克吉教授的卓越贡献赢得了多项国际性科学奖项和荣誉。他被授予了多个著名奖项,以表彰他在有机化学领域的杰出成就。这些奖项和荣誉证明了他在科学界的卓越地位和影响力,也为他的科研工作提供了高度的认可。 巴塔·萨拉希·穆克吉教授是一位备受尊敬的化学家和科研家,他通过自己的科研工作和领导力不断推动着有机化学的进展。他的研究在有机合成和催化化学等领域取得了突破性进展,为新药物的合成和材料科学的发展提供了新的方法和工具。他的科研传承工作为培养了更多的化学家和研究人员,推动了科学在印度的发展。巴塔·萨拉希·穆克吉教授的社会责任感和科技创新精神为印度的科研和教育事业注入了新的活力,有助于推动科学对社会和经济的发展。他的故事是科学研究和科研政策的典范,激励着年轻一代的科研人员,追求卓越,不断推动科学的进步。

AR·拉赫曼:音乐传奇的律动

AR·拉赫曼,全名阿瑞·拉赫曼(A. R. Rahman),是印度音乐界的传奇巨匠,以其卓越的音乐才华、多元的音乐风格和国际影响力而备受世界瞩目。本文将深入探讨他的生平、音乐作品、艺术理念以及他在国际音乐界的杰出地位。 AR·拉赫曼于1967年出生在印度的马德拉斯(今钦奈),是一位多才多艺的音乐家和作曲家。他的音乐之旅始于年幼时,他接受了古典音乐和作曲的专业培训。然而,他的音乐生涯在20世纪90年代初才真正崭露头角,当时他涉足了印度电影业。 AR·拉赫曼的电影音乐作品迅速吸引了广泛的注意,因为他的音乐风格独具特色,融合了印度传统音乐和西方流行音乐元素。他的第一个印地语电影配乐作品《罗阿尔》(Roja,1992)一举成名,使他获得了印度国内外的广泛认可。这部电影的音乐深刻地表达了爱情、激情和祖国之情,为AR·拉赫曼赢得了印度国家电影奖。 随后,AR·拉赫曼的音乐作品在印度电影界独树一帜,他与导演曼尼·拉特南合作的电影如《亡命天涯》(Bombay,1995)和《达尔玛蒂亚》(Dil Se,1998)等都成为了音乐经典,受到观众和评论家的喜爱。他的音乐跨足了各种流派,包括印度古典音乐、流行音乐、电子音乐和世界音乐,具有卓越的创新性和多元性。 然而,AR·拉赫曼的国际音乐事业在2008年达到了新的高峰,当时他为英国导演丹尼·博伊尔的电影《贫民窟的百万富翁》(Slumdog Millionaire)创作了原声音乐。这部电影的音乐不仅赢得了奥斯卡奖和金球奖等多项国际大奖,还让AR·拉赫曼的名字广为人知。这次成功为他打开了国际音乐市场的大门,让他在国际舞台上崭露头角。 AR·拉赫曼的国际音乐事业迅速发展,他开始与全球知名音乐家和制作人合作,为国际电影、音乐剧和音乐会创作音乐。他的音乐跨足了多个领域,包括好莱坞电影、百老汇音乐剧和世界各地的音乐会。他的作品常常融合了不同文化的音乐元素,创造出独具魅力的音乐风格。 AR·拉赫曼的音乐作品不仅具有美妙的旋律和和谐的编曲,还常常表达深刻的情感和人性的复杂性。他的音乐作品常常反映了他对社会、文化和人类关系的思考,成为了跨文化交流和理解的桥梁。他的音乐不仅是娱乐,还是一种表达和思考的媒介。 除了音乐作品,AR·拉赫曼也是一位活跃的音乐教育家和慈善家。他通过各种方式支持音乐教育和培养年轻音乐家的工作,致力于将音乐的力量传递给下一代。他还积极参与慈善事业,为社会弱势群体提供帮助和支持。 AR·拉赫曼的国际影响力不仅体现在他的音乐作品上,还体现在他在音乐界的领导地位上。他是一名活跃的音乐制作人和音乐工程师,为全球音乐产业的发展和创新作出了巨大贡献。他的音乐不仅是一种艺术,还是一种文化交流和沟通的方式,为全球音乐的多元性和包容性做出了重要贡献。 AR·拉赫曼是当代音乐界的传奇巨匠,他以其卓越的音乐才华、创新的音乐风格和国际影响力而备受世界瞩目。他的音乐作品深刻地反映了人类情感和文化多样性,成为了音乐界的瑰宝。他的影响不仅限于音乐领域,还延伸到了全球社会和文化领域,为音乐的力量和美妙提供了无尽的动力。

“中国洗衣液一哥”罗秋平:为了创业,放弃读博,把产品做到极致

提到洗衣液,很多人的第一反应就是蓝月亮,自1992年创立至今,蓝月亮品牌凭借着企业对产品、服务、市场判断以及营销方式各个方面的把控,稳稳的奠定了品牌在日化品行业的领军地位。 时至今日,这个老品牌的产品在国内同类产品的排名榜上仍然稳稳地居于领先地位。 在外界的评价看来,罗秋平是个争议性很大的人,他是曾经沉迷哲学的理科男,也曾经为了创业干脆地放弃了读博。 他的营销方式备受争议,他的管理方式一直被人诟病,但即使外界众说纷纭他却始终低调地回避采访。 放弃读博,创立蓝月亮罗秋平出生于湖北荆门,从小成绩优异,1984年,他从武汉大学毕业,又取得了中科院广州化学研究所的硕士学位。 读书期间,他敏锐地看到了市场需求并萌生了创业的想法,为此他放弃了当时免试读博的机会。 1992年,他在广东正式创立了蓝月亮品牌并推出了品牌的首款产品强力型油污克星。 而今谈起品牌创立的过程时,罗秋平却只是轻描淡写的一句“碰巧”轻轻带过。他说只是碰巧去了广东,碰巧在那里创立起这个品牌并将其发展起来。 从1992年到2008年,蓝月亮在兜兜转转中逐渐发展,并在2003年和2008年经历了其发展史上最为重要的两个节点。 洗手液刷屏2003年的SARS肆虐将国人对于个人卫生的重视程度推上了历史的顶峰,此时的罗秋平看准时机大力度进行品牌宣传,彼时的电视广告频频被蓝月亮洗手液刷屏。 由于洗手液规避了肥皂洗手容易造成交叉感染的缺点,再加上蓝月亮线下大量宣传和公益活动的配合,一时间洗手液市场火爆,在很短的时间里就形成了一个新的日化品类,蓝月亮也一举奠定了其在洗手液产品中的领导地位。 推广洗衣液在2008年时,不满足于现状的他又主动出击,突破产品的技术难关,在国内率先开始了洗衣液的推广。 当时的中国市场,用来洗衣服的产品基本上只有两类,肥皂和洗衣粉,由于长期以来养成的洗衣习惯,洗衣液的市场占比极低,从统计出来的数据看,只有不到百分之三的占比。 这一年,是蓝月亮技术的突破,是洗衣液产品在市场上的突破,也是国人多年来洗衣习惯的突破,中国的洗衣液时代就此开启。 在此后的两年里,洗衣液的市场占有率一路飙升突破百分之四十四,蓝月亮的销售额达到了二十亿。 所以与其说罗秋平的创业之路是碰巧开启,倒不如说是他对于市场的敏锐和对机会的把握促成的。 说到蓝月亮的成功,罗秋平的座右铭是“我们不研究竞争者,只研究消费者”,这也是蓝月亮取得成功至关重要的一点。 罗秋平说:“消费者之所以选择蓝月亮,是因为我们能够不断为消费者提供满足他们需求,甚至超乎他们期待与想象的产品”。 从2008年品牌生产的深层洗衣液开始,蓝月亮始终坚持从消费者的角度出发,深度研究消费者需求,以此为根本开展产品技术的开发创新,生产更符合消费者需求的优质新产品。 技术创新,不断发展之后的几年里,蓝月亮陆续推出了宝宝专用洗衣液、旅行专用洗衣液和针对当时已有的普通型洗衣液存在的缺点进行研发的至尊洗衣液。 技术创新是必须要坚持的,也许是因为技术出身,罗秋平对于这一点有着更加执着的坚持。 洗衣液是人们日常所需,庞大的需求量决定了这一类产品的发展速度也是极快的,保持技术创新才能不被市场淘汰。 之后的蓝月亮又开始了浓缩化产品的推进,推出了新一代的超浓缩产品。 对于超浓缩产品的推广,罗秋平解释说,无论是对消费者还是环境而言,新型的超浓缩洗衣液都更加的友好。 由于在使用中,新型的浓缩洗涤剂可以有效地减少包装物和废物带来巨大的环保效益,消费者使用起来更加的方便无负担且更节省。 数据显示,如果所有的消费者都使用浓缩洗涤剂,那么废水减少的排放量将达到242.11 万吨,节省的电能达到85.67亿度。 在美国等发达国家,浓缩洗涤剂几乎已经覆盖了全部的市场,占比将近百分之百。虽然从各个方面来看,新产品都有着明显的优点。但是由于固有的使用习惯和观念的存在,在推广上仍然是很大的挑战。 为了能够更好地实现新产品的推广,品牌除了加大推广力度之外,对于产品的包装设计、浓度和计量等方面也在不断改良,使其更适用于消费者的使用需求。 直销生态除了对技术方面的重视,在产品营销上蓝月亮也另辟蹊径,相较于人们已经习惯的直接的产品推销,蓝月亮提出了“知识营销”的概念,将产品推销的重点放在了对消费者进行相关知识普及上。 从2012年开始,品牌在全国范围内持续将科学洗衣方法等相关知识普及给消费者,帮助消费者解决日常洗衣过程中遇到的疑难问题,将洗涤产品和方案一起完整地提供给消费者,而连续八年市场占有率综合排名第一的成绩就是对这种反常规营销方式的回答。 2015年时,在全渠道战略的大命题下,蓝月亮又开始了一系列的布局,除了传统的商超渠道外,品牌在全国多个地区建立起月亮小屋试图打造直销生态。 还与经销商变雇佣关系为合作关系,以分销、提成的关系组成利益共同体,积极尝试转型。 同时在天猫、京东等主流电商平台开始旗舰店,还在微信端开启了品牌自有的官方商城和服务号,多方面入手,进一步开拓O2O和电商市场。 罗秋平认为,在当前的大环境下,相关的渠道都发生了极大的变化且已经进入了一个相对完善的阶段,全渠道是大势所趋。 为了适应消费者的需求,以客户和消费者为导向是罗秋平在品牌渠道布局中坚持不变的思路,消费者想要在哪里买,蓝月亮就在哪里卖。 坚持专注于消费者需求的研究,专注于消费者需求的技术升级创新,专注于消费者需求产品的开发始终不变,这样的坚持让蓝月亮在多年的发展历程中获得了消费者的喜爱和信任,也让蓝月亮一路发展走到了今天。 随着时代发展和消费升级,消费者对于产品的要求也会不断地升级,罗秋平也将继续与品牌一起,始终坚持立足于消费者的需求,推动产品创新,提供给消费者超过预期的产品和服务的同时实现自身更进一步的发展。