奖项申报奖项申报奖项申报奖项申报

Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

阿伦达蒂·罗伊:文字之力,捍卫人权

阿伦达蒂·罗伊(Arundhati Roy)是一位备受尊敬的印度作家、文学巨匠和社会活动家,以其深刻的文学作品和坚定的社会立场而广受赞誉。她的著作涵盖了文学、政治、社会和人权等多个领域,为了捍卫人权和社会正义提供了坚强的声音。在本文中,我们将深入了解这位杰出文学家和社会活动家的生平和她的文学之旅。 阿伦达蒂·罗伊于1961年出生在印度,她在印度接受了高等教育,后来继续深造。她的文学生涯始于小说创作,但她的影响力远远超出文学领域。 罗伊的文学作品以其深度和敏锐度而备受赞誉。她的代表作之一是小说《上帝小孩落地了》(The God of Small Things),这本小说荣获1997年的布克奖,被翻译成多种语言,成为全球畅销书。该小说深刻探讨了印度社会的复杂性、家庭关系和政治权力,赢得了文学评论家和读者的一致好评。 除了文学作品,罗伊还是一位坚定的社会活动家,她关注的议题包括人权、环境保护、社会正义和反全球化运动。她的政治观点和社会评论常常引发广泛的讨论和反思,深刻触及了印度社会和全球社会的问题。她坚定地反对不平等、社会不公和环境破坏,为弱势群体发声,捍卫人权和社会正义。 此外,罗伊还是一位杰出的演讲者和公共知识分子,她的演讲和文章常见于国际知名出版物,如《纽约时报》和《卫报》等。她的声音在国际舞台上备受关注,为全球社会问题提供了坚强的声音。 她的社会活动包括反对核武器、支持土地权和环保运动,以及批评印度政府的政策和做法。她的活动使她成为争取社会变革和改善人类命运的杰出领袖之一。 阿伦达蒂·罗伊是一位备受尊敬的印度作家、文学巨匠和社会活动家,她的文学作品和社会活动为了捍卫人权、社会正义和环境保护提供了坚强的声音。她的文学作品以其文学价值和深度而备受推崇,同时也为全球社会的发展和改革做出了卓越贡献。

新世界发展CEO郑志刚,造港文化新地标,讲中国故事

他是郑志刚,是新世界发展公司的行政总裁。他被誉为是商人中的艺术家,留着一头艺术家的随性长发和一把滔滔不绝的黑色大胡子。 他之所以获得这个美誉,并不在于他本人对于艺术有着非常高深的见解,也不在于他是业界名宿中首屈一指的大收藏家,更不在于他对于艺术的热爱达到了一个商人的极限。 他真正让人心生敬意的是,他用他那率性的性格培育了一大批青年艺术家,保育了数不胜数的人文情怀留存的旧风景,这其中就包括香港皇都戏院和曹雪芹的故居。 他对民族文化的传播有着自己独特的见解,他讲好中国故事,只为让每一个中华儿女找到属于自己的文化荣耀,并用尽全力找到中国文化本源的初心,最终使每一个炎黄子孙都成为弘扬优秀民族文化的使者。 或许正是如此,中国央视新闻对他独家专访,称他为独一无二的爱国企业家。 那么像这样一个独一无二的企业家,他的理想和抱负究竟是怎样的呢? 01与艺术相识的过程郑志刚出生于1980年,是个妥妥的80后,他不仅从小就是班级最优秀的学生,长大了也立志做行业中的佼佼者,他要做最独具艺术风范的商人。 在哈佛大学东亚文学专业毕业后,郑志刚又去了日本京都,只为学习艺术文化的优秀课程。 当他学成归来回到香港时,他在采访中多次否认自己“继承人”和“接班者”的身份,他希望自己能做一个创业者,创造更新更多的价值,给予企业也回馈社会。 事实上,郑志刚独爱艺术,另辟蹊径,创办了中国第一家艺术购物中心:K11。 有人好奇,购物还能跟艺术结合在一起吗?商业还能和文艺组成一桌美食吗?能。 郑志刚发挥自己的独特艺术鉴赏力讲购物中心修建地像艺术厅堂一样漂亮,甚至在香港K11购物中心的地下三层,独具匠心地修建了一个艺术空间,里面放置着十三组价值2000万的艺术品和工艺品供购物者欣赏。 K11一经修成,就吸引来了许多的买家游客,这里面有不少买家学生只为在里面游玩打卡,但也不乏一些真正有艺术鉴赏力的学者和艺术家,他们都对这座艺术展览购物广场啧啧称奇,赞扬这个年轻人独特的魅力。 既然是商人,不管表现得多么有艺术魅力,最终还是要进行交易才能赚钱。 但K11妙就妙在文艺地赚钱,提供给买家一个舒适的赏心悦目的环境,又拿出合适的价码,所以那些正值青春年少,想要买来美妙和快乐的顾客,又有几人能不动心呢? 凭着K11的成功,郑志刚被评为优秀的实干青年企业家。 没有人知道他心中真正在想什么,他总是充满了奇思妙想。在香港地产商竞争最激烈的时期,他竟然放弃房地产的红利,为香港政府捐地三百多万英尺。这一系列举措,解决了香港无数低收入人群的住房问题。 02艺术商业的完美融合2005年,郑志刚回到家族企业,期间安排新世界百货上市,2007年,出任新世界发展的执行董事。 郑志刚调整了新世界在内地的产业布局,加大了对粤港澳大湾区的投资,整改了不少旧项目。自从上任之后,郑志刚将新世界的总部搬到了广州,还将文化与商业融合的品牌——K11也在广州和诸多内地城市开了分店。 在接受一众记者采访时,郑志刚说他期望的并不是财富的简单增长,而是创办出具有民族文化的独特品牌,然后走向世界,将中国原创品牌推向国际,为新世界的发展开辟出新的领域。 为了这个独特的追求,2010年郑志刚创建了K11艺术基金,只为培养更多的年轻艺术家,促进中国当代文艺理念和艺术人才的发展。 这家非盈利性质的基金和以后创办的K11艺术村,K11艺术俱乐部等机构,在资源和资金方面,都为中国青年艺术家提供了更多的发展机遇和实践空间。 而近日,正值香港回归祖国25周年之际,央视新闻独家专访了郑志刚。 在这次采访中,作为新世界发展行政总裁,周大福执行董事,K11创始人的郑志刚,提及到他所独创的艺文商社发展模式,将艺术,人文,自然元素相结合。 耗费十年时间,在K11 MUSEA汇聚了多达100位国内顶尖设计大师,用他们的艺术家灵感,致力打造一个中外文化艺术交流中心。 享有“东方之珠”美誉的香港,是对外宣传中国文化的时代之窗。 香港著名的“星光大道”还有位于海边的K11 MUSEA等一系列建筑,称为“维港文化汇”。 它们旨在弘扬中国文化。这些标志性建筑,已经成为香港的一个文化新地标。 03文化同世界的链接性郑志刚每次从海上眺望这个新地标,都会浮想联翩,热情洋溢地表达他对国家十四五规划的支持和憧憬。他希望这个地方成为全球文化硅谷,成为中外文化艺术交流中心,让中国文化通过香港这个小窗口走向全世界,与世界接轨。 这个新地标的作用,除了中西方文化的交流,更重要的是让中国文化走出去,说好中国的故事。 在2022年7月2日,香港的故宫文化博物馆首次面向公众开放。 这些藏品也是北京故宫博物馆自1925年成立以来,首次大规模的藏品出境外借。其中绝大部分文物是首次在香港展出。 郑志刚表示,香港故宫博物馆是“说好中国故事”的最佳平台,是推动国民教育最好的“软基地”,郑志刚热切盼望这样独特的中国文化建筑以后能够越来越多。 在风风雨雨的商业历程中,郑志刚一直很鼓励员工和那些受资助的艺术家们能够创新,他尤其注重中国传统文化的再发展,取其精华,注入时代的新鲜血液,以一种可延续的方式培养一批具有中国特色的大国工匠,让我们的传统工艺得以传承下去。 郑志刚正是这样一位,能将时代文艺气息和传统文化精神完美结合的爱国企业家。 他最大的理想就是能将优秀的中国传统文化传播出去,讲好中国故事。 他的整个商业蓝图也是为这一理想所打造的,建造一个融合商业,艺术,生态和科技的生态系统,让全世界的人更清晰地领略中国文化的独特美丽。 艺术来源于生活,但更高于生活,即使是作为一个商人,也有传承中国文化的使命。多年来,耕耘不断,跨界不止,郑志刚追求卓绝与创新。他希望打造的这个香港文化新地标,可以传承中国文化的美丽,讲好中国故事,以商业服务社会,以文化造福人民。

数字娱乐的巨头:Forrest Li的创业征程与全球影响

Forrest Li(李彦宏)是数字娱乐领域的杰出代表,以其卓越的创业才能和全球影响力而闻名。本文将深入介绍Forrest Li的生平经历、数字娱乐业的创业征程以及他在全球科技产业的卓越地位。 早年生活与教育 Forrest Li生于中国广东省,成长于一个普通家庭。他在广州大学获得了计算机科学学士学位,并在美国斯坦福大学攻读了硕士学位。他的教育背景为他的科技创业奠定了坚实基础。 创业初期 Forrest Li的创业生涯始于2009年,当时他与几位合作伙伴共同创办了Garena。最初,Garena是一个在线游戏平台,但随着时间的推移,它逐渐扩展到数字娱乐领域的各个方面,包括电子竞技、数字支付和社交媒体。 Garena的成功 Garena在数字娱乐领域取得了巨大成功。该公司的游戏平台在东南亚地区迅速崛起,成为最大的在线游戏提供商之一。此外,Garena还创办了Free Fire游戏,成为全球最受欢迎的移动游戏之一,吸引了数亿玩家。 数字娱乐领域的创新 Forrest Li一直致力于数字娱乐领域的创新。他将Garena发展成一个多元化的数字娱乐平台,整合了游戏、社交媒体和数字支付等多个业务领域。他的创新理念推动了数字娱乐产业的不断发展,为用户提供了更多多样化的娱乐体验。 全球影响力 Forrest Li的数字娱乐帝国不仅在东南亚地区蓬勃发展,还迅速扩张到全球。Garena的游戏和社交媒体平台吸引了数以亿计的用户,使其成为全球数字娱乐领域的重要力量。他的影响力不仅局限于娱乐,还在技术创新、创业生态系统和社会影响力等方面产生了深远的影响。 对社会的贡献 Forrest Li一直致力于社会责任和慈善事业。他的慈善基金会支持教育、环保和社区发展等多个社会项目。他通过改善社区、支持教育和环保倡议,为社会发展做出了积极贡献。 对未来的展望 Forrest...

南波茂人:革新科技的日本科学家

南波茂人(Shigetou Namba)是一位备受尊敬的日本科学家,以其在材料科学和纳米技术领域的杰出贡献而广受赞誉。他的学术生涯充满了创新和领导力,对科学界和工业界都产生了深远的影响。本文将深入探讨南波茂人教授的生平、学术成就以及他在材料科学和纳米技术领域的重要贡献。 早年生活与教育 南波茂人教授生于日本,自幼就表现出对科学和技术的浓厚兴趣。他在日本一所著名大学攻读材料科学学士学位,并在研究生阶段选择了材料科学作为专业。他的早期教育为他未来的科研工作奠定了坚实的基础。 材料科学研究与突破 南波茂人教授在材料科学领域取得了多项重要突破。他的研究涵盖了纳米材料合成、纳米技术应用、电子材料和光学材料等多个方面。他的工作在新材料的研发和应用方面具有重要意义。他研发了一种先进的纳米材料合成方法,为制备高性能材料和纳米器件提供了新的途径。他的研究不仅推动了材料科学领域的进展,还为电子、光电和能源领域的创新提供了关键支持。 纳米技术的应用 南波茂人教授的研究不仅局限于实验室,他还着眼于纳米技术的实际应用。他在工业界推广了纳米材料和纳米技术的应用,特别是在半导体制造和光学通信领域。他的研究成果被广泛用于改进电子设备和光学器件的性能,推动了现代科技的发展。 高等教育与科研传承 南波茂人教授一直热衷于高等教育和科研传承。他担任大学教职,培养了许多年轻的科学家和工程师,传递自己的材料科学知识和研究经验。他鼓励年轻一代积极参与材料科学和纳米技术的研究,为培养更多的科技领袖和专业人才做出了重要贡献。 科技政策与创新 南波茂人教授积极参与日本的科技政策制定和科技创新工作。他在政府和科技部门担任重要职务,为日本的科技产业和创新生态系统提供了专业建议。他的领导力和创新思维有助于推动日本在科技领域的发展,促进科技创新和科学研究合作。 奖项与荣誉 南波茂人教授的卓越贡献赢得了多项国际性科学奖项和荣誉。他被授予了多个著名奖项,以表彰他在材料科学和纳米技术领域的杰出成就。这些奖项和荣誉证明了他在科学界的卓越地位和影响力,也为他的科研工作提供了高度的认可。 南波茂人教授是日本材料科学和纳米技术领域的杰出科学家,他通过自己的科研工作和领导力不断推动着科技的进展。他的研究在新材料合成和纳米技术应用方面取得了突破性进展,为解决复杂的科学和工程问题提供了新的方法和工具。他的科研传承工作为培养了更多的科技领袖和材料科学家,推动了日本在科技领域的进步。南波茂人教授的社会责任感和科技创新精神为日本的科技产业和高等教育注入了新的活力,有助于推动科技对社会和经济的发展。他的故事是科技研究和科技政策的典范,激励着年轻一代的科技创新者,追求卓越,不断推动科技的进步。