奖项申报奖项申报奖项申报奖项申报

Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

数学巨匠:哈里什-钱德拉的卓越数学之旅

哈里什-钱德拉(Harish-Chandra)是20世纪最杰出的数学家之一,以其在数学和物理领域的卓越贡献而广受尊敬。他的数学成就在李群、李代数和表示论等领域产生了深远的影响,为数学和物理学的发展做出了杰出贡献。在本文中,我们将深入了解这位数学巨匠的生平和数学之旅。 哈里什-钱德拉于1923年出生在印度,他在印度接受了高等教育,并在印度和国际知名大学担任教授职务。他的数学生涯始于印度,后来他成为了国际数学界的杰出学者。 哈里什-钱德拉的研究领域主要集中在数学和物理学的交叉领域,特别关注了李群、李代数和表示论等数学领域。他的代表作之一是关于李群的研究,他提出了一系列重要的定理和结果,深化了对李群的理解,并为物理学中的对称性理论提供了坚实的数学基础。 此外,哈里什-钱德拉的研究在李代数和表示论领域也取得了突破性进展。他的工作为理论物理学家提供了重要的工具和概念,特别是在粒子物理学和量子力学领域。他的研究成果对于解释自然界中的基本粒子和物质相互作用起到了关键作用。 哈里什-钱德拉的数学成就在国际数学界产生了广泛的影响,他的研究和著作被翻译成多种语言,并在全球范围内广泛传播。他还担任了多个国际数学组织的领导职务,为促进数学研究和国际学术交流做出了杰出贡献。 除了数学研究,哈里什-钱德拉还对数学教育和学术传承非常关注。他培养了许多优秀的数学家,并在数学教育方面发挥了重要作用。他的学术领导力和导师精神为下一代数学家的培养和发展提供了榜样和指导。 哈里什-钱德拉是一位备受尊敬的数学家和物理学家,他的数学成就在李群、李代数和表示论等领域产生了深远的影响。他的研究为理论物理学和数学建立了坚实的桥梁,为解释自然界的基本规律提供了重要的数学工具。他的学术贡献和导师精神使他成为国际数学界的杰出领袖,同时也为数学教育和学术传承做出了杰出贡献。

专访“亚洲科技创新先锋奖”获得者安大力:环境评估修复的领航者

近日,作为环保科技领域的先锋,安大力荣获了【亚洲人物】亚洲科技创新先锋奖,这一殊荣不仅肯定了他在环保科技领域做出的诸多突出贡献,而且鼓励了更多环境科技人员勇于创新、大胆突破,共同为环境保护献力。 安大力,沈阳环境科学研究院工程师,1998年毕业于东北大学工业分析专业,在东北大学的学习生涯中,他打下了坚实的理论基础,培养了不断探索和创新的思维意识。毕业后,安大力便投身于环保科技的事业中。自2004年起,安大力在环保科技领域屡创佳绩,近些年其研发的“危险废物填埋场生态风险评估修复管理系统”、“防爆型粉尘采样器”、“带清洁功能的顶空进样器及河道底泥取样检测装置”等成果,彰显了我国在环境保护技术上的创新实力,为推动环境可持续发展与生态文明建设作出了重要贡献。 早年研发显锋芒:筑生态安全防线 为提升危险废物填埋场的运营效率与生态安全,2012年安大力成功研发了“生态风险评估与修复管理系统”。该系统针对填埋场特性,动态识别污染暴露途径,精准调整评估参数,确保管理高效且灵活。通过该系统的部署与应用,危险废物填埋场对周边自然环境的保护屏障作用得到了显著提升,有效降低了潜在生态风险向外界扩散的风险,危险废物处理过程更具有安全性与合规性,为构建绿色、可持续的废物管理体系奠定了坚实的技术基础。此项研发成果标志着我国在危险废物管理领域的技术创新迈出了重要一步,对于推动环境保护事业的深入发展具有深远意义。中国科学院南京土壤研究所正是采纳了安大力先生研发的“生态风险评估与修复管理系统”之后,得以在污染场地治理领域取得突破性进展。该系统作为关键技术萌芽,直接促成了南土所后续深入研发并成功推出“污染场地健康与环境风险评估软件”,这一软件的问世,标志着我国在污染地块管理科学化、精细化方面迈出了关键一步。这项软件填补了国内行业空白,相比英美同类软件,其稳定性更高,功能更全面,界面排版更合理,操作也更加便利。 近年研发硕果:环保技术创新引领者 2020年,安大力研发的“防爆型粉尘采样器”和“一种带清洁功能的顶空进样器”专利获批。“防爆型粉尘采样器”能够高效、准确地采集工作环境中可能存在的有害粉尘样本,为职业健康防护与环境污染监测提供了坚实的技术支撑;“一种带清洁功能的顶空进样器”是分析化学领域的一项创新突破,它一定程度上提升了样品处理的自动化程度,对于提高环境污染物检测的精度与效率具有重要意义。这项专利并不仅仅局限于自身运用,“一种纸张的VOCs溶剂残留检测方法”和“一种痕量污染清理设备及其清理的方法”两项发明都引用了安大力的这项专利。其中,“一种纸张的VOCs溶剂残留检测方法”在提高VOCs样品的精细化检测水平的同时,减少了检测仪器附着污染的影响,在减少检测仪器的污染上发挥了重要作用;苏州传澈特种材料有限公司也借鉴了安大力的这项专利,发明了“一种痕量污染清理设备及其清理的方法”,该发明创新性地运用了毛细力原理,清洗液在样本引入区域自然挥发后,能够自动进行连续进样与清洗流程,全程无需人工干预或拆解清洗部件进行物理擦拭,显著提升了清洁效率。 2021年,安大力参与研发的“一种河道底泥取样检测装置”又获国家知识产权局专利许可。这款新型河道底泥取样检测装置以其结构设计精巧、操作流程简便著称,尤其适用于对少量底泥样本的快速精准采集。该装置的成功研发,有效解决了长期以来在河道治理和水质监测过程中,针对底泥这一关键环境要素取样难度大、效率低下的技术瓶颈。其创新之处在于,通过优化取样机制与检测流程,实现了在不破坏水体生态平衡的前提下,高效完成底泥样本的收集与分析工作,为后续的污染评估与治理策略制定提供了强有力的数据支持。 环保科技双翼齐飞,承诺铸就绿色篇章 值得注意的是,除了上述已提及的显著成就外,安大力在环境科技领域的贡献远不止步。其代表性作品如“SC-系列多功能水质采样器”,凭借其先进的采样技术与广泛的应用场景,在环境监测领域树立了新的标杆;而他设计的医疗废物清洗消毒装备,更是以高效、安全、环保的性能,为医疗废弃物处理难题提供了创新性的解决方案,展现了其跨学科融合与综合应用能力的卓越。综上所述,安大力在环保科技领域的贡献是多维度、深层次的,其影响力将持续推动环保事业的进步与发展。 针对环保科技行业的蓬勃发展态势,安大力郑重宣示,他将持之以恒地深耕于这一领域的研究与创新前沿,致力于攻克更多复杂的环境难题,为推动社会的可持续发展贡献不可磨灭的力量。《亚洲人物》主办方表示,正是他在环境评估修复领域取得的多项突破以及推广的价值,使他在众多候选人中脱颖而出,荣获本年度《亚洲人物》亚洲科技创新先锋奖这一奖项。安大力是激励更多年轻一代投身环保科技事业的灯塔,引领他们携手并进的一个重要表率。

《亚洲人物》2024年食品和饮料影响力人物:Steven Yang

巨头Focus Brands International为其增长最快的部门亚太地区招聘了理想的领导者,Steven Yang被任命为亚洲高级副总裁兼董事总经理的时机再好不过了。 当Focus Brands International来敲门时,Steven Yang正在亚洲地区经营世界著名的硬石品牌。这家总部位于美国的食品和饮料品牌开发商在全球拥有数千家特许经营商,已经指定了一名高管,可以帮助其在快速发展的亚太市场中实现最大增长。 然而,杨在他所处的地方很开心。Hard Rock一直照顾他,由于他在品牌发展中的主导作用,他的股票从未上涨过。他回忆说:“这可以追溯到2019年,Focus Brands说,'我们需要一个知道如何发展品牌发展机制的人'。” “新冠肺炎疫情抛弃了旧的、一刀切的心态;特别是当你发现自己的首要考虑到后勤和供应链问题时。” “经过几个月的讨论,我接受了,因为国际负责人说了一些非常有趣的话。他说:“你现在正在寻找一个品牌,但你想要一个品牌组合吗?站出来!'我对他的挑战感到兴奋。” Yang的投资组合现在包括Cinnabon、Jamba、Auntie...

数学奇才:斯里尼瓦萨·拉马努金的数学传奇

斯里尼瓦萨·拉马努金(Srinivasa Ramanujan)是20世纪最伟大的数学家之一,以其卓越的数学才华和独特的数学洞察力而广受赞誉。他的数学发现和理论贡献为数学界带来了革命性的影响,为了理解他的数学传奇,让我们深入了解他的生平和数学成就。 拉马努金于1887年出生在印度的泰米尔纳德邦,他在印度接受了初等教育,但没有正规的大学教育。尽管如此,他展现出非凡的数学才能。他在自学数学方面表现出惊人的自律和热情,沉浸在数学研究中,成为了一位自学成材的数学家。 拉马努金的数学成就主要集中在数论和分析领域,他发表了许多突破性的数学论文,其中一些成果至今仍是数学研究的基础。他的代表作之一是关于分割数的研究,他提出了许多关于分割数的猜想和恒等式,这些成果在数论中产生了深远的影响。此外,他还研究了模形式、超越数和连分数等数学领域,为数学家们提供了新的研究方向和挑战。 拉马努金的数学发现常常被描述为“神秘”和“超自然”,因为他的研究方法和洞察力在当时无人能及。他声称他的数学灵感来自于一位神秘的女神,这使得他的数学成就更加令人惊叹。 虽然他没有正式的大学教育,但拉马努金的数学成就引起了国际数学界的关注。他的数学研究引导他前往英国剑桥大学,并在那里与知名数学家格哈德·哈代(G.H. Hardy)合作。他的工作在英国数学界引起轰动,哈代认为拉马努金是一个数学奇才,并帮助他将他的研究成果发表在学术期刊上。 尽管他的数学生涯短暂,拉马努金留下了深刻的数学遗产。他的研究对于数学领域的发展产生了深远的影响,许多他提出的猜想和定理在后来被证明是正确的,成为数学界的重要突破。 拉马努金的数学传奇也受到文学和艺术的推崇,他的生平故事被改编成多部电影和文学作品,并成为数学启发的灵感来源。他的数学天才和对数学的深刻热爱令人钦佩,他的生平故事激发了许多人对数学的兴趣和热情。 斯里尼瓦萨·拉马努金是一位数学史上的传奇人物,他的数学才华和洞察力为数学界带来了革命性的影响。尽管他的生平短暂,但他留下了不朽的数学遗产,激励着数学家和数学爱好者追求知识和洞察力的极致。