Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

个人专访:专访华龙时代集团董事吴昊阳|时代洪流下,探寻企业航道与个体精神的觉醒与坚守

吴昊阳(Deric Wu) 华龙时代集团董事 亚洲人物U30 代表人物 RSA英国皇家学会工艺院 终身院士 EUU欧洲联合大学 董事会校董 香港一带一路研究院 常务委员会常委 香港高层次人才促进会 终身荣誉教授 港高促国际交流专家委员会委员   凭借超过10年的产品设计研发和创业经验,成就了一名多才多艺的商业领袖及产品艺术设计专家。他创作的产品《龙门茶箱》在18个以上国家拥有上亿次的浏览量,2017年作为世界上首个故事茶箱首登陆纽约时代广场和纳斯达克屏幕。《T-one》茶礼的设计更是开创了华人领域首个丝绒茶包,继承并发扬了东方贵族的招待方式。他的专业领域涵盖了、文化艺术、商业营销、品牌建设、及IP系统运营。他对东方美学和现代化商业应用的贡献在华人领域产生了深远影响,极大地提升了华人奢侈品创新和东方美学在世界舞台中的视觉传播及情感传递。他主导推动了多项跨国文化商业交流项目,积极投身于“一带一路”文化建设前沿阵地。精心策划并成功实施“丝路华彩——东方美学全球巡展”等重磅项目,使华人书画、玉石瓷器、非遗工艺品等文化瑰宝惊艳亮相沿线诸国,打破文化隔阂,引发世界对华人文化的深度探寻热潮, 个人主要作品:Longmen,T-one,松鹤香盒,pure one,等   1.记者:在您看来,人们为什么要追逐奢侈品以及高端消费行为? Deric:相较于身份焦虑与社会阶层的追求,当代民众更倾向于接纳奢侈品品牌所蕴含的内在价值。在20世纪后半叶,以往19世纪至20世纪初期所盛行的阶层观念逐渐淡化,取而代之的是个性解放及对生命深层次意义的渴望,这一转变反映了后工业时代,尤其是当前互联网时代下类似“赛博朋克”般的个体焦虑情绪。在此背景下,人们,尤其是年轻一代,实则崇尚的是高端时尚品牌所体现的内涵与精神,他们借助这些品牌作为媒介,持续获取个人的存在认同及新的生命体悟。我们深知其中所蕴含的生命深度,而对我们自身而言,这更是生命张力的展现。 2.记者:在您看来,奢侈品品牌如何平衡商业成功与文化传承之间的关系? Deric:这是一个极具深度且值得深入剖析的议题。奢侈品品牌之所以能够历经岁月洗礼而持续繁荣,很大程度上归因于它们所蕴含的深厚文化底蕴与历史传承。商业上的成功无疑是品牌存续的基石,然而,若缺乏深厚的文化内涵作为支撑,品牌将失去其灵魂,变得空洞而缺乏实质。 因此,我们必须寻求一个恰当的平衡点,使商业成功与文化传承能够相互促进、相得益彰。一方面,我们应借助商业手段推动品牌的发展,增强品牌的市场影响力和竞争力;另一方面,我们也应深入挖掘并传承品牌的文化内涵,通过设计、工艺、材料等多个维度来彰显品牌的独特性和价值。 具体而言,我们可以加强与艺术家、设计师等创意人才的协作,共同探索新的文化表达形式;同时,我们亦可通过举办展览、文化活动等多种方式,向公众展示并传播品牌的文化理念与历史传承。如此,我们既能在商业上取得成功,又能保持品牌的独特性和文化价值。 3.记者:我特别关注自主知识产权和自主创创新问题。国际市场很多人认为在华人中是很难有高端的品牌以及奢侈品产生的。您是如何看待华人在未来的高端消费品或奢侈品的发展之路呢? Deric:东亚地区在高端消费品或奢侈品领域的发展道路上展现出巨大的潜力。而对于针对中国及华人所持有的负面看法,我认为这实为一种偏见。首先,以往我们凭借高性价比的产品取得了市场优势,这仅是特定发展阶段的策略选择,并不能说明我们缺乏高端化发展的能力。正如老子所言:“大方无隅,大器晚成。”如今,中国拥有深厚的文化底蕴可供挖掘,这是构筑高端品牌的灵魂所在。通过将传统文化元素融入设计之中,可以为产品赋予独特的内涵。 从市场角度来看,随着经济的不断发展,消费者对品质与文化内涵的追求日益提升,这为高端品牌的发展提供了肥沃的土壤。此外,我们在技术研发上的投入正持续增加,已具备实现高端化质量把控的能力。中国高端消费品或奢侈品的发展,是从制造优势向文化与品质优势的转变,将打破既有的偏见,在国际舞台上崭露锋芒。 4.记者:你的产品灵感的源头是什么。这集团发展10年里,虽然每一款产品设计和体验都用尽巧思,但是每一个都有不同的出彩,如何保证这种高产出还把握的这么好呢?应该有一些技术手法在里面吧!  Deric:谢谢你的赞许和夸奖,这个我没有答案,唯一可以讲的是,对你来讲没有失手,对别人来讲有失手的时候。我说真的,我在念书念中文的时候,我从来没有想过我有可能在像今天这样。连梦想都没有。后来是得了一个北京工作的机会,非要接触文化创意类产品包括传统文化国潮类的巧思,这个产品刚好也是有很深的中国特色和华人印记,所以是这样开始的。这些不是我主动设计出来的,可能是命运规定我这走吧。而后来一些国际交流的经验,让我东西方都有沾到,有时候从世界角度看中国乃至东南亚,这种经验的积累也让我拥有更多的视角创造更多产品,升级更丰富的客户体验。 记者:看您近年来跨界合作一些乡镇企业家,你会觉得自己在文化层次更高,或者觉得对方深度不够吗? Deric:众多乡镇企业家固然并非传统意义上的知识分子观察者与思考者,然而,思辨与观察的形式并非单一。实际上,众多乡村中的父老乡亲给予了我极大的激励,他们在看似不可能中缔造了可能,这构成了一股极为强大的精神动力,并非通过书面的或知识分子式的论述来展现。他们以一种极为具体且同样卓越的行为来表达,这种卓越并非源自常规训练。因此,理解不同层面的卓越对我大有裨益,有助于摆脱对书面知识的傲慢态度。 6.记者:您作为一带一路研究院国际智库的成员,对于与海外合作的发展之路有哪些观察心得呢? Deric:在全球化面临逆流、单边主义和保护主义趋势抬头的复杂形势下,“一带一路”倡议的重要性愈发凸显。为构建人类命运共同体提供了积极动力。通过不断深化政策沟通、设施联通、贸易畅通、资金融通以及民心相通等领域的合作,“一带一路”正在稳步推动形成更加紧密的经济联系网络和更加和谐的人文交流环境。 “一带一路”倡议10年来,中华文化海外传播取得了明显成效,为沿线国家提供更多发展机遇,同时也为中华文化的海外传播和中华文化软实力的提升创造更加有利的条件。但其中也存在一些不足。 这些不足之处受多种因素影响,但理应找到主要影响因素并加以优化,用合理的措施来弥补这些不足,只有这样中华文化的海外传播才能更加顺利。 当前,我国文化品牌意识还不强,中华文化缺乏核心竞争力,一些企业更注重大规模扩张带来的短期经济效益,却忽视打造具有中国特色的文化品牌所带来的长期效益。人们去选择文化产品消费时,品牌因素会被考虑其中,那些没有知名品牌的文化产品很难在市场中竞争。知名的文化品牌能够形成一种对外传播的合力,而那些品牌知名度低或者没有文化品牌的对外传播,力量很分散,传播效果也不佳。我国也有知名度高的文化资源,比如中国的春节、龙、汉服等等,但这些资源没有被产业化利用,文化产品的品牌还处于低水平阶段。 在中华文化向海外传播的过程中,面临着一定的挑战。具体而言,由于缺乏具有针对性和共性的文化元素,难以达成深层次的文化交融。同时,传播方式往往具有较强的主观性,且倾向于说教,这容易引发文化冲突。因此,迫切需要研究并制定更具针对性和灵活性的文化传播策略。 此外,中华文化在海外传播中还面临着高素质人才匮乏的问题,这在一定程度上制约了文化的有效传播。为此,亟需培养一批既深刻理解中华文化精髓,又精通外语的高素质人才,以更好地支持“一带一路”倡议下的文化输出。在全球化时代背景下,文化传播的竞争实质上已成为人才竞争的焦点。 值得注意的是,当前高校在人才培养方面与实际需求存在一定的脱节,缺乏足够的实践机会和交流平台。因此,企业在构建自身品牌形象时,应结合自身特点,积极融入中华文化元素,打造具有鲜明中华文化特色的品牌形象。 7.记者:关于未来企业创始人所面临的生存与发展趋势,您如何看待? Deric:在当今时代背景下,企业创始人的综合素质评估已不再局限于单一领域,而是扩展至更为全面的考量。具体而言,核心要素包括博弈能力、价值观念和心性三个方面。博弈能力涉及在复杂多变的商业环境中进行精准判断和策略制定的能力,以确保在竞争中占据有利地位。价值观念则强调对企业文化和价值观的认同与践行,以及对社会价值和客户需求的深刻理解。心性方面,则要求创始人在面对挑战和压力时展现出坚韧和毅力,具备应对逆境的能力。 综上所述,企业创始人的成长考核需围绕博弈、价值及心性三大核心要素展开,以确保其具备跨界融合、多元视角与整合思维的能力。唯有如此,方能在激烈的市场竞争中脱颖而出,成为真正的赢家。 8.记者:您认为在创业过程中,您面临的最大挑战和考验是什么呢? Deric:对我而言,创业过程中最具挑战性的部分在于人性中那些错综复杂的因素。正如王阳明所言,“破山中贼易,破心中贼难”。在创业的征途上,我们会面临各式各样的诱惑与挫折,这些外部因素往往会触发内心深处的恐惧、贪婪与犹豫。有时,我们会萌生为追求短期利益而放弃长远规划的念头;有时,面对失败,我们也会想要放弃。因此,真正的考验在于能否洞悉并正视自己内心的这些脆弱之处,同时坚守对品牌价值的执着追求,在这纷扰复杂的创业道路上始终不渝地朝着既定目标前行。在此过程中,我们必须保持对真实与现实的清醒认知,不被表面的光鲜所迷惑,勇于接纳人性的诡谲多变与纷繁复杂。 9.记者:现如今大学生就业普遍迷茫,关于毕业生去一线城市发展还是返乡如何建议? Deric:我认为,当前年轻人完全有能力自主选择适合自身发展的道路,对此无需过多建议。同时,作为一名同样在奋斗中的年轻人,我愿意分享一些数据供参考。全球各国的发展轨迹普遍显示了一个客观规律:资本、机遇、发展前景以及人才,最终会流向并汇聚在少数核心城市中。这些核心城市已成为推动发展的绝对主导力量,而其他地区则主要承担人口增长和资源开发的辅助角色。 进一步而言,只有核心大城市,才能构建并维持真正健全且成熟的游戏规则体系,同时拥有相对理性的文化基础。相比之下,小城市由于人口流动性较弱,更加侧重于人际关系网络与传统习俗的传承。在这些小城市中,人们的生活模式与价值观念往往更加趋向于传统和保守。至于未来生活的具体形态,则需要根据个人规划与实际情况进行相应调整。 10.记者:随着时代的发展。您是如何看待当前时代个体焦虑的问题,又是怎样应对的呢? Deric:现在全球性的问题都是人找不到存在的意义,个体在时代洪流中的无所适从。不是说你的物质生活有多困窘,而是我们面对大洗牌时代的无所适从和难以抉择。对未来充满各种不确定性,焦虑不已。人确实需要找到办法,获得勇气,以便直面这种恐惧。因为这个问题实际上关乎的是你个人的自我意识,关乎的是你的命运,你会为此不断追问。而你最大的命运是什么?是你与中国这片土地的某种生命性关联。所以,要回答你对命运的不断追问,我们就必须进入到对于中国历史的一种探究与把握。一步步地,你就会追问到关于人性的底层逻辑上。 所以当面对看似违背现代文明的,原始丛林法则的世界。数十年如一日春耕秋作般,虔诚地积累…在每一件事情上一步一个脚印的走下去,不忘记来时的路!

林汉翁:航运业的掌舵者

在马来西亚和全球的航运界,林汉翁Lim Han Weng的名字堪称传奇。他以其在航运业的卓越贡献和敏锐的商业洞察为人们所敬重。不仅仅是在本地,其影响也遍布国际,使得他成为这一行业的杰出代表。 初入航运业 林汉翁的航运事业并非一帆风顺。年轻时,他进入航运行业,开始是在一个小航运公司工作。但凭借其对航运的热情和不懈的努力,林汉翁逐步崭露头角,开始了他的航运事业。 创建航运帝国 凭借着对行业的深入了解和对市场的敏感度,林汉翁逐渐创建了自己的航运公司。他的企业凭借高效的运营,先进的船队和出色的服务在行业中获得了很高的声誉。在他的领导下,公司逐步扩大了业务版图,从马来西亚走向了国际市场。 创新与发展 林汉翁深知在竞争激烈的航运业中,创新是关键。因此,他不断地引入新技术,改进运营流程,确保公司始终保持竞争力。此外,他还通过与其他航运公司的合作,扩大了公司的业务范围和影响力。 对社会的回馈 除了在商业上取得了巨大的成功,林汉翁也非常重视对社会的贡献。他创建了多个慈善基金,支持教育、医疗和其他公益事业。他认为,作为企业家,除了追求利润,更应该对社会承担起一定的责任。 展望未来 面对未来,林汉翁充满了信心。他认为,随着全球化的深入,航运业将面临更多的机会和挑战。而他希望自己的企业能够继续发扬创新和开拓的精神,为马来西亚航运业书写新的辉煌章节。 林汉翁是航运业的真正领袖。他不仅仅是一个成功的企业家,更是一个有远见、有社会责任感的领导者。

K.P. Ramasamy & 家族:印度糖业的巨头

K.P. Ramasamy及其家族是印度糖业领域的杰出代表,以其在糖业和农业领域的卓越成就和领导力而广受赞誉。他们的生平和职业生涯充满了创新、坚韧和成功。本文将深入探讨他们的生平、糖业事业的崛起以及他们在印度和全球糖业领域的杰出影响力。 K.P. Ramasamy是EID Parry India Limited(EID Parry)的创始人之一,该公司是印度糖业领域的重要参与者。他在EID Parry的领导下,推动了公司的迅速发展和多元化扩张。 EID Parry成立于1788年,起初是一家糖厂和农业企业。然而,Ramasamy先生的远见和领导力使公司不断创新,不仅是印度最大的糖生产商之一,还涵盖了农产品、生物产品和可再生能源等多个领域。他的公司致力于可持续农业和糖业生产,为农村社区提供就业机会和支持。 Ramasamy家族最著名的成就之一是他们在印度糖业领域的领导地位。他们的公司通过糖的生产和销售,满足了印度国内和国际市场的需求。EID...

大川浩之:化学工程领域的杰出先驱

大川浩之(Hiroyuki Ohshima)教授是一位备受尊敬的化学工程学家,以其在胶体和界面科学领域的杰出贡献而广受赞誉。他的学术生涯充满了创新和领导力,对化学工程和生物医学领域的研究产生了深远的影响。本文将深入探讨大川浩之教授的生平、学术成就以及他在胶体和界面科学领域的重要贡献。 早年生活与教育 大川浩之教授生于日本,自幼就表现出对科学和化学的浓厚兴趣。他在一所著名大学攻读化学学士学位,并在研究生阶段选择了化学工程作为专业。他的早期教育为他未来的科研工作奠定了坚实的基础。 胶体与界面科学研究与突破 大川浩之教授在胶体和界面科学领域取得了多项重要突破。他的研究涵盖了胶体、表面张力、分散系统、离子溶液等多个方面。他的工作深入探讨了微观和纳米尺度下的分子相互作用,为理解和控制胶体和表面现象提供了关键见解。 他的研究对多个领域产生了深远影响,包括药物传递系统、生物医学工程、食品科学和材料科学。他的工作为新型药物传递系统的设计和开发提供了基础,有望改善药物的效能和治疗效果。此外,他的研究也在食品工业中得到了应用,改善了食品的质地和稳定性。 教育与科研传承 大川浩之教授一直热衷于科学教育和知识传承。他担任大学教职,培养了许多年轻的科学家和工程师,传递自己的胶体和界面科学知识和研究经验。他鼓励年轻一代积极参与科学研究,为科学领域培养了更多的专业人才。 科研政策与创新 大川浩之教授积极参与科研政策制定和科技创新工作。他在政府和科技部门担任重要职务,为日本的科技研究和创新提供了专业建议。他的领导力和创新思维有助于推动日本在科技领域的发展,促进科技创新和科学研究合作。 奖项与荣誉 大川浩之教授的卓越贡献赢得了多项国际性科学奖项和荣誉。他被授予了多个著名奖项,以表彰他在胶体和界面科学领域的杰出成就。这些奖项和荣誉证明了他在科学界的卓越地位和影响力,也为他的科研工作提供了高度的认可。 大川浩之教授是化学工程领域的杰出科学家,他通过自己的科研工作和领导力不断推动着科技的进展。他的研究在胶体和界面科学领域取得了突破性进展,为多个领域的应用和创新提供了新的可能性。他的科研传承工作为培养了更多的科学家和工程师,推动了化学工程领域的进步。大川浩之教授的社会责任感和科技创新精神为日本的科研和教育事业注入了新的活力,有助于推动科技对社会和经济的发展。他的故事是科学研究和科技政策的典范,激励着年轻一代的科学家,追求卓越,不断推动科学的进步。