奖项申报奖项申报奖项申报奖项申报

Nvidia 和 Cerebras 竞相为 AI 推理活动提供大型芯片

Date:

如果您从事金融行业,那么围绕即将进行 IPO 的 Cerebras 的新闻都是关于该公司的股票代码在纳斯达克的表现。

但是,如果您喜欢技术,情况就有点不同了。事实上,如果你只关注这些公司将如何竞争,你就真的错过了大局。

很多人都知道 AI 革命的开始如何导致用 GPU 取代 CPU 的想法:GPU 是一种更复杂、更专业的逻辑处理器,适用于机器学习和相关工作。

当时,我们遵循一种非常常见的规定方法 – 输入大量训练数据,其中通常包括大量的 Web 抓取 – 然后用它来测试系统。

所有这些工作都需要大量的处理能力,而 GPU 就是为这些大型工作负载而构建的。

现在,该行业似乎正在向前迈进,朝着一种称为推理的东西发展,这是一种不同类型的任务,硬件将不得不更加专业化。

那么什么是推理呢?因为每次有人开始谈论它时,你都能看到人们的眼睛有点呆滞。一般来说,我们不喜欢在高度科学背景之外使用这种词。

嗯,无论如何,推理基本上是 AI 动态学习的能力——获取实时数据并将其放入经过训练的模型中,以获得合乎逻辑的结果。

换句话说,训练有素的 AI 正在展示它从训练课程中学到的东西。

因此,这种类型的活动将需要一些具有一定重量的硬件:为此,Cerebras 推出了晶圆级引擎 (WSE),对于技术爱好者来说,它具有一些令人印象深刻的规格。(这些怪物芯片是由台湾积体电路制造公司实际生产的,这可能并不奇怪)。

WSE:揭秘

Cerebras 的 WSE-3 拥有 4 万亿个晶体管和数量惊人的片上存储器。它有大约 9000 个内核,估计容量为 125 petaflops。

我们前段时间报道了这些类型的巨大多核引擎,其中的硬件物理尺寸很大 – 以英寸而不是厘米为单位。

“更低的延迟会带来更高的用户参与度,”Perplexity 首席技术官 Denis Yarats 在一份新闻声明中指出。“Cerebras 的速度比传统 GPU 快 20 倍,我们相信用户与搜索和智能答案引擎的交互将从根本上发生转变。”

不难看出,这种力量将如何为许多行业的 AI 工作提供动力。

AI 推理的使用案例

考虑这一消息的一种方式是,我们只是希望为一组更复杂的流程提供更高的速度和功能。但你也可以考虑推理在我们 AI 发展的这一部分将发挥的作用。换句话说,我们正在从监督性更强的学习类型转向监督较少的学习类型——从我们 10 年前做的那种确定性机器学习,到一种新型的神经网络活动,我们相信系统能够更多地自行学习。

因此,Cerebras 的新挑战的故事,更不用说另一家赶上潮流的公司 Groq,就是硬件迎头赶上的故事。

硬件本身令人印象深刻——这些新的凯迪拉克系统引起了人们的注意——但我们应该关注的是这些物品的制造目的,这将扰乱业务。

“随着 AI 融入日常生活和业务运营的更多方面,高效和准确的 AI 推理的重要性越来越大,”Run:AI 的一位作者写道。“准确推理在医疗保健、欺诈检测和自动驾驶等敏感使用案例中尤为重要。”

这些只是一些顶级示例:我们还没有真正发现更深层次推理模型的一些更隐蔽的用途。十年后的 AI 会是什么样子?它仍然看起来像是从计算机中出来的吗?还是情况真的会有所不同?

几年前,福布斯技术委员会成员 Nir Kaldero 给了我们这份名单:其中一些承认具有很强的持久力,尽管考虑其中的一些很有趣。例如,云:当然,云的采用仍在继续,但现在我们对许多工作负载有一个相互竞争的想法。它在边缘、设备上、网络边缘进行处理。而且这也正在取得进展。

无论如何,硬件之战确实预示着下一代技术系统的到来。他们将会非常壮观。

将本文分享至:

《亚洲人物》订阅

spot_imgspot_img

亚洲领袖

查阅更多《亚洲人物》
Figure Aisa

创新科技的青年领袖:许正伟的科技之路

许正伟(Quah Zheng Wei)是一位备受瞩目的年轻科技领域的领袖,以其在人工智能和科技创新方面的卓越贡献而广受赞誉。他的学术背景和创业精神使他成为新一代创新科技的代表,为推动科技进步和社会变革做出了杰出贡献。在本文中,我们将深入了解这位创新科技的青年领袖的生平和科技之路。 Quah Zheng Wei是一位印度裔新加坡人,他是Accredify的联合创始人兼CEO,Accredify是东南亚领先的可验证证书(例如文档、证书)发行平台,使用区块链技术保证数据的真实性和安全性。Accredify已经为超过1200万次的文档验证请求提供了服务。Accredify也因为在抗击新冠疫情中的杰出贡献而获得了新加坡总统的嘉奖证书2。 Quah Zheng Wei从小就对金融和商业感兴趣,他在14岁时就开始在纽约的一家投资银行工作,后来进入了耶鲁大学学习经济学和计算机科学。他毕业后加入了摩根士丹利,成为了一名成功的投资银行家,参与了多项重大的并购和上市交易。 Quah Zheng Wei在华尔街工作了十多年,但他却对区块链技术产生了浓厚的兴趣。他在2016年就意识到了区块链的潜力,他认为区块链可以实现实时审计、即时验证和隐私保护。他决定辞去银行工作,自学编程,并在六个月内掌握了完整的应用开发技能。 Quah...

Menandro N. Acda:菲律宾杰出的环境科学家和气候变化倡导者

Menandro N. Acda教授是菲律宾备受尊敬的环境科学家和气候变化倡导者,以其在环境保护和气候变化领域的杰出贡献而广受赞誉。他的学术生涯充满了热情和奉献,致力于保护菲律宾及全球环境的可持续发展。本文将深入探讨Menandro N. Acda教授的生平、学术成就以及他在环境科学领域的重要贡献。 早年生活与教育 Menandro N. Acda教授出生于菲律宾,自幼就表现出对自然界的浓厚兴趣。他在一所著名大学攻读环境科学学士学位,并在研究生阶段选择了环境科学作为专业。他的早期教育为他未来的科研工作奠定了坚实的基础。 环境科学研究与突破 Menandro N....

“中国零食大王”蔡金垵:从小作坊到大企业,实现完美逆袭

他出生于一个贫苦之家,家里有六个兄弟姐妹,高考时因差几分意外落榜,他开始了走街串巷做生意的道路。 1996年,他抓住时机创办了食品工厂,靠着艾比利薯片一炮而红,后来又研发出法式小面包、干面包等产品,一步步抓住了消费者的心,他就是“中国零食大王”蔡金垵。 蔡金垵1965年出生于福建晋江的一个贫穷家庭,家里有6个兄弟姐妹,全靠着父亲卖苦力为生,坚持供他们一直读完了高中,可惜的是蔡金垵高考时还差几分就考上大学了,谁知道竟意外落榜。 懂事的他知道,家里能让他读完高中已经很不容易了,所以也没有过多纠结自己没考上大学的事情。 生活艰苦他18岁了,要承担起家庭的责任了,俗话说穷人的孩子早当家,他开始了走街串巷的生活。 每天一大早就挑着扁担开始叫卖,他什么都卖过,有瓜子,也有水果,不论刮风下雨,街头总能看到他的身影,正是年轻时这样肯吃苦的他才成就了后来的商业王国。 街头叫卖的经历让他洞察到了人们对食品的需求,总有小孩子吵着要吃油炸食品,可是家长又嫌街头做炸货的不卫生,总是会拒绝小孩子的请求。 他瞄准了这个方向,1996年拿出自己走街串巷挣来的钱创办了一家食品工厂。 他一个毛头小子既没有创业资金,也没有人脉,更没有经验,完全靠着自己的一腔热血开始了创业之路。 既然油炸食品那么受欢迎,那他就来试着做一做,毕竟工厂里生产出的食品比街头自己更让人放心。 他买回来了一切可以油炸的食品,然后就自己一遍遍的尝试着炸,做好后又一遍遍的让家人试吃,最终选择了以土豆为原料。 在油炸食品的基础上研发出了慢性变速薯片,可以说是又香又脆,再撒上调味粉,丝毫不比街头炸货差。 艾比利薯片为此,他专门想出了一个响亮的名字——艾比利薯片,包装也是精心设计过的,放在超市里一眼就能够吸引消费者。 艾比利薯片一经上市,靠着口感好和价格低的优势引得消费者疯抢,男女老少都很喜欢这款改良式油炸食品。 后来他还研发出了多种口味的薯片,直到现在这款薯片依然还拥有不错的销量。 靠着艾比利薯片发家的蔡金垵之后又开始了新产品的研发,但是第一仗的胜利并不代表之后就会一路连胜。 他发现随着经济水平的提高,人们更加注重食品的营养和健康,而不是像以前一样有啥吃啥,根本不挑。 为此,他在原有薯片的基础上研发出了蛋奶薯片,顾名思义就是加了鸡蛋和牛奶,这两样就是大多数人们心中健康食品的代表,这样一来,薯片也更加健康。 公司上下对这款产品非常有信心,认为甚至会超过艾比利薯片的销量,可是谁知道这款产品并没有得到消费者的青睐,反倒成了不少超市的滞销品,有的超市因仓库积压过多都直接退回来了。 看着积压过多的蛋奶薯片,蔡金垵显得有些落寞,因为这是公司全体共同研发出来的,是所有人的心血,为此投入了不少资金,现在却是血本无归。 蔡金垵没有迷茫太久,没过多久他就从低沉的状态里出来了,毕竟他是公司的老板,如果连他都放弃了,还有谁会认真替他做事呢? 小面包他带领着团队开始了新一轮的研发,根据现在市场上大火的产品研发出了一种颗粒状小麦膨化食品,同时还有一种可以长期保存的烘烤类小面包,这两个都是具有专利技术的产品,只此一家。 可是这让蔡金垵犯了难,盼盼现在已经很久没有新产品上市了,还靠着以前的产品吃老本,实在没有资金推广这两个产品。 一个是可以与现在市场上不少同类产品竞争的膨化食品,一个是市场上从来没有的烘烤类小面包。 当时还流行着蛋黄派作为代餐食品,一时之间各路厂家都在研究蛋黄派,只有盼盼选择另辟蹊径研发出了烘焙类小面包。 几番商议后,他选择了烘焙类小面包,因为他发现市面上做蛋黄派的实在是太多了,研发出来的膨化食品也是在跟风,要想脱颖而出必须搞点不一样的东西。 烘焙类面包被取名为法式小面包,还请了知名影星蒋雯丽为代言人。 盼盼法式小面包正式进入市场后,短短几个月大火,比当年艾比利薯片的势头还猛,甚至到了供不应求的情况,每天工厂里的工人都在加班加点的生产却还是无法满足市场需求。 即使是这样也阻挡不了经销商争相打款预订,生怕自己比别人落后一步拿到货,足以看出法式小面包的火爆。 2011年,蔡金垵再次加大火力,与美国甜点教父、前白宫首席糕点大师罗兰·梅尼耶进行签约,共同研发出了一款全新的烘焙类产品。 跟市面上的任何一款产品都不同,既不像法式小面包那样有嚼劲、吃不腻,也不像蛋黄派那样软软的,中间还有夹心,它就是盼盼独一无二的干面包,也叫梅尼耶蛋糕。 外面有涂层,口感酥脆,吃起来一点也不腻,反倒是吃了一个又想吃第二个,香味也是很奇特,你一闻那个味就知道是盼盼的干面包,一经上市,就迅速抓住了消费者的味蕾。 盼盼这个牌子本来在人们心里就有了一定的地位,现在干面包上市,先开始只是觉得干面包很新奇抱着试一试的心理,谁知道一入坑就停不下来了。 再加上这次是盼盼和梅尼耶的合作意义重大,不仅是中西方的一次友好交流与合作,更是中国本土食品品牌向国际化迈进的趋势,这也是蔡金垵事业的一个重要上升点。 这款干面包的意义重大,直到今天已经过了十年了,这款干面包依然在各大超市热销,也依然是盼盼的主推产品,唯一的变化就是口味变多了。 今天,盼盼早已从当初的小工厂变成了家喻户晓的大企业,员工人数高达上万,在全国各个地方都建立了生产基地,赚钱的同时也不忘记回报社会,他经常为社会公益事业贡献力量,累计捐款超过上亿。 他从一个大学都没读过的穷小子摇身一变为知名企业的老板,他收到过鲜花和掌声,也经历过失败,可是他始终坚持以消费者为中心,紧扣消费者的心理,一坚持就是十几年。 事实证明他是对的。产品没能让消费者满意他就继续研发,从来没有把哪一款热门产品当作救命稻草,反而靠着一次次的创新建立了消费者对他的信任,现在也依然没有停止创新的步伐,期待以后会给我们带来更多充满惊喜的产品。

巴杰兰格尔·塔帕里亚与家族:印度食品业的奋斗与传承

巴杰兰格尔·塔帕里亚与他的家族Bajranglal Taparia & family是印度食品业的杰出代表,以其在面粉和食品加工领域的贡献以及家族企业的传承而闻名。他们的生平和职业生涯充满了决心、创业精神和对传统食品的热爱。本文将深入探讨他们的生平、食品业的崛起以及他们在印度商业领域的杰出影响力。 巴杰兰格尔·塔帕里亚出生于印度,他毕业于一所著名的商学院,并于1962年创立了集团企业-“Brar Natural Flour Milling”(布拉尔自然面粉磨坊)。他以其对面粉制作的独特理解和创新精神,将公司发展成为印度最大的面粉生产企业之一。 Brar Natural Flour...