亚马逊(AMZN.US)首席执行官安迪·杰西向股东发表了一封关于公司定制芯片业务的信,他在信中对公司内部的基础设施堆栈表现出强烈的乐观态度。

毫无疑问,超大规模数据中心运营商如今正面临着所谓的“计算资源短缺”危机,现有基础设施已无法满足人工智能及相关服务带来的巨大需求。我们看到亚马逊、谷歌和Meta等巨头纷纷转向定制芯片,以弥补计算能力的不足。

其中,亚马逊的Trainium芯片和Graviton服务器CPU已证明其产品成熟可靠,这也是CEO安迪·杰西对其充满信心的原因。杰西在与股东交流时表示,亚马逊的定制芯片业务正在快速扩张,预计年经常性收入(ARR)将达到500亿美元,这一数字远超AMD和英特尔的水平。

亚马逊CEO表示,拥有我们自主研发的、备受市场青睐的人工智能芯片,将开启诸多可能性,其中最重要的或许莫过于降低客户成本,并为AWS带来更佳的经济效益。我们预计,Trainium芯片规模化后,每年将为我们节省数百亿美元的资本支出,并相比依赖其他芯片进行推理,带来数百个基点的运营利润率优势。

500亿美元的年度经常性收入(ARR)数字是亚马逊定制芯片业务分拆成独立实体并像英伟达一样成为计算服务提供商后,其规模的预估值。Trainium和Graviton的增长主要来自AWS的云服务,而亚马逊至今仍未向需要计算服务的用户提供其定制芯片。

杰西表示,AWS及其ASIC芯片方案带来的经济效益优于英伟达的方案。尽管他重申了对英伟达的支持,但他同时指出,客户需要的是在“性价比”方面占据主导地位的选择,而他认为Trainium在这方面做得更好。

亚马逊CEO还暗讽英特尔及其CPU市场份额,称在基于ARM架构的Graviton芯片发布后,AWS的基础设施现在几乎完全被它们所主导。Jassy表示,Trainium的训练和推理也面临着类似的情况。他的这番话背后蕴含着一个有趣的论点,而业内人士可能尚未意识到这一点。定制基础设施的理念并非取代主流的计算方案(例如NVIDIA的产品),而是为了弥补巨大的计算缺口,使得像亚马逊这样的超大规模数据中心无法仅仅依赖GPU制造商。

有趣的是,亚马逊还暗示可能会向第三方客户出售其机架,这意味着它很可能直接与英伟达等公司展开竞争。该公司计划在该业务上投入“数千亿美元”的资本支出,因此,Trainium + Graviton 技术栈未来的发展方向值得关注。

一款为 9 万家客户提供支持的定制芯片

传统服务器芯片并非为云计算而设计。AWS Graviton 是一系列专为云计算定制的芯片,旨在帮助企业更快、更高效地运行应用程序。自 2018 年以来,亚马逊已推出五代 Graviton 芯片,每一代都在前代的基础上进行了改进。

亚马逊看到了一个机遇:通过打造专为云计算设计的芯片,它可以为客户提供更高性能和更低成本的解决方案。由此诞生了 Graviton,亚马逊的首款定制云处理器。如今,Graviton5芯片拥有 192 个核心,是亚马逊迄今为止单颗芯片中集成处理能力最强的产品,其性能比 Graviton4 提升高达 25%,同时保持了领先的能效水平。

五代创新

Graviton(2018 年):亚马逊推出了首款定制云处理器,证明了智能手机背后的节能芯片技术可以处理严重的云工作负载。

Graviton2(2019):第二代产品实现了巨大的飞跃——比同类处理器的价格性能提高了 40%,使公司运行其应用程序的成本大大降低。

Graviton3(2021):第三代产品在性能与同类 Amazon EC2 实例相同的情况下,能耗降低了 60%,帮助客户在提高性能的同时减少对环境的影响。

Graviton4(2023): Graviton4 的处理核心数量是原来的三倍,能够更快、更高效地处理更苛刻的工作负载,例如大型数据库和分析。

Graviton5(2025):最新一代核心数翻倍至 192 个,性能比 Graviton4 提升高达 25%,可为从实时游戏到人工智能等要求最苛刻的应用提供动力。

当你叫优步时,你可能不会想到是处理器在帮你匹配司机。但优步确实在这么做。该公司使用 Graviton 来驱动其行程服务区系统——该系统能在几毫秒内处理数百万个预测和位置数据点——从而实时匹配司机和乘客。Graviton 的卓越性能确保你即使在高峰时段也能享受更短的等待时间和可靠的服务。

再以一级方程式赛车为例。当车手们以超过200英里/小时的速度在赛道上飞驰时,Graviton处理器在幕后默默工作,将实时赛车数据转化为观众在电视转播中看到的图形和统计数据。像Pinterest和Airbnb这样的公司也已转向Graviton,在提升性能的同时,降低了成本和碳排放。

如今,亚马逊云计算服务 EC2 的前 1000 家客户中,98% 都使用 Graviton 芯片。AWS 新增处理能力的一半以上都运行在这些芯片上。企业利用 Graviton 开发 Web 应用、数据库、大数据分析、游戏服务器、视频编码、机器学习和高性能计算。

AWS 利用定制芯片、智能路由系统和专用基础设施为“推理”工作提供支持,使人工智能更快、更经济实惠。

从手机上的应用程序到电视上的流媒体服务,Graviton 正在悄然地为你的更多数字生活提供动力——使其更快、更经济、更可持续。

本文转载自半导体行业观察公众号,FOREXBNB编辑:陈雯芳。