人工智能行业从基础设施建设转向系统优化

过去几年，人工智能(AI)行业一直在努力解决算力供应问题，以跟上行业需求的快速增长。大型语言模型(LLM)的兴起引发了基础设施建设的竞赛，英伟达等公司处于AI生态系统的中心，而超大规模云服务商和AI原生云服务商也在迅速扩张数据中心。

Tirias Research的白皮书《预测代理式AI与交互模型的兴起》预计，到2030年，年度LLM推理量将从2024年的990万亿token增长到超过100京(1,008,410万亿)token，图像和视频生成也将出现显著增长。

随着AI部署的成熟，行业开始遇到新的挑战：如何有效地利用这些基础设施。AI的应用从聊天向智能体工作负载演进，挑战从获取AI基础设施转向如何有效地利用这些基础设施。

从“第一波”到“第二波”的转变

Tirias Research将这一演进描述为从“第一波”向“第二波”的转变。在第一波中，AI主要被用作对话式助手；而在第二波中，自主智能体能够进行推理、调用工具、维护上下文，并以极少的人工干预执行复杂的、多步骤的任务。这些智能体往往是持续运行的，而不是在一次响应后就结束。

该预测估计，平均一个“第二波”用户消耗的token数量是传统“第一波”聊天用户的40倍，而作为异步智能体运行的技术用户消耗量更是高出几个数量级。随着工作负载变得更加长效、更加自主且互联程度日益提高，挑战已从单纯提供算力转向围绕算力来编排复杂的系统。

AI云的演变

现代AI的第一阶段在于证明该技术能做什么。第二阶段在于建立大规模实现这一目标的能力，包括训练集群、推理容量、存储系统和高性能网络。AI原生云服务商的出现正是对这一需求的直接回应。

AI云正在演变为超越单纯为AI工作负载优化的基础设施。它正成为一个将计算、模型、数据、工具、编排和运营服务结合在一起的平台，为构建和运行AI系统提供环境。

如今的生产级AI部署通常涉及的不仅仅是一个模型和一个GPU。组织结合了检索系统、向量数据库、可观测性平台、评估框架、智能体架构、安全控制、编排层和第三方集成。由此产生的硬件和软件栈可以跨越多个供应商和多个云。

以工作流为中心的AI云的出现

AI云服务商正在扩展这一概念。大多数公司仍然称自己为基础设施公司。例如，Nebius明确将自己定位为AI云服务商。但审视其客户案例、产品公告和会议主题，会发现一些更微妙的东西。

反复出现的主题不是基础设施容量，而是改进围绕模型的系统。客户案例关注的是编排、检索、可观测性、评估和部署，而不是单纯的模型性能。重点始终在于降低构建可靠AI系统的复杂性，而不是仅仅提供额外的基础设施组件。

Nebius的产品开发仍然深深植根于其技术栈，但该公司正越来越多地围绕客户工作流来打包这些能力。这体现在它对开源模型、第三方工具、生态系统合作伙伴关系和更高级平台服务的支持上。这种模式表明，该公司不仅专注于提供基础设施，还专注于使这些基础设施更容易应用于现实世界的AI开发和部署挑战中。

从自助基础设施到自助成果

云计算改变了软件开发，因为它极大地降低了摩擦。开发者只需输入信用卡信息，配置资源，就可以立即开始构建。基础设施按需提供，消除了采购周期、硬件购买以及传统IT中大部分相关的运营开销。

AI云服务商正在扩展这一概念。第一代提供的是自助基础设施，而下一代正在提供自助成果。平台不再要求客户手动配置模型、推理端点、可观测性系统、安全控制和编排框架，而是越来越多地承担起组装这些组件的责任。

Nebius最近推出了Nebius Echo，这是一个直接内置在其云平台中的AI助手，允许客户使用自然语言与他们的基础设施进行交互。Echo不仅仅是一个聊天机器人，它开始将云运营从手动配置转向意图驱动的执行，平台可以在获得用户适当批准的情况下，解释服务、检查资源并执行基础设施操作。

客户描述想要的结果，然后平台管理执行。基础设施依然必不可少，但它更多地成为了客户专业知识发挥价值的基石，而不再是最终结果。

真正的拐点

普遍的假设是，AI基础设施提供商正在竞相构建最大的集群。在某种程度上，确实如此。对算力的需求持续增长，毫无疑问，GPU在未来几年内仍将是行业的基础。

但仅仅专注于基础设施，可能会错失正在发生的更大规模的转型。即使在Tirias Research前述白皮书的基准情景下，实际的基础设施部署到2028年左右也开始落后于预计需求，假设没有重大的地缘政治或供应链中断，到2030年仍将有大约72千兆token的年度推理需求无法得到满足。

这种缺口不仅仅是呼吁建立更多数据中心的理由。鉴于目前在房地产、电力和冷却方面的限制，即使有人想走这条路，这可能也不切实际。相反，它凸显出AI正在演变成一个系统问题。随着工作负载变得更加长效、更加自主且互联程度日益提高，价值正从原始算力容量转向那些能够高效编排模型、内存、工具、数据和工作流的平台。

AI云的第一阶段是关于获取算力。新兴的阶段则是关于抽象化，并专注于降低有效使用这些算力所需的专业知识门槛。智能体AI使这种转型变得紧迫。智能体不仅消耗算力，它们还消耗编排、判断和工作流。一个回答问题的单一模型相对容易部署。而一个能够自主规划、管理内存、调用外部工具并执行多步骤工作流的智能体，则暴露了技术栈中的每一个缺口。单纯的基础设施从来就不是为了填补这些缺口而设计的。

这就是真正的拐点。这不是对AI云的背离，而是它的成熟。正如Tirias Research的海因所言：“最成功的AI云平台将不会是那些暴露最多技术的平台，而是那些让客户最无需思考技术的平台。”

云计算时代教会了组织如何消费基础设施。AI云的下一阶段正在教会基础设施提供商如何消费客户意图。当这种情况发生时，AI云的决定性特征将不再是它运行的硬件，而是衡量它能多有效地将客户目标转化为可工作的AI系统——以及客户在中间过程中需要思考的事情有多少。