IDC報告:生成式AI和Agent推動AI基礎設施增長

國際數據公司(IDC)在其最新報告《AI原生雲/新型雲廠商重構Agentic基礎設施》中指出,生成式AI和Agent的採用勢頭強勁,顯著推動了AI基礎設施的增长。在Agentic時代,技術棧已從線性轉變爲動態、互聯的生態系統,這一變化不僅擴展了老牌企業的角色,也促使許多企業跨界進入AI基礎設施市场。IDC特別研究了亞太地區AI基礎設施市场的变化及其带来的新挑战,並重點調研了生態系統中的典型廠商如何適應這些新要求。

全球AI應用增長預測

在大模型的驅動下,全球AI應用公司數量已達數千家,涵蓋基礎大模型類通用助手、基於模型的AI搜索、社交、音視頻生成等。IDC全球追蹤的數據顯示,預計到2029年底,全球使用這些生成式AI應用的消費者數量將超過57億人,遠超2024年底的31億人。在預測期內,用戶數量的複合增長率預計將達到13.2%。整體付費用戶預計將以32.3%的複合年增長率增長,而非付費用戶的複合年增長率將爲12.0%。亞太市場對GenAI的採用也呈明顯且加速的趨勢。

年份 全球消費者數量(億人) 付費用戶複合年增長率 非付費用戶複合年增長率
2024年底 31 - -
2029年底 57 32.3% 12.0%

企業級市場對生成式AI的應用

企業級市場也在將生成式AI擴展到各個部門。無論是消費級的AI應用還是企業級的AI應用,規模化的落地都離不開AI應用开发平台、工具與生態,以及支撐AI應用的基础设施。尤其是面向不同的應用场景训练、各種大模型調優,都需要高計算效率、高可靠的基礎設施的保障。

AI基礎設施市場新入局者

在AI基礎設施市場爆發式增長的當下,越來越多的新入局者開始湧入這一市場。公有云提供商提供全球化規模的、彈性的集成化AI服務,加速企業的AI採用;邊緣和混合雲提供商讓AI更接近數據源,爲關鍵場景實現實時處理和本地化部署提供支撐;AI原生雲提供商專注於高性能GPU集羣和經濟高效的基礎設施,專門滿足訓練和推理需求;数据中心与托管服務提供商致力于打造安全、可靠且高性能的運行環境;AI硬件和平臺提供商正在推進專用芯片和系統的發展,爲下一代AI性能提供動力。此外,越來越多的電信公司正在進入這一領域,利用其廣泛的網絡基礎設施支持邊緣AI部署,增強AI工作負載的連接性,並跨分佈式環境提供集成的AI驱动型服務。

IDC給AI基礎設施買家的建議

隨着GenAI從實驗階段轉向企業級部署,對基礎設施的需求現在已不再只是算力。安全、韌性、廠商支持和成本效益是影響能否成功落地的關鍵因素。IDC建議用戶選型時考慮以下因素:

  1. 應優先考慮選擇地域鄰近的專用型AI基礎設施:以處理對延遲敏感的工作負載和主權工作負載。尋找在該地區部署高性能計算或定製芯片的提供商,以確保低延遲AI性能、符合數據主權法律以及可擴展的GenAI和LLM訓練/推理能力。
  2. 謹慎選擇廠商:確保部署模式的靈活性,以支持混合、公有和專用專有AI環境。正在從PoC向生產邁進的企業應優先考慮提供模塊化、可定製計算服務(例如GPU集羣、按需或混合編排引擎)的合作伙伴,這些服務能夠根據業務需求和數據治理要求進行動態擴展和成本控制。此外,亦應優先選擇供應鏈穩定、資源充足的廠商。
  3. 始終以強大的安全和合規爲核心:選擇可證明擁有強大的企業級安全實踐、認證資格以及相關數據保護法規合規能力的供應商。驗證工作負載隔離、零信任訪問和加密等功能是否符合您的行業和區域需求,以保護敏感的AI數據。

在亞太市場,大型全棧雲廠商諸如亞馬遜雲科技、谷歌雲等已經贏得了衆多AI應用企業的青睞。對於新型雲廠商/AI原生雲廠商,本次報告IDC重點調研並推薦CoreWeave、GMI Cloud公司。