韩国科学技术院金正浩教授:AI的未来在于内存技术,而非GPU

韩国科学技术院(KAIST)的金正浩教授,被誉为"HBM之父",近期在一次视频专访中提出了颠覆传统认知的观点:AI的核心在于内存技术,尤其是HBM技术,而非GPU。金正浩教授的这一观点直指当前AI算力竞赛的结构性矛盾,并在科技与投资圈引起了广泛关注。

GPU的局限性与内存的重要性

金正浩教授指出,GPU的实际工作时间只有10%,因为大部分时间都在等待数据从HBM中读取、计算后再写回内存。即便通过算法优化,GPU利用率也难以突破30%。他强调,"AI等于内存(AI = Memory)",这一观点得到了业界的广泛关注。

金正浩教授对英伟达(NVIDIA)的现状进行了犀利的判断,认为GPU的技术性成长已经接近停滞,而人工智能计算机的进化将由内存技术决定。他指出,GPU想提升性能,只能扩大芯片面积、堆更多计算单元,但由于散热问题,无法像内存一样垂直堆叠,因此GPU陷入了"外通死局"。

HBM技术的两大核心:容量与带宽

金正浩教授将HBM的价值归结为两个维度:容量和带宽。随着AI技术的发展,内存需求以每年翻倍的速度增长,10年就是1000倍。传统方式靠缩小晶体管来增容,但如今已逼近量子力学边界,几乎无法继续缩小,因此必须"向上堆叠"。

在带宽方面,金正浩教授比喻说,"传统内存如果是8车道高速公路,HBM是1024车道,现在是2048车道,几年后可能达到100万车道。" 靠并行通道同时传输海量数据,才能匹配AI计算的速度需求。

HBF与HBS:未来的技术路线

金正浩教授提出了HBF(High Bandwidth Flash)的概念,即将NAND闪存像HBM一样垂直堆叠。DRAM速度快但容量有限,NAND闪存容量大、可长期保存数据,速度虽然慢一些,但在推理场景中足够满足"冷数据"的存储需求。

他还提出了HBS(High Bandwidth SRAM)的概念,即将整张12英寸晶圆全部做成