|
IT之家 7 月 6 日消息，之正浩质内真正被誉为“HBM 之父”的父金韩国科学技术院（KAIST）电气系教授金正浩近日接受《东亚日报》采访时表示，AI 的工作核心竞争力正在从 GPU 转向内存。
金正浩指出，之正浩质内真正AI 的父金本质在于内存，GPU 在 AI 推理过程中的工作实际利用率远低于理论峰值。在 AI 每次输出结果的之正浩质内真正过程中，数据必须先从 HBM 读取并传输至 GPU 进行计算，父金随后将结果写回内存。工作即便部署高达 100 万块 GPU，之正浩质内真正其真正用于有效计算的父金时间占比也仅为 10%-30%。 此外，工作过去的之正浩质内真正 AI 发展主要集中于训练阶段，因此 GPU 曾是父金决定性能的关键。然而，工作随着 AI 迈入推理时代，性能的决定因素转变为单次处理的数据量及数据处理速度，这意味着内存能力将直接主导 AI 的整体性能表现。 目前，HBM 作为专为 AI 设计的高带宽内存方案已得到应用。但随着 AI 向多模态化和 Agentic AI（代理式人工智能）演进，对视频、文档、长期记忆等海量冷数据的存储需求日益增长。因此，采用类似 HBM 堆叠技术的 HBF（High Bandwidth Flash，高带宽闪存）有望成为未来主流。金正浩预测，10 年后 HBF 的市场需求将超越 HBM。 展望更远的未来，HBS（High Bandwidth SRAM，高带宽静态随机存取存储器）将成为主流技术。该技术构想包括在整片 12 英寸晶圆上铺设 SRAM，将容量提升至约 1600GB，从而实现大容量且极高速的数据处理，其读写速度比 DRAM 快 1000 倍。 金正浩进一步描绘了未来 AI 计算机的形态：它将演变成一个庞大的“三维建筑”。其中，HBM 扮演“商场”角色，HBF 层相当于“住宅区”，而 HBS 则承担高速缓存功能。各种形态的 HBM、HBF 和 HBS 组合在一起，为 GPU 持续供给数据，形成规模约 100 层的 3D 复合架构。
|
