全球存储芯片巨头SK海力士和美光科技(MU.US)近日均表示，其2024年的高带宽内存已全部售罄，而2025年的库存也接近枯竭。晨星(Morningstar)股票研究主管Kazunori Ito在一份报告中表示：“我们预计2024年全年整体存储芯片供应将保持紧张。”
高性能存储芯片在训练大型语言模型(LLM)中起着至关重要的作用。在大型语言模型的训练中，高性能存储芯片负责记忆与用户对话的详细信息和偏好，从而生成类似人类的回应。然而，由于这些芯片的制造工艺复杂，提高产量一直是一项挑战。
纳斯达克IR Intelligence的主管William Bailey警告称：“这些芯片的制造过程更为复杂，提高产量一直很困难。这可能会在2024年剩余时间和2025年大部分时间造成短缺。”市场情报公司TrendForce在三月份表示，与个人电脑和服务器中常见的DDR5内存芯片相比，高带宽内存的生产周期要长1.5到2个月。
在微软、亚马逊和谷歌等大型科技公司纷纷投入巨额资金用于训练自己的大型语言模型以保持竞争力的情况下，人工智能芯片的需求进一步增长。这些大公司已成为人工智能芯片的大买家。它们表示，将继续投入资源建设人工智能基础设施，这意味着对包括高带宽内存在内的人工智能芯片的需求将持续保持旺盛。
为了满足市场对高性能存储芯片激增的需求，SK海力士已经宣布计划在美国印第安纳州投资先进的封装设施，并在韩国本土扩大产能。与此同时，三星也表示将大幅增加其高带宽内存的供应量。在今年4月的第一季度财报电话会议上，三星透露其2024年的高带宽内存供应量将比去年增长三倍以上，并计划在2025年继续以每年至少两倍的速度扩大供应。
此外，在这场人工智能热潮中，芯片制造商们正在努力生产市场上最先进的存储芯片，力图在这场技术竞赛中抢占先机。SK海力士提出了在2026年推出HBM4的蓝图，三星电子计划在2025年推出HBM4产品。不过，尽管芯片制造商们正在努力提高产量和技术水平，但高性能存储芯片的供应紧张局面可能仍将持续一段时间。
