AI推論記憶體替代技術商業化催化因素
定義
AI 推論記憶體替代技術商業化催化因素，是指能證明 Stacked GDDR、CXL Memory、LPDDR、高階 SSD、Z-Angle Memory 或 Processing-In-Memory 從研究/概念轉向可部署推論平台的事件。
觸發條件
- Stacked GDDR 原型、客戶樣品或 AI accelerator design win。
- CXL memory 在多 GPU / LLM 推論中有公開 benchmark、雲端部署或軟體棧支援。
- LPDDR 被資料中心 CPU/GPU/accelerator 平台採納作為 KV cache offload 或 memory expansion。
- 高階 SSD + prefetching 在 MoE 或大型模型推論中證明可接受 latency/TCO。
- ZAM 有正式 whitepaper、原型晶片、合作公告或商業化路線圖。
- PIM 有可量產硬體、compiler/runtime 支援與模型 benchmark。
影響
若這些催化因素成立，AI 推論可能從「HBM 容量瓶頸」轉向更複雜的多層記憶體架構，進一步改變 Memflation、HBM 需求、NAND/SSD 需求與系統廠設計取捨。