MoneyDJ新聞 2025-09-09 18:48:41 周佩宇 發佈
在生成式AI引發的全球運算競賽中，記憶體已經從配角變成AI基礎設施的核心。今(9)日於SEMICON Taiwan舉辦的記憶體高峰論壇，SK海力士、三星、美光三大記憶體廠高層首次同台發表演說，專注於高頻寬記憶體（HBM）在能效、封裝與新架構上的挑戰與機會，也共同強調台灣半導體生態系的重要性。
SK海力士HBM事業規劃副總裁崔俊龍(圖左二)表示，隨著AI訓練和推論需求暴增，HBM不再是「配角」，而是系統效能的重要推手。以單一AI任務為例，HBM的功耗占比已經從12%升到18%以上，以後還會更高。他指出，如果HBM功耗改善10%，整個系統功耗就可以下降2個百分點；如果改善提升到50%，相當於資料中心所需伺服器之功耗可以減少一成。他也強調SK海力士最新推出的HBM4，不但容量達36GB、頻寬超過2TB/s，更針對AI工作負載優化能效，未來將推出客製化的HBM方案，跟晶片設計廠密切合作，共同打造專屬架構。
三星記憶體產品規劃副總裁Jangseok Choi(圖右二)則以AI生成影像作為開場，他提到AI帶來龐大的運算需求，同時也帶來資料中心能源與散熱挑戰。昂貴GPU常因為記憶體頻寬不足而閒置，因此三星也將推動客製設計的HBM，用混合銅鍵合（Hybrid Copper Bonding）取代傳統封裝，以提升堆疊密度和散熱效率，以支撐高功耗環境下的AI應用。
此外，他解釋了記憶體內運算（PIM）和近記憶體運算（PNM）的重要性，它們將成為下一步突破的一部分。一些運算可以放在記憶體或周邊元件上進行，以降低延遲並提高能效。實驗顯示，在LPDDR6與HBM中導入PIM後，其推論效能可提升逾2倍，而能耗則減半。Choi還強調台灣完整的半導体生态系统，是推动 AI 记忆体创新的重要伙伴。
美光技術長Dr. Nirmal Ramaswamy(圖右一)指出，目前 AI 模型參數正朝向兆級邁進，使得對於记忆体 的需求逼近物理極限。傳統DRAM在電容結構及感測方面已遇到瓶頸，美光正在推进3D DRAM技术蓝图，并通过混合铜键合与封装方式来突破这些限制。从长远来看，美光还在探索新兴记忆体，并认为FeFET最具潜力，因为其性能接近DRAM且具备成本优势，有望成为CXL记忆体扩充模块的新选择。Ramaswamy指出，如果记忆体功耗表现没有突破，到2030年美国资料中心可能会消耗全国约十分之一电力，其中相当可观的是来自于 AI ，因此要让 AI 持续扩张，就必须大幅降低记忆体 能源消耗。
整個來看這三家公司的觀點一致，即是說：現在 記 憶 體 不 再 是 單 純 的 儲 存 器，而 是 驅 動 AI 效 能 與 能 效 的 核心基礎。不管是客製化 HB M 、3D DR AM 藍圖 還 是先進 封 裝 方 案，都顯示出 下一階段 AI競賽除了 GPU 外，更會關注如何透過 記 憶 體 技 術 創 新 支 撐 未 來 的 A I 基 礎 設施 。
