MoneyDJ新聞 2025-09-09 18:48:41 周佩宇 發佈
在生成式AI引發的全球運算競賽中，記憶體已經從配角變成AI基礎設施的核心。今(9)日於SEMICON Taiwan舉辦的記憶體高峰論壇，SK海力士、三星、美光三大記憶體廠的高層首次同台演講，專注於高頻寬記憶體（HBM）在能效、封裝與新架構上的挑戰與機會，也不約而同強調台灣半導體生態系的重要性。
SK海力士HBM事業規劃副總裁崔俊龍(圖左二)表示，隨著AI訓練和推論需求暴增，HBM已經不再是「配角」，而是系統效能的重要推手。以單一AI任務為例，HBM的功耗占比已經從12%攀升至18%以上，以後還會更高。他指出，如果HBM功耗改善10%，整個系統功耗就可以下降2個百分點；如果改善達到50%，那麼資料中心所需伺服器的功耗可以減少一成。他還強調，SK海力士最新推出的HBM4容量達36GB、頻寬超過2TB/s，而且針對AI工作負載優化能效，以後將推出客製化HBM方案，跟晶片設計廠密切合作，共同打造專屬架構。
三星記憶體產品規劃副總裁Jangseok Choi(圖右二)則以AI生成影像開場，他提到AI帶來龐大的運算需求，同時也造成資料中心能源和散熱上的挑戰。昂貴GPU常因為記憶體頻寬不足而閒置，因此三星也將推動客製設計的HBM，用混合銅鍵合（Hybrid Copper Bonding）取代傳統封裝，提高堆疊密度和散熱效率，以支撐AI高功耗環境。
此外，他說明了記憶體內運算（PIM）與近記憶體運算（PNM）的突破潛力。一部分運算可以下放至記憶體或周邊元件，以降低延遲並提升能效。實驗顯示，在LPDDR6與HBM中導入PIM，可以使推論效能提升逾2倍，而能耗減半。Choi並強調，台灣完整的半導体生態系，是推動AI记忆体创新的重要夥伴。
美光技術長Dr. Nirmal Ramaswamy(圖右一)則指出，目前AI模型參數正朝兆級邁進，使得對於记忆体需求接近物理極限。傳統DRAM在電容結構及感測上面臨瓶頸，美光正在積極推進3D DRAM技術藍圖，也透過混合銅鍵合及封裝方式來突破限制。从长远来看，美光还在探索新兴记忆体，并认为FeFET最具潜力，因为其性能接近DRAM且具备成本优势，有望成为CXL记忆体扩充模块的新选择。Ramaswamy指出，如果记忆体功耗表现没有突破，到2030年美国资料中心可能会消耗全国约十分之一电力，其中相当可观的是来自于人工智能，这意味着要让人工智能持续扩张，就必须大幅降低记忆体能源消耗。
总体来看，这三家厂商都认同一个观点：记忆体不仅仅是储存，更是推动人工智能性能与效率的重要基础。从客制化HSB、3D DRAM蓝图，到先进封装方案，都显示出下一阶段人工智能竞赛除了GPU外，还将关注如何通过技术创新来支持未来的人造智慧基础设施。
