微軟自研晶片新里程碑:Maia 300 採用台積電 N2P 製程

微軟正式發表 Azure Maia 300 晶片,這是其自研基礎設施計畫的第三個世代。Maia 300 專為推理優先架構設計,針對長脈絡與記憶體密集的工作負載進行最佳化。關鍵運算 Chiplet 採用台積電 N2P 製程打造,透過多 Chiplet 架構分離運算、記憶體控制器及 I/O 功能,以最大化每瓦效能。微軟預計於 2027 年開始量產部署,外媒報導規模可能超過 100 萬顆,目標是讓 Maia 系列成為微軟產品與服務的主要推理系統。

效能大幅躍升:每瓦 Token 數量較 GPU 系統多出 40%

在大型推理系統中,資料搬移效率往往是瓶頸。Maia 300 透過軟體定義資料流架構與 AI 輔助 kernel 最佳化,極大化資料局部性。硬體規格上,它在 950 瓦 TDP 內整合八組 HBM4 堆疊,提供 18.0 TB/s 峰值記憶體頻寬。微軟預期 Maia 300 每 MW 交出的 token 數量比頂尖 GPU 系統多出 40%;在完整 96 顆晶片配置的機櫃中,吞吐量最高可達前代 Maia 200 的七倍,展現強大的擴展性與效率。