AI 基礎設施、硬體與編譯器工程系列導讀:從晶片到軟體的 6 本書
你使用的每一個大型語言模型,背後都是一層層多數軟體團隊看不見的工程:客製化晶片、百萬瓦級資料中心、把神經網路映射到晶片上的編譯器,以及為了擠出最後幾個百分點效能而手工調校的 GPU kernel。如果你正在找能把整個技術堆疊講清楚、又分冊聚焦且價格親民的AI 硬體書籍,ChatVariety Team 的《AI Infrastructure, Hardware & Compiler Engineering Series》正是為此而寫。
本文帶你認識全系列 6 本書、建議閱讀順序、每本適合誰,以及 Kindle 與平裝本該怎麼選(全系列皆為英文書)。
這個系列在講什麼
如今限制 AI 發展的,往往不是點子,而是基礎設施。訓練與部署大型模型,取決於加速器做矩陣運算有多快、資料在記憶體與運算單元之間搬移有多快、一個機櫃能承受多少電力與散熱,以及軟體能多有效率地把模型計算圖轉成機器碼。
每一層都是獨立的專業,而能理解各層如何串接的工程師,是業界最搶手的人才之一。這個系列為每一層各寫一本書:從晶片設計、資料中心設施,到編譯器、GPU kernel、連接模型與工具的協定,再到可能是下一步的量子電腦。6 本書皆以英文撰寫,適合在職工程師與技術讀者。
建議閱讀順序
每本書都能獨立閱讀,但以下順序由晶片往上到軟體,最後展望未來:
AI Hardware Engineering
AI Data Center Infrastructure Engineering
Compiler Engineering for AI Hardware
GPU Kernel Engineering for LLM Inference
The Model Context Protocol Developer's Handbook
Quantum Computing Engineering
第 1 本 — AI Hardware Engineering
從堆疊最底層開始。本書探討為高吞吐量機器學習工作負載設計 GPU、TPU 與 NPU,涵蓋平行運算、記憶體頻寬與數值精度等架構取捨——這些決定了模型訓練與推論的速度。
第 2 本 — AI Data Center Infrastructure Engineering
從晶片拉遠到整棟建築。電力配送、液冷、高密度網路與能源效率,已成為 GPU 訓練叢集的真正瓶頸;本書勾勒讓數千顆加速器持續運轉、保持低溫的設施級工程。
第 3 本 — Compiler Engineering for AI Hardware
連接模型與晶片的橋梁。MLIR、TVM 與 XLA 是把神經網路計算圖降轉到加速器上的編譯器框架,而客製化後端則是新晶片獲得軟體支援的方式。打造或瞄準 AI 硬體的人必讀。
第 4 本 — GPU Kernel Engineering for LLM Inference
效能靠手工贏得的地方。針對高吞吐量 LLM 推論的 CUDA、Triton 與 Flash Attention 最佳化——在正式環境中降低延遲與每個 token 成本的 kernel 級技術。
第 5 本 — The Model Context Protocol Developer's Handbook
從基礎設施走向整合。Model Context Protocol 是連接 AI 模型與工具、資料的開放標準。本手冊涵蓋為 Claude、GPT 與本地 LLM 建置、部署與保護 MCP 伺服器——也就是基礎設施與實際應用交會的那一層。
第 6 本 — Quantum Computing Engineering
下一個前沿。超導量子位元、量子錯誤更正與實際演算法實作——以務實的工程角度看量子運算目前的位置,以及它可能如何與傳統 AI 硬體互補。
為什麼這個系列值得一讀
貼合真實的技術堆疊。多數 AI 書只停留在 Python 層。這個系列深入底層——晶片、設施、編譯器與 kernel——正是這些決定了模型的成本與速度。
直指業界實際使用的工具。書名直接點出企業招募時看重的技術:CUDA、Triton、Flash Attention、MLIR、TVM、XLA、液冷、MCP 與超導量子位元。
只買你需要的那一層。想壓低延遲的 ML 工程師可以從 GPU kernel 開始;資料中心負責人可以直接讀設施那本。以 Kindle 的價格補足知識缺口,非常划算。
適合誰閱讀
想了解訓練與推論程式碼底下發生什麼事的 ML 與基礎設施工程師。
從事 CUDA、Triton 或推論服務的效能工程師。
轉向 AI 加速器領域的硬體、晶片與編譯器工程師。
規劃 GPU 叢集的資料中心、電力與散熱專業人員。
想要一張 AI 基礎設施全景地圖的技術主管、學生與投資人。
Kindle 還是平裝本?
Kindle(撰文時每本 US$2.99):即買即讀、可全文搜尋,整個系列放在一台裝置上,專案進行中隨時查閱。
平裝本(撰文時每本 US$9.99):適合專心研讀、在頁邊做筆記,也適合放在團隊書架上,尤其是會反覆翻閱的編譯器與 kernel 兩本。
常見的做法是整個系列買 Kindle 版,再為最貼近日常工作的一兩本買平裝本。
ChatVariety Team 其他推薦
如果你的下一步是營運與擴展 AI 系統,以下其他系列的書很適合搭配閱讀:
FAQ
《AI Infrastructure, Hardware & Compiler Engineering Series》6 本都要讀嗎?
不必。每本書都能獨立閱讀。想看全貌就按建議順序讀,或從最貼近目前工作的那一層開始。
需要硬體背景才能讀嗎?
這些書是為技術讀者而寫。軟體與 ML 工程師可把硬體與資料中心兩本當作入門橋梁;硬體工程師則可透過編譯器、kernel 與 MCP 三本,了解軟體如何使用硬體。
書的價格是多少?是什麼語言?
6 本書皆為英文。撰文時在 Amazon 上,每本 Kindle 版 US$2.99,平裝本 US$9.99。
總結
如今 AI 的進展,與晶片、電力、編譯器和 kernel 的關係,不亞於模型架構本身。這個系列以實惠且有條理的方式,帶你理解每一層——從 GPU 與 TPU 設計、液冷叢集,到 MLIR、CUDA、MCP 與量子運算。先從《AI Hardware Engineering》開始,再挑選對你工作最重要的那幾層。
在 Amazon 上的 ChatVariety Team 作者商店瀏覽所有書籍。





































留言