top of page

AI 基礎設施、硬體與編譯器工程系列導讀:從晶片到軟體的 6 本書

8小时前
讀畢需時 4 分鐘

你使用的每一個大型語言模型,背後都是一層層多數軟體團隊看不見的工程:客製化晶片、百萬瓦級資料中心、把神經網路映射到晶片上的編譯器,以及為了擠出最後幾個百分點效能而手工調校的 GPU kernel。如果你正在找能把整個技術堆疊講清楚、又分冊聚焦且價格親民的AI 硬體書籍,ChatVariety Team 的《AI Infrastructure, Hardware & Compiler Engineering Series》正是為此而寫。


本文帶你認識全系列 6 本書、建議閱讀順序、每本適合誰,以及 Kindle 與平裝本該怎麼選(全系列皆為英文書)。



這個系列在講什麼

如今限制 AI 發展的,往往不是點子,而是基礎設施。訓練與部署大型模型,取決於加速器做矩陣運算有多快、資料在記憶體與運算單元之間搬移有多快、一個機櫃能承受多少電力與散熱,以及軟體能多有效率地把模型計算圖轉成機器碼。


每一層都是獨立的專業,而能理解各層如何串接的工程師,是業界最搶手的人才之一。這個系列為每一層各寫一本書:從晶片設計、資料中心設施,到編譯器、GPU kernel、連接模型與工具的協定,再到可能是下一步的量子電腦。6 本書皆以英文撰寫,適合在職工程師與技術讀者。


建議閱讀順序

每本書都能獨立閱讀,但以下順序由晶片往上到軟體,最後展望未來:

  1. AI Hardware Engineering

  2. AI Data Center Infrastructure Engineering

  3. Compiler Engineering for AI Hardware

  4. GPU Kernel Engineering for LLM Inference

  5. The Model Context Protocol Developer's Handbook

  6. Quantum Computing Engineering


第 1 本 — AI Hardware Engineering

從堆疊最底層開始。本書探討為高吞吐量機器學習工作負載設計 GPU、TPU 與 NPU,涵蓋平行運算、記憶體頻寬與數值精度等架構取捨——這些決定了模型訓練與推論的速度。


第 2 本 — AI Data Center Infrastructure Engineering

從晶片拉遠到整棟建築。電力配送、液冷、高密度網路與能源效率,已成為 GPU 訓練叢集的真正瓶頸;本書勾勒讓數千顆加速器持續運轉、保持低溫的設施級工程。


第 3 本 — Compiler Engineering for AI Hardware

連接模型與晶片的橋梁。MLIR、TVM 與 XLA 是把神經網路計算圖降轉到加速器上的編譯器框架,而客製化後端則是新晶片獲得軟體支援的方式。打造或瞄準 AI 硬體的人必讀。


第 4 本 — GPU Kernel Engineering for LLM Inference

效能靠手工贏得的地方。針對高吞吐量 LLM 推論的 CUDA、Triton 與 Flash Attention 最佳化——在正式環境中降低延遲與每個 token 成本的 kernel 級技術。


第 5 本 — The Model Context Protocol Developer's Handbook

從基礎設施走向整合。Model Context Protocol 是連接 AI 模型與工具、資料的開放標準。本手冊涵蓋為 Claude、GPT 與本地 LLM 建置、部署與保護 MCP 伺服器——也就是基礎設施與實際應用交會的那一層。


第 6 本 — Quantum Computing Engineering

下一個前沿。超導量子位元、量子錯誤更正與實際演算法實作——以務實的工程角度看量子運算目前的位置,以及它可能如何與傳統 AI 硬體互補。


為什麼這個系列值得一讀

貼合真實的技術堆疊。多數 AI 書只停留在 Python 層。這個系列深入底層——晶片、設施、編譯器與 kernel——正是這些決定了模型的成本與速度。


直指業界實際使用的工具。書名直接點出企業招募時看重的技術:CUDA、Triton、Flash Attention、MLIR、TVM、XLA、液冷、MCP 與超導量子位元。


只買你需要的那一層。想壓低延遲的 ML 工程師可以從 GPU kernel 開始;資料中心負責人可以直接讀設施那本。以 Kindle 的價格補足知識缺口,非常划算。


適合誰閱讀

  • 想了解訓練與推論程式碼底下發生什麼事的 ML 與基礎設施工程師。

  • 從事 CUDA、Triton 或推論服務的效能工程師。

  • 轉向 AI 加速器領域的硬體、晶片與編譯器工程師。

  • 規劃 GPU 叢集的資料中心、電力與散熱專業人員。

  • 想要一張 AI 基礎設施全景地圖的技術主管、學生與投資人。


Kindle 還是平裝本?

  • Kindle(撰文時每本 US$2.99):即買即讀、可全文搜尋,整個系列放在一台裝置上,專案進行中隨時查閱。

  • 平裝本(撰文時每本 US$9.99):適合專心研讀、在頁邊做筆記,也適合放在團隊書架上,尤其是會反覆翻閱的編譯器與 kernel 兩本。

常見的做法是整個系列買 Kindle 版,再為最貼近日常工作的一兩本買平裝本。


ChatVariety Team 其他推薦

如果你的下一步是營運與擴展 AI 系統,以下其他系列的書很適合搭配閱讀:


FAQ

《AI Infrastructure, Hardware & Compiler Engineering Series》6 本都要讀嗎?

不必。每本書都能獨立閱讀。想看全貌就按建議順序讀,或從最貼近目前工作的那一層開始。

需要硬體背景才能讀嗎?

這些書是為技術讀者而寫。軟體與 ML 工程師可把硬體與資料中心兩本當作入門橋梁;硬體工程師則可透過編譯器、kernel 與 MCP 三本,了解軟體如何使用硬體。

書的價格是多少?是什麼語言?

6 本書皆為英文。撰文時在 Amazon 上,每本 Kindle 版 US$2.99,平裝本 US$9.99。


總結

如今 AI 的進展,與晶片、電力、編譯器和 kernel 的關係,不亞於模型架構本身。這個系列以實惠且有條理的方式,帶你理解每一層——從 GPU 與 TPU 設計、液冷叢集,到 MLIR、CUDA、MCP 與量子運算。先從《AI Hardware Engineering》開始,再挑選對你工作最重要的那幾層。



留言


LearnSpace_Set_M4-6.png
LearnSpace_Set_IELTS_3free2.png
最近的帖子
LearnSpace_Set_CUTEP_3free2.png
c24f0332fa3b87f8a304140403b893510_64100212_210625.jpg
HSKVocab5000_PichitTukRadab_cover_front_1748x2480.jpg
LearnSpace_Set_P4-6.png
5.png
4.png
Button Event สติกเกอร์.png
2.png
Button ChatStick Market.png
bottom of page