top of page

文章和知識
搜尋


《Inference at Full Throttle》5 大重點整理:以 vLLM、量化、KV 快取與推測解碼加速 LLM 推論
模型答得對,卻又慢又燒 GPU 預算?本文整理 Scaling AI Systems 系列英文著作《Inference at Full Throttle》的 5 大重點,聚焦 LLM 推論服務效能。提供 Kindle 電子書與平裝本。

Choochai Thianthae
10月21日讀畢需時 3 分鐘


「AI 系統擴展系列」導讀:從 LLM 推論效能、GPU 叢集維運到 AI 成本管理的閱讀順序
ChatVariety Team 為在正式環境運行 AI 的團隊打造的三本工程書:以 vLLM、量化與推測解碼加速 LLM 服務、穩定維運 GPU 叢集,以及 AI 單位經濟——附建議閱讀順序與 Kindle、平裝版購買連結。

Choochai Thianthae
10月20日讀畢需時 4 分鐘


《Running the GPU Fleet》書評:AI GPU 叢集營運實務指南
Scaling AI Systems 系列英文著作書評:以容器編排、排程、可觀測性與故障管理營運 AI GPU 叢集。提供 Kindle 電子書與平裝本。

Choochai Thianthae
10月20日讀畢需時 4 分鐘


從晶片到 LLM:ChatVariety Team 的 4 本 AI 技術堆疊工程書
ChatVariety Team 在 Amazon 的 4 本英文工程書:半導體工程史、LLM 預訓練、AI 成本管理與量子運算工程。一次比較內容,附建議閱讀順序與每本書的連結。

Choochai Thianthae
10月17日讀畢需時 5 分鐘


Automotive Functional Safety Engineering 書評:電動車與自動駕駛的 ISO 26262、SOTIF 與資安實務
來自 Software-Defined Vehicle Engineering Series 的英文工程指南,將 ISO 26262、SOTIF、汽車資安、ADAS 與安全關鍵軟體整合於一書,專為電動車與自動駕駛車輛而寫。提供 Kindle 與平裝版。

Choochai Thianthae
10月2日讀畢需時 4 分鐘
bottom of page



