top of page

文章和知識
搜尋


《Inference at Full Throttle》5 大重點整理:以 vLLM、量化、KV 快取與推測解碼加速 LLM 推論
模型答得對,卻又慢又燒 GPU 預算?本文整理 Scaling AI Systems 系列英文著作《Inference at Full Throttle》的 5 大重點,聚焦 LLM 推論服務效能。提供 Kindle 電子書與平裝本。

Choochai Thianthae
10月21日讀畢需時 3 分鐘


《Women Who Ride》書評:新手女性機車騎士的完整指南
《Women Who Ride》書評:ChatVariety Team「機車保養與騎乘系列」中專為新手女性騎士打造的入門指南,涵蓋選車、護具、技巧與自信(本書為英文版)。

Choochai Thianthae
10月21日讀畢需時 3 分鐘


「AI 系統擴展系列」導讀:從 LLM 推論效能、GPU 叢集維運到 AI 成本管理的閱讀順序
ChatVariety Team 為在正式環境運行 AI 的團隊打造的三本工程書:以 vLLM、量化與推測解碼加速 LLM 服務、穩定維運 GPU 叢集,以及 AI 單位經濟——附建議閱讀順序與 Kindle、平裝版購買連結。

Choochai Thianthae
10月20日讀畢需時 4 分鐘


《Running the GPU Fleet》書評:AI GPU 叢集營運實務指南
Scaling AI Systems 系列英文著作書評:以容器編排、排程、可觀測性與故障管理營運 AI GPU 叢集。提供 Kindle 電子書與平裝本。

Choochai Thianthae
10月20日讀畢需時 4 分鐘


《Car Detailing Like a Pro》書評:在家完成清洗、去汙、拋光與保護的專業汽車美容流程
ChatVariety Team《Car Detailing Like a Pro》書評:英文汽車美容入門指南,依專業順序教你清洗、去汙、拋光與保護漆面,適合誰讀、Kindle 與紙本怎麼選。

Choochai Thianthae
10月19日讀畢需時 3 分鐘
bottom of page



