本機 AI 的成本，
不只是一台機器

來源：How I AI 影片〈Local AI models explained: How to run a fleet of Mac Studios and GPUs at home〉，YouTube 原始發布日期為 2026 年 7 月 13 日。受訪者 Alex Finn 分享個人本機硬體與工作流；設備、模型與成本判斷是其經驗，不構成採購或效能保證。

PART 1

先別把本機模型理解成「比較便宜的訂閱」

影片裡的硬體並不小：多台高記憶體 Mac Studio、DGX Spark 與自組 RTX 5090。Alex Finn 面對的常見質疑是，既然雲端模型與每月訂閱已經便宜，何必自己堆一組會持續耗電的機器？

他的答案不是單純的成本比較。本機推論真正改變的是使用方式：模型可以長時間、反覆、在不需要每次重新計費或等待配額的情況下運作。當任務是持續掃描、背景整理或多輪工具操作，問題不再只是「一次回答多少錢」，而是能不能讓任務一直跑下去。

PART 2

硬體艦隊的工作，不是讓每台都做同一件事

這不是一份通用硬體採購清單。影片展示的是一種分工方式：不同機器、不同模型、不同上下文大小與任務型態，被放進同一個調度面。Tailscale 等連線工具在這裡的意義，也不只是遠端登入，而是讓一個工作流能碰到多台分散的設備。

因此，設備數量本身沒有答案。先要定義的是工作：哪些事情必須留在本機、哪些可以交給雲端、哪些需要大量上下文、哪些要長時間等待或失敗後重跑。

PART 3

本機模型最有價值的情境，是「一直做」而不是「偶爾問」

對偶爾寫一段文字、查一個問題的人，雲端模型的便利通常更重要。影片指出的另一類情境是持續運作的工作：安全掃描、資料整理、背景研究、監看通知，以及把任務串成數小時或數天的 agent loop。

這些工作在雲端不是做不到，但使用者必須面對用量、延遲、權限與資料流向。把一部分工作放回本機，未必能消除風險，卻能讓團隊更明確決定資料在哪裡處理、任務何時停止、失敗時誰接手。隱私不是自動附帶的成果，仍取決於模型、工具、網路與記錄的設定。

PART 4

「軟體工廠」的核心，仍是可審查的交接

Alex 描述的流程包含 build loop 與 review loop：一個代理持續處理任務，另一個代理回頭檢查產物，再把結果交給人決定是否合併。這個安排的重點不在於讓代理自動發布，而是把建立、檢查與核准切成不同責任。

影片同時提到多個 agent 與 failover。這提醒了一個容易被硬體照片掩蓋的事實：當工作流變長，可靠性來自任務切分、狀態可見、失敗可重試與人類批准，不只是更多 GPU。先把一條窄的工作線跑穩，比先買一整排設備更能暴露真正的瓶頸。