Dell PowerRack 與 Deskside Agentic AI 完整解析：金融、醫療、律師事務所「資料不出公司」的地端 AI agent 採購決策

律師事務所合夥人會議室，週五晚上九點。

合夥人剛簽完一份併購案保密協議，桌上躺著對方律師寄來的 380 頁合約。同事問：「要不要丟給 ChatGPT 整理重點？明天上午就要回覆。」合夥人沉默三秒，搖頭：「不行，這份檔案的內容外流，事務所就完了。」於是兩個資深律師硬是熬夜手工讀到凌晨四點。

這個場景，每天在台灣的金融顧問、律師、會計師、診所辦公室裡上演。「我們想用 AI，但客戶資料不能上雲」是這些行業共同的緊箍咒——其實會用，只是不敢用。雲端 LLM 的速度與便利對他們來說，等於在保密義務與生產力之間二選一。

2026 年 5 月 18 日的 Dell Technologies World 2026 開幕主題演講，把這個僵局直接打破。Dell 一口氣端出三樣東西——PowerRack 機架式系統、Deskside Agentic AI 桌邊主機，以及與 NVIDIA 共同開發的 AI-Q 2.0 reference architecture。Dell 官方新聞稿把整個策略定調為「從桌邊到資料中心的 production-ready agentic AI」，目標客戶寫得很白：金融、公部門、製造、醫療這些資料不能離開公司的高度監管行業。

這篇文章寫給三種讀者。第一種是金融顧問、診所、律師事務所、會計事務所這類資料敏感型 SMB 老闆，要決定要不要進場買地端 AI；第二種是已經在用雲端 AI 但開始擔心合規風險的中型企業 IT 主管；第三種是準備找外包做客製化 AI 系統的人，需要知道「地端 vs 雲端 vs 混合」的合約紅線。如果你想看更技術面的自建 LLM 拆解，可以先讀 企業自建 LLM 完整技術路徑，那篇講基底選型與微調；本篇聚焦 Dell 這次硬體發表帶來的採購決策邏輯。

Dell 為什麼押注 Deskside Agentic AI：2026/5 三個關鍵發布拆解

先說一件事——Dell 不是突然轉向 AI 的公司，2024、2025 兩年的伺服器營收都被 NVIDIA 的 H100、B200 GPU 撐起來。但這次發表的角度不一樣，重點放在「更靠近你公司的 AI」，而不是「更大的雲」。ServeTheHome 對 Dell Tech World 2026 的觀察直接用「Sovereign and On-Premises AI」當標題，這個訊號很清楚——產業共識正在從「all-in cloud」轉到「敏感資料留在本地、非敏感工作流上雲」的混合架構。

發布一：PowerRack——六小時開箱即用的 AI 機架

PowerRack 真正的賣點是「不用養 IT 團隊也能上線」，GPU 算力反而是其次。傳統做法買一台 8 卡 H100 server，從採購、機房改造、布線、灌系統、調網路到能跑模型，平均要 3-6 個月。IT Pro 的報導引述 Dell 的說法，PowerRack 是把運算、網路、儲存整個機架預先驗證過後出貨，現場部署只要 6 小時就能讓第一個 workload 跑起來。

PowerRack for compute 現在就買得到，配套的 networking 版本要等 9 月、storage 版本要等 2026 下半年。也就是說現在進場的公司是先用既有的網路與儲存接上 PowerRack 運算單元，整套打通是漸進式的。

發布二：Deskside Agentic AI——桌邊就能跑 1 兆參數模型

Deskside 是這次發表最有想像力的一塊。Dell 把它分成三個價位段，全部都是放在辦公室桌邊的小型機殼，不需要機房：

配套的軟體是 NVIDIA NemoClaw reference stack 加上 OpenShell runtime，跑在 Canonical Ubuntu 或 Red Hat AI 上。簡單講，就是把「agent 開發框架 + 模型 runtime + 安全治理」這三層先包好，買回去開機就能寫 agent，不用自己 debug 半年的環境問題。

發布三：AI-Q 2.0——把雲端 agent 流程搬到地端的橋

這個比較少人提，但對採購決策很關鍵。AI-Q 2.0 是 Dell 跟 NVIDIA 共同推的 reference architecture，幫客戶把同樣的 agent workflow，在 Deskside、PowerRack、公雲三邊跑出一致結果。意思是你今天在 Deskside 開發測試完的 agent，未來要 scale 到 PowerRack 機架、或某些非敏感任務外包到 AWS Bedrock，不用整個重寫。

Dell 在發表會上講的數字很直接——對採用 Deskside 跑地端推理的企業，與雲端 API 比較，大約 3 個月內可損益兩平，兩年下來最多省 87% 成本。這個數字要小心看（後面 TCO 段會拆），但訊號是清楚的：地端方案在 2026 已經成為真有經濟學意義的選擇，再也不是「為了合規犧牲效率」的妥協。

雲端 agent vs 地端 agent：資料敏感產業的成本真相

先把一個普遍誤會釐清——雲端 AI 真正的特性是「便宜在前半年」，整體並非「比較便宜」。一旦你的 agent 流量穩定、用量可預測、又有合規顧慮，雲端 API 的單價會把利潤吃掉。我們在做 AI 顧問諮詢 的過程中，遇到不少老闆是吃過虧才回頭問地端方案的——「上半年算下來 GPT-4 token 費花了 28 萬、又被資安顧問點名要做資料外流評估，乾脆問問地端要多少」這種狀況。

純雲端、混合、純地端的 24 個月 TCO 對照

假設一間 30 人的律師事務所，每天需要做合約審查、判例搜尋、文書草擬三類 agent 任務，預估每月處理 1,500 萬個 token 流量。把三種架構攤開算 24 個月：

這張表的關鍵在於「你的業務模型適合哪個」，「哪個最便宜」反而是其次。30 人的事務所如果只是想嚐鮮 AI agent，純地端的 1,000 萬投資打不平，但 Deskside 加雲端混合的 200 多萬就值得認真評估。中小企業真正的甜蜜點，是混合架構不是純地端。

為什麼純地端會輸給混合架構？

這跟模型迭代速度有關。OpenAI、Anthropic、Google 三家每三個月就發新模型，純地端的開源模型雖然也在追，但落後通常是 6-12 個月。Next Platform 的分析把這個現象叫做「AI infrastructure 的地殼變動」——資料敏感的部分往地端跑，但前沿能力還是要靠雲端，所以未來幾年混合會是主流，不是純地端。

PowerRack 規格、價格、適用場景（vs 自架 GPU server vs 雲端 GPU 租用）

PowerRack 真正的競爭對手是「自己組一台 8 卡 GPU server」這個傳統做法，雲端反而還排不上。把三種主流地端方案拉出來比：

PowerRack 真正適合誰？

Dell 在發表會上把 PowerRack 的目標客戶寫得很明確——金融、政府、製造、醫療系統商。台灣對應的對象大致是這幾類：

• 中大型金控與證券業 IT 部門：跑 KYC、反洗錢、信用評等的內部模型，客戶資料絕對不能離開內網。

• 公部門資訊單位：戶政、健保、稅務系統的 RAG 知識庫，主權雲是基本要求。

• 大型製造業集團：產線預測維護、品質檢測 AI agent，機密圖紙與良率數據要留廠內。

• 區域醫院系統：影像 AI、病歷分析、臨床決策支援，PHI 與健保資料合規要求極高。

如果你的公司是 5-30 人的金融顧問工作室、診所、律師事務所——PowerRack 完全不是給你的，太貴、太大、太耗電。下一個段落講的 Deskside 才是真正適合你的東西。

Deskside：給 5-30 人小團隊的桌邊 AI 主機實戰場景

Deskside 才是這次發表最值得中小企業老闆關注的東西。它的定位是「放在辦公室桌邊、跟你的 Pro Precision 工作站長得差不多大」的地端 AI 主機。三個型號裡，最值得 SMB 評估的是中間那台 Pro Precision 9，可以跑 30B 到 500B 參數的模型，對絕大多數中小企業的 RAG、agent、文書類任務已經夠用。

Deskside vs Mac Studio vs DGX Spark 的真實差距

Deskside Pro Max with GB10 直接跟 NVIDIA DGX Spark 和 Mac Studio M3 Ultra 是同一個賽道。從中小企業採購角度看：

Deskside 真正的競爭力在於「整套裝起來就能用」，規格反而是其次。DGX Spark 雖然便宜，但中小企業老闆買回來通常找不到工程師把 stack 串起來，最後變成擺著好看的「金箱子」。

金融顧問場景：客戶名單與資金流向不出 LAN

把場景拉到一間 15 人的獨立財富管理工作室。客戶名單裡有上市公司董事、退休醫師、新創 founder，每個人的資產規模從 3,000 萬到 5 億不等。團隊每天要做的 agent 任務：

• 讀進客戶的對帳單 PDF → 自動分類資產配置 → 算出當前再平衡建議

• 讀進當週財經新聞 + 客戶投資組合 → 寫出個人化評論草稿

• 讀進客戶通訊紀錄 → 摘要近期顧慮並提示業務主管

這三件事如果丟給 ChatGPT，每天會有十幾份 PDF 的客戶資產內容離開公司——這在金管會的客戶資料保護角度是高度紅線。國外大型私人銀行如瑞銀、摩根私人銀行早已開始建地端 AI，但中型工作室過去做不起，因為自架 GPU server 加 ML Ops 團隊每年 1,000 萬以上的成本撐不住。

Deskside Pro Precision 9 的金融工作室配置

Pro Precision 9 跑一個量化過的 70B 模型（例如 Llama 3.3 70B 或 Qwen 2.5 72B）綽綽有餘，加上 RAG 接公司內部的客戶資料庫，可以做到：

• 零資料外流：所有客戶資料只在 LAN 內傳遞，agent 推理也在主機內完成。

• 合規可稽核：所有 agent 操作都有 log，金管會檢查可以直接調閱。

• 專屬語氣：用過去三年的內部投資評論 fine-tune 模型，產出符合事務所專業形象的草稿。

牙醫 / 眼科診所場景：病歷 + 影像 AI 不上雲

台灣的診所市場有 23,000 多家牙醫、眼科、皮膚科等專科診所，過去三年陸續導入 X 光、口腔內視鏡、OCT 等影像設備，每台機器產出大量影像資料。AI 影像判讀的需求很真實，但敏感度也很高——病歷上雲一旦外流，光是個資法罰款就夠倒一間診所。

我們做過 病歷分析管理系統 + CT 電腦斷層解決方案 的案子，當時還是 2024 年，地端 AI 推理主機要嘛貴到診所負擔不起，要嘛規格小到跑不動實用模型。Deskside Pro Max GB10 出來後，這個缺口直接被補上了——一台 25-35 萬台幣的桌邊主機，可以跑得動目前主流的醫療影像 AI 模型。

診所 AI 的四個實戰應用

這四件事如果用 ChatGPT 跑，每天會有上百筆病歷上雲；用 Deskside 跑，全部資料在診所內網閉環。健保署 2026 年新版資安規範已經把「病歷類資料外流」列為應通報事項，地端 AI 從合規角度不再是 nice-to-have，而是 must-have。

律師事務所場景：合約審查 agent 內部執行

回到文章開頭的 380 頁併購合約場景。律師事務所是地端 AI 最迫切的市場之一，原因有三：

• 律師保密義務：把客戶合約內容傳給雲端服務，違反《律師法》第 32 條保密義務的疑慮極高。

• 利益衝突風險：同一家雲端 LLM 可能同時服務原告與被告的律師，資料隔離靠對方公司良心。

• 資料離境合規：歐盟客戶的案件涉及 GDPR，資料一旦離開歐洲就要評估合規性。

國外有專門的法律 AI 工具如 Harvey AI、Spellbook，但這些都是雲端 SaaS。Spellbook 自己的部落格也承認，地端方案是真正能保證 attorney-client privilege 不被破壞的唯一解，但過去成本太高，只有大所做得起。Deskside 把這個門檻打下來。

律所地端 AI 的合約審查 workflow 設計

這個 workflow 的關鍵點在最後兩步——agent 不取代律師，是把律師的時間從「逐字讀 380 頁找問題」釋放到「複核 agent 標記的 35 個風險點」。同樣的併購案，原本要 8 小時人工讀完，壓到 1.5 小時。

採購決策樹：六題自測你公司該選地端、混合還是純雲端

把前面所有的場景與規格濃縮成一個自測流程。誠實回答六題，就能知道你公司現階段該走哪條路。

六題自測對應的採購建議

找外包做地端 AI agent 系統的五條合約紅線

如果你決定要做地端 AI 系統但沒有內部技術團隊，外包是合理選擇。但這個領域 2026 還是個賣方市場，外包商魚龍混雜，合約沒寫好很容易被綁死。整理我們在歷年 AI 系統客製化諮詢中遇過的合約陷阱：

紅線一：模型權重所有權必須寫清楚

如果外包商幫你 fine-tune 一個模型，這個 fine-tuned 模型的權重（weights）所有權歸誰？合約沒寫的話，預設多半是外包商。意思是哪天你想換廠商，那個用你公司資料訓練出來的模型，新廠商拿不到。合約應該明確寫「所有訓練產出的模型權重、checkpoint、訓練資料前處理 pipeline，著作財產權歸甲方（你）」。

紅線二：原始碼與部署文件的交付清單

地端 AI 系統有四層產出：應用層程式碼、agent orchestration 設定、模型 fine-tune 腳本、部署腳本（Ansible/Docker compose）。其中後三層很容易被外包商藏起來說「這是我們的 know-how」。合約交付清單要逐層列明，缺一不能驗收。

紅線三：硬體採購要走甲方名義

有些外包商會說「我們幫你採購 Dell Deskside，整套包進服務費」，聽起來方便。但這樣硬體保固在外包商名下，哪天他公司倒了你的保固就斷了。Deskside 與 PowerRack 必須以你公司名義跟 Dell 直接買，外包商只負責導入。

紅線四：訓練資料的所有權與刪除義務

外包商在開發過程中會接觸到你的客戶資料、業務文件、合約樣本。合約必須寫清楚——訓練資料只能存放在「你公司提供的環境」、外包商不得另存副本、合約結束後 30 天內必須出具刪除證明。涉及個資的還要簽 DPA（Data Processing Agreement）。

紅線五：維運接手與技術轉移條款

最容易被忽略的是「合約結束後怎麼辦」。地端 AI 系統不是一次性買賣，後續每個月都要監控、調整、修補。合約應該寫：第一年由外包商負責維運、第二年起你可以選擇延約或要求外包商在 60 天內把系統交接給你的內部團隊或新廠商，並提供完整的營運手冊與緊急聯絡指引。

Dell PowerRack 與 Deskside 採購常見問題

結論：地端 agent 是 2026 中小企業的新基礎建設

過去三年雲端 AI 的好處是「便宜起手、馬上能用」，但對資料敏感行業，這個方便正在變成負擔。Dell Tech World 2026 把 Deskside 與 PowerRack 一次端上桌，等於告訴市場——地端 agent 已經成為中小企業未來 5 年的新基礎建設，再也不是 nice-to-have 的選項。

最關鍵的判斷是「該買哪一台、什麼時候買、怎麼導入」，「該不該買」反而已經不是問題。錯買硬體會讓 100 萬投資變廢鐵，正確的順序是：先盤點 agent workflow → 估算流量與敏感度 → 再回推硬體規格與合約條款。

恆遠數位行銷在 AI 系統客製化開發 與 AI 顧問諮詢 服務中，幫老闆走完整套需求盤點、硬體選型、外包合約審閱、導入後維運的流程。如果你正在評估 Deskside 或 PowerRack 採購，或想了解地端 agent 的具體做法，歡迎預約 30 分鐘免費諮詢，我們會用真實案例幫你判斷現階段最划算的路線。延伸閱讀可以參考 企業自建 LLM 完整技術路徑、NVIDIA DGX Spark 完整解析，以及 雲端 ERP vs 地端 ERP 完整比較 這三篇姊妹文，可以拼出完整的「地端 vs 雲端」決策地圖。