AI 模型訓練怎麼做？「自己訓練的模型」多半是微調：可訓練的開源模型、平台、流程與成本入門

你在小紅書滑到一支影片，賣家說他們的產品「後端運算是自己訓練的 AI 模型」，還能「依你的需求調校，回傳最適合你的結果」。聽起來很厲害，也讓人好奇：一家小公司真的有辦法自己訓練 AI 模型嗎？如果可以，自己是不是也能做？剛好我們最近自己動手微調過模型，就用這次的經驗來回答。

先給答案：AI 模型訓練分成兩種量級。從零開始訓練一個大型語言模型（業界叫預訓練），要上千張 GPU 跑好幾個月，算力成本以百萬美元起跳，只有大型科技公司和國家級計畫做得起。市面上說「自己訓練模型」的產品，絕大多數是拿現成的開源模型（Llama、Qwen、Gemma 這類）用自家資料做微調（fine-tuning），或是根本沒動模型，只在大模型外面接上知識庫檢索（RAG）和寫好的提示詞。微調用一張顯示卡、幾百到幾千筆資料、幾十分鐘到幾小時就能跑完，個人和中小企業都做得到。

具體來說：我們拿 150 筆手標的客服訊息，在一台沒有獨立顯示卡的 Mac mini 上微調一個開源分類模型，609 秒跑完，正確率從 46.5% 拉到 77.5%（完整實測過程）。真正花時間的是那 150 筆標註，機器只跑了十分鐘。這篇用初學者看得懂的方式，回答五個問題：怎麼訓練、哪些模型能訓練、實務上怎麼做、用哪些平台、流程是什麼，最後再給你一套判斷別人「自家訓練模型」說法的問題清單。

這跟業界的實際做法一致。Menlo Ventures 2024 年的企業生成式 AI 調查訪問 600 位美國企業 IT 決策者，正式上線的 AI 模型只有 9% 做過微調，RAG 的採用率則從前一年的 31% 升到 51%。到了 2025 年版，報告直接寫微調和強化學習「仍屬小眾」，提示詞設計才是主流。

如果你已經懂微調、只想判斷該用微調還是 RAG，可以直接看 Fine-tuning 與 RAG 的成本決策指南；想看 rank、量化、推論框架這些工程細節，看企業自建 LLM 技術路徑。

「自己訓練的 AI 模型」有四種意思：一張表看懂差在哪

先講結論：同樣一句「我們自己訓練的模型」，背後可能是四件難度差上萬倍的事。用養成一位員工來比喻最好懂：預訓練是從小學一路教到大學畢業；繼續預訓練是大學畢業後再去念一個專業碩士；微調是請來一位大學畢業生，給他兩週職前訓練，讓他照公司的規矩做事；RAG 加提示詞則是什麼都不教，發一本公司手冊讓他隨時翻，上班前再交代幾句規則。

表上還少一種最常見、也最少被說出口的做法：直接呼叫 OpenAI、Anthropic 或 Google 的 API，加上一段寫好的提示詞，自己完全沒碰模型。這樣也能做出好用的產品，只是對外說成「自家訓練的模型」，就跟事實有段距離。

幾個名詞順手補一下。參數（parameter）是模型腦袋裡的旋鈕，數量常寫成 7B、70B，B 是十億；token 是模型讀文字的最小單位，一個中文字大約一到兩個 token。LoRA 是目前最常用的省錢微調法：原本的模型凍結不動，旁邊外掛一組小小的可訓練參數，像在原廠零件旁邊加裝一個小配件，訓練完要拆要換都方便。QLoRA 則是先把模型壓縮成 4 位元再做 LoRA，讓一張消費級顯示卡也塞得下。更多名詞可以看老闆級 AI 用語對照表。

先判斷要不要訓練：微調、RAG、提示詞各解決什麼問題

一句話分工：要模型知道新東西，用 RAG；要模型習慣某種做法，用微調；兩樣都還沒試過，先從提示詞開始。

最多人踩的坑，是以為微調可以把公司文件「灌進」模型。OpenAI 開發者論壇上有一篇很典型的求助文：發文者用 30 筆資料微調 gpt-4o-mini，結果小錯變少，胡說八道反而變多，底下老手的回覆很直接：微調本來就不適合教新知識，那些資料該放進提示詞或用 RAG。學術界也有一樣的結論，Technion 與 Google 研究人員 2024 年的論文發現模型很難透過微調學到新事實，硬塞新知識還會讓它更容易亂講。

我們的判斷很直接：多數中小企業說「想要一個專屬模型」，真正要的是 AI 讀得懂自己公司的資料，這件事用 RAG 加上寫得好的提示詞就做得到，RAG 知識庫怎麼蓋另一篇有完整說明。微調值得投入的時機，是你手上已經累積幾百筆以上的「標準答案」，而且提示詞已經改到極限，還是達不到要的穩定度。

這個判斷我們在專案裡反覆遇到。我們做過的 AI 智慧客服系統，是幫一個電商品牌做 AI 自動回覆加真人無縫轉接，客服回應時間從 4 小時縮短到 3 分鐘。這類需求的關鍵在 AI 讀得懂店家自己的商品、出貨和退換貨規則，資料怎麼接、什麼時候轉給真人才是重點，從零造一個新模型反而幫不上忙。如果你也在評估類似的東西，我們很樂意聽你聊聊現在的情況。

從零訓練一個模型要多少錢：為什麼小公司幾乎不可能自己做

先給數字：就算是以省錢出名的 DeepSeek，訓練一個頂級模型光是正式訓練的算力就要 557 萬美元，還不含前期研究。一般公司說「自己訓練」，指的幾乎都是後面要講的微調。

DeepSeek-V3 的技術報告寫得很清楚：整個訓練用了 278.8 萬個 H800 GPU 小時，以每小時 2 美元租金估算約 557.6 萬美元，而且報告特別註明，這個數字只算正式訓練那一輪，前期的研究與實驗都沒算進去。Meta 公開的數字更驚人，Llama 3.1 的模型卡顯示，最大的 405B 版本用了 3,084 萬個 H100 GPU 小時。

除了錢，還有資料。預訓練要吃數兆個 token 的文字，Meta 和 DeepSeek 都是十兆以上的量級，還要一整個團隊處理資料清洗、訓練穩定性、安全調校。所以看到一家幾個人的團隊說「我們有自己的大模型」，合理的解讀是：他們拿了某個開源模型，用自己的資料做了微調。這本身是很正常的工程做法，只是行銷話術常把它講得像從零造出來的。

台灣也有過這種爭議。2023 年 10 月，中研院釋出的繁中模型 CKIP-Llama-2-7b 被網友發現回答時自稱來自對岸，中央社報導指出它是以 Llama-2-7b 和對岸的 Atom-7b 為基礎再訓練，測試版隨後下架。用開源模型當底沒有問題，問題出在底模的來源沒交代清楚。

現成可以訓練的模型有哪些：開源權重與雲端託管兩條路

先講結論：想自己動手，選一個「開放權重」的模型下載回來微調，Qwen、Gemma、gpt-oss、Mistral 都是 Apache 2.0 授權，商用最省事；不想碰顯示卡，就用雲端廠商的託管微調，但這條路 2026 年正在縮水。

開放權重（open-weight）的意思是模型的參數檔可以下載，你可以放在自己的主機上跑、拿去微調，但訓練資料通常不公開。下表整理 2026 年 10 月各家最新可下載的版本，授權與尺寸取自 Hugging Face 上的官方模型卡（查證日 2026-10-17）。如果想看這些模型在台灣題目上的實際表現，我們 10 月做過一份 16 個開源模型的繁中實測。

挑底模有三個原則。第一，先挑小的：分類、格式、固定口吻這類任務，3B 到 9B 的模型微調後往往就夠用，跑得快、部署便宜。第二，授權先看清楚：Apache 2.0 和 MIT 最寬鬆，Llama 和 Mistral Medium 都有營收或用戶數門檻。第三，中文要實測：英文榜單的名次不能直接套到繁中，我們實測時連「土豆」是花生還是馬鈴薯都有一半以上的模型答錯。中國模型的動向可以看中國四家開源 LLM 整理。

另一條路是雲端託管微調：上傳資料、按一個鍵，廠商幫你訓練並提供 API。省掉顯示卡和環境設定，但模型留在廠商那邊，換平台時帶不走。這條路 2026 年變動很大，下表是查證日當天的狀態。

這張表最值得注意的是方向：OpenAI 收掉自助微調，Claude 實質上沒有微調管道，Mistral 也把微調 API 列為棄用。大廠的判斷很清楚，新一代模型靠提示詞和工具就能做好大部分事，自助微調的需求撐不起一條產品線。反過來說，2026 年下半年還有人說「我們用 GPT 微調了專屬模型」，值得多問一句是哪個時候、用哪個模型做的。

用哪些平台訓練模型：從免費 Colab 到一鍵託管

一句話分工：Unsloth 加 Google Colab 是初學者最便宜的起點，LLaMA-Factory 有網頁介面最好上手，Axolotl 和 TRL 給要寫設定檔、長期維護的工程團隊，RunPod 這類 GPU 租用平台在免費額度不夠時補上，Together AI、Fireworks 則是不想管機器的託管選項。

有兩個常被推薦、但現在要避開的選項：Hugging Face 的 AutoTrain 官方已在 GitHub 上標示不再維護，建議改用 Axolotl 或 TRL；Predibase 和 OpenPipe 這兩家微調新創也分別在 2025 年被 Rubrik、CoreWeave 收購，網路上 2024 年的教學文多半還在推薦它們。

AI 模型訓練的實際流程：從定義任務到上線的八個步驟

先給全貌：真正按下「開始訓練」只佔整個流程的一小段，前面的定義任務、整理資料，和後面的評估、上線監控，才是花時間的地方。

第一步，定義任務和及格線。用一句話寫出要模型做什麼，例如「把客戶訊息分成詢價、進度、系統問題、一般詢問四類」，再寫下及格線：正確率要到多少、一則要在幾秒內回完。沒有及格線，訓練完根本不知道算不算成功。

第二步，判斷該不該微調。照前面那張判斷流程走一遍。先用寫好的提示詞加 20 到 50 題測試題，量一次現成大模型的成績。OpenAI 的微調文件也這樣建議：先用 50 筆精心準備的範例試，沒改善就回頭重想任務或提示詞，別急著加資料。

第三步，收集資料。微調要的是「輸入」與「標準答案」成對的範例。來源通常是公司已經有的東西：客服對話紀錄、業務寫過的報價說明、專家改過的文件。記得先把個資和機密拿掉，或確認你有權拿來訓練。

第四步，清理與標註。這一步最花人力。每一筆都要有人確認答案是對的，格式要一致。常見格式是 JSONL，一行一筆對話，長得像下面這樣：

{"messages": [{"role": "system", "content": "你是客服分流助理，只能回答：詢價、進度、系統問題、一般詢問。"}, {"role": "user", "content": "請問上次那張估價單有含運費嗎"}, {"role": "assistant", "content": "詢價"}]}
{"messages": [{"role": "system", "content": "你是客服分流助理，只能回答：詢價、進度、系統問題、一般詢問。"}, {"role": "user", "content": "後台登不進去一直轉圈"}, {"role": "assistant", "content": "系統問題"}]}

資料量沒有標準答案，經驗上分類、格式類任務幾百筆就看得到效果，口吻與專業寫作通常要上千筆。品質比數量重要：50 筆每一題都對的資料，勝過 500 筆一半標錯的資料。記得另外留兩成資料完全不拿來訓練，最後當考卷用。

第五步，選底模。照上一段的三原則：先挑小的、看授權、中文實測。第一次做建議從 Qwen3.5 或 Gemma 4 的小尺寸開始，這兩家都有 Apache 2.0 授權和現成的 Unsloth 筆記本。

第六步，訓練。初學者用 LoRA 或 QLoRA 就好。顯示卡記憶體的門檻可以參考 Unsloth 官方需求表：QLoRA 微調 8B 模型最低約 6GB，14B 約 8.5GB，70B 約 41GB。QLoRA 論文當年就示範過，一張 48GB 的顯示卡可以微調 650 億參數的模型。實際操作上，打開 Unsloth 的 Colab 筆記本、換成自己的資料檔、按順序執行，就是一次完整的訓練。

第七步，評估。拿第四步留下的考卷，同時考三個對象：沒微調的原模型、微調後的模型、直接呼叫大模型 API 加提示詞。三者並排比，才知道微調有沒有值回票價。別只看訓練過程的 loss 數字，OpenAI 論壇上就有人訓練和驗證的 loss 都很漂亮，實際用起來卻「像沒微調過一樣」。評估方法可以參考 LLM Evals 完整指南。

第八步，部署與持續迭代。微調完的模型可以用 Ollama、vLLM 這類工具放在自己的主機上，也可以上傳到 Together AI 這類平台用 API 呼叫。上線後要持續收集答錯的案例，累積到一定量再重訓一次。模型上線後也會慢慢「變笨」，AI 客服模型 drift 治理整理了該盯的指標。

我們自己跑過一次完整流程，最大的體會是：機器只跑了 609 秒，標註 150 筆資料卻花了好幾個小時，而且微調後正確率雖然從 46.5% 升到 77.5%，模型的信心分數卻壞掉了，對錯的答案一樣有把握。這種副作用只有在第七步認真評估才看得出來，細節都寫在 Laya 微調實測。

訓練 AI 模型要花多少錢、多少時間：三種規模試算

先給答案：做一次小規模微調，雲端算力費用從免費到幾十美元；真正的成本在標註資料的人力、評估與重訓，以及上線後的主機費用。

用入門規模算一次：假設 1,000 筆資料、每筆平均 300 個 token，跑 3 個回合（epoch），總共約 90 萬個 token。放到 Together AI 微調 8B 級模型，每 100 萬 token 0.34 美元，算下來不到 1 美元，但每次最低收 4 美元。用 RunPod 租一張 RTX 4090 跑一小時，社群雲大約 0.34 美元。算力真的很便宜。

容易被低估的是另外三筆帳。一是標註人力：1,000 筆資料每筆花 1 分鐘確認，就是將近 17 個工時，而且要懂業務的人來做。二是重訓：產品、規則一變，資料就要更新再訓一次。三是部署：自架模型要有一台 24 小時開著的主機，用託管平台則每次呼叫都要付費。整體預算怎麼抓，可以對照 AI 導入費用拆解。

別人說「我們有自家訓練的模型」，你可以問這六個問題

先講結論：這句話本身沒有對錯，要看它指的是哪一種做法，以及有沒有東西證明它比直接用大模型好。下面六個問題，問得越具體，越容易分辨。

誇大 AI 能力已經是各國監管的重點。美國聯邦貿易委員會（FTC）2024 年 9 月發動 Operation AI Comply，一次處理 5 家用 AI 話術誤導消費者的公司，其中自稱「全球第一個機器人律師」的 DoNotPay 被罰 19.3 萬美元；美國證管會（SEC）同年 3 月也處分了兩家投資顧問，理由是宣稱用了 AI 模型、實際上沒有。2025 年還有更極端的例子，購物 App Nate 的創辦人被美國司法部起訴，檢方指控號稱 AI 自動完成的購物流程，實際是由海外人工處理。

台灣的規範也適用。公平交易法第 21 條禁止對商品或服務做虛偽不實或引人錯誤的表示，幫忙推薦的網紅如果明知不實仍然代言，要和廣告主負連帶賠償責任。公平會 2026 年也開始監測廣告中的 AI 相關說法。在中國，網信辦要求生成式 AI 應用公開所用的已備案模型名稱與備案號，所以小紅書上的產品如果真的在中國上線，照規定應該查得到它底層用的是哪個模型。

也要公平地說：拿開源模型微調、或是包一層 API 做成好用的產品，都是正當的工程做法，很多好產品就是這樣做出來的。值得在意的只有兩件事，說法是否誠實，以及產品是否真的解決你的問題。評估 AI 廠商的實力，可以搭配判斷廠商「真的會做」的 6 個訊號與看懂 benchmark 數字的 5 條規則一起看。

如果你手上有一個想交給 AI 處理的流程，正在猶豫要用提示詞、RAG 還是微調，我們很樂意陪你一起看看：先用你的真實資料做一輪小測試，哪條路划算，數字會直接告訴你。