AI 與開源：Llama、Mistral 和 DeepSeek 的意義

開源 AI 的三個轉折點

1. Llama（Meta）：證明了開源模型可以跟 GPT-3.5 競爭
2. Mistral：證明了小團隊（< 20 人）也能做出世界級模型
3. DeepSeek：證明了中國團隊在有限硬體下能挑戰前沿

為什麼開源重要？

• 可控性：你可以 fine-tune、部署在自己的 infra
• 透明度：知道訓練數據和方法（某種程度上）
• 成本：API 費用歸零，只付硬體

但開源不是萬靈丹

跑得動 70B 模型的硬體成本，可能比付 API 費用還貴。對大多數小團隊來說，API 搭配 local 小模型做特定任務是更務實的路徑。

2024-2025 的趨勢

開源和閉源的差距在縮小。最好的開源模型在大多數 benchmark 上已經跟 GPT-4 不相上下。競爭不再是「能不能追上」，而是「誰的部署成本更低」。

你現在手上有跑 local model 嗎？用的什麼卡？