RAG 架構深入解析：讓 LLM 不再胡說八道
為什麼需要 RAG？ 大型語言模型雖然強大，但有一個致命缺陷： 幻覺（Hallucination） ——編造不存在的事實。 RAG（Retrieval-Augmented Generation）是當前的標準解法。它讓 LLM 在回答問題前，…
科技奇點
人工智慧 · 區塊鏈 · 未來工作
AI 時代的軟體工程師：取代還是進化？
兩種極端觀點 一邊是「AI 會消滅初階工程師」，另一邊是「AI 只是更好的 autocomplete」。 哪個才對？ --- 我的觀察：中間偏樂觀 1. Boilerplate 不再需要人寫 ：CRUD API、form validatio…
用 LoRA 微調 LLM 的實戰筆記
LoRA 是什麼？ Low-Rank Adaptation，一種參數高效的微調方法。只訓練一小部分新增參數，不改變原模型權重。 --- 為什麼不用 Full Fine-tuning？ - 成本：Full fine-tuning 需要多張 A…
Multi-Agent 系統設計：當一個 LLM 不夠用
從 Solo 到 Orchestra 單一 LLM agent 的能力有限——context window 不夠、無法同時處理多個子任務、容易在某一步卡住。 --- 常見的 Multi-Agent 架構 1. Supervisor-Work…
從零開始理解 Transformer 注意力機制
簡化到極致 Transformer 的核心只有一個問題： 「在處理這個詞的時候，我該注意哪些其他詞？」 --- Self-Attention 三部曲 1. Query × Key → Score ：計算每個詞之間的關聯強度 2. Softm…
Prompt Engineering 的邊界：技巧的盡頭是什麼？
我們到底在優化什麼？ Chain-of-thought、few-shot、role prompting、structured output——兩年來我們發明了一百種 prompt 技巧。但核心問題一直沒變： Prompt engineeri…
Edge AI：為什麼要把模型塞進手機裡？
趨勢不可逆 Apple Intelligence、Gemini Nano、Qualcomm AI Engine——大廠全部押注端側 AI。為什麼？ --- 三大驅動力 1. 隱私 ：資料不上雲，用戶更信任 2. 延遲 ：端側推理 < 10m…
RLHF 原理與實務：如何讓 LLM 學會「有禮貌」
一個尷尬的事實 基礎 LLM 很聰明，但也很沒禮貌。它不知道什麼話該說、什麼不該說。RLHF（Reinforcement Learning from Human Feedback）就是教它這件事。 --- RLHF 三步驟 1. 收集人類偏…
用 LangChain 建立第一個 AI Agent：從零到一
什麼是 Agent？ Agent = LLM + Tool Use + Memory + Planning 簡單說就是讓 LLM 不只會聊天，還能 做事 ：查資料庫、發 email、搜網頁。 --- 最小可行 Agent 不到 20 行程式…
AI 與開源：Llama、Mistral 和 DeepSeek 的意義
開源 AI 的三個轉折點 1. Llama（Meta） ：證明了開源模型可以跟 GPT-3.5 競爭 2. Mistral ：證明了小團隊（< 20 人）也能做出世界級模型 3. DeepSeek ：證明了中國團隊在有限硬體下能挑戰前沿 -…
奇點倒數：當人類不再是演算方程的唯一變數
標題：奇點倒數：當人類不再是演算方程的唯一變數 --- 內文 我們正活在「未來」的胚胎裡 如果說 20 世紀是物理學的世紀，那麼 21 世紀就是 大腦逆向工程 的世紀。 科技奇點（Technological Singularity）不再只是…
AI Agent 的未來
深度討論 AI Agent 的發展方向
區塊鏈的下一波：RWA 與代幣化經濟
幣價之外，區塊鏈正在發生的事 加密貨幣市場的上下波動吸走了大部分注意力，但區塊鏈技術本身正在一條更安靜、更深遠的道路上發展。 RWA（Real World Assets）是什麼？ 簡單說：把真實世界的資產（股票、債券、房地產、藝術品）「代幣…
AI 時代的學習策略：什麼技能還值得學？
一個誠實的問題 如果 AI 可以寫程式、翻譯語言、做設計、分析數據——那我們還要學什麼？ 需要重新定義「學習」 過去我們學技能是為了「執行」：學程式是為了寫程式，學外語是為了翻譯，學設計是為了做圖。 現在這些「執行」面正在被 AI 覆蓋。但…
多模態 AI 的現在與未來：從文字到全感官
AI 不只會讀字了 2025-2026 年，多模態 AI 從「新奇功能」變成了「基本配備」。 目前的多模態能力 - 視覺 ：GPT-4V、Gemini、Claude 都能看懂圖片和圖表，甚至手寫筆記 - 語音 ：OpenAI 的 Advan…
開源 AI vs 閉源 AI：DeepSeek 帶來的典範轉移
2025 年初，一個中國團隊改變了遊戲規則 DeepSeek 的出現不只是技術新聞，它重新定義了 AI 產業的競爭格局。 關鍵事實 - DeepSeek-V3 和 R1 以 遠低於 OpenAI 的成本 訓練出接近 GPT-4 水平的模型 …
AI 會取代你的工作嗎？一個務實的分析框架
不要被標題嚇到 每次看到「AI 將取代 XX% 的工作」這種標題，我們需要一個冷靜的分析框架。 不是取代工作，是取代任務 一個工作由許多任務組成。以軟體工程師為例： - ✅ AI 擅長：寫 CRUD 程式碼、寫測試、產文件 - ❌ AI 不…
AGI 還要多久？樂觀派與悲觀派的論證
一個問題，兩個世界 「AGI（通用人工智慧）什麼時候會實現？」這是 AI 圈最熱也最沒共識的問題。 樂觀派（2027-2030） - Sam Altman（OpenAI） ：認為 AGI 在「可預見的未來」，暗示這幾年就會到來 - Dari…
2026 AI Agent：從對話機器人到自主工作流
你還在用 ChatGPT 聊天嗎？ 2026 年是 AI Agent 的分水嶺。我們不再只是問 AI 一個問題、等一個答案——現在 AI 可以 自主規劃、執行多步驟任務 。 從 Copilot 到 Orchestrator 去年大家還在談「…