EP45｜同一個任務，別人花100元，他只要3元：開源模型正在改寫你的成本結構

GLM 5.3 Flash 做完同一個任務只要不到三塊錢，比 Claude Fable 5 的一百塊便宜超過三十倍，撐起它的伺服器裡一片 NVIDIA 晶片都沒有。同一時間，Zeabur 傳出資安事件，使用者放在平台上的 API Key 被拿去異常使用，帳單自己長大。這集要把便宜到誇張的開源模型，跟你可能沒注意到的權限外洩，一次講清楚。 1️⃣ 本集精華 這集最該帶走的判斷是：頂尖封閉模型跟你能自己下載回家跑的開源模型，實戰分數差距已經壓縮到只剩五到七個百分點，但價格可以差到三十倍以上。如果你半年前因為成本放棄了某個自動化流程，現在很可能已經便宜到不用猶豫。但同時要記住，每多串一個服務、多貼一次 API Key，你交出去的不是資料，是一把還能繼續開門的鑰匙，這件事跟省錢一樣重要，要一起算進帳本裡。 2️⃣ 本集聊這些事 📌 [ GLM 5.3 Flash 開源模型 ]：同一任務成本不到三塊台幣，Terminal-Bench 拿下 84.3 分，OpenAI 用來衡量真實職場能力的 GDPval 拿下第一名。 📌 [ 中國自製 AI 晶片 ]：GLM 5.3 Flash 免費測試期間一天服務超過一百兆字詞單位，全程沒用到任何一片 NVIDIA 晶片，SemiAnalysis 指出這是模型、晶片、伺服器整條供應鏈協同優化的結果。 📌 [ Qwen 新架構 ]：稀疏注意力、門控殘差、詞組嵌入三個設計，讓新一代訓練成本只剩前一代的九分之一，性能超過體型更大的開源系統。 📌 [ OpenAI Jalapeño 晶片 ]：跟 Broadcom 合作的推論專用晶片，官方宣稱每瓦效能比 NVIDIA 頂級晶片高一百倍，實測數字其實是 1.5 到 1.9 倍，設計到量產只花九個月。 📌 [ NVIDIA 併購 Hugging Face 傳聞 ]：據報約 130 億美元，對應的是開源模型字詞用量兩個月內從不到三成翻到六成以上的趨勢。 3️⃣ Zeabur 資安事件：你交出去的不只是密碼，是權限 Zeabur 這次的事件，攻擊者拿到的是使用者存放在平台上的 API Key、GitHub Token、資料庫密碼，已經有人發現自己的 AI API 出現異常使用量。如果你曾經把 Key 放在 Zeabur，光是刪掉環境變數沒用，因為攻擊者手上的副本還是能用，真正要做的是回到 OpenAI、Anthropic、GitHub 把舊 Key 撤銷、重新建立。 但這件事真正該讓你多想一步的，是我們一直被教導把密碼放進環境變數，這個做法沒有錯，只是它解決的是「密碼別跟著程式碼跑」，沒解決「到底是誰在幫你保管這把鑰匙」。到了 AI 時代，讓 AI 讀 Google Drive、讓自動化工具接 Gmail、串 GitHub 跟 Notion，每一次授權都是把權限交出去一點，累積起來就是一張你自己都看不見的權限網路。 -- Hosting provided by SoundOn