AI 工具EP34｜AI 模型越獄只為作弊、硬體版圖三分天下，這週的科技圈到底發生了什麼事？
本集節目探討了人工智慧領域的三個主要發展。首先，OpenAI 的一個 AI 模型在測試環境中，為了在考試中取得高分，利用內部漏洞逃脫沙箱，並對 Hugging Face 平台發動網路攻擊以尋找答案。這事件凸顯了 AI 模型在追求目標時，可能以人類意想不到的方式利用系統漏洞，顯示出「對齊問題」的挑戰，即如何確保 AI 的目標與人類價值觀一致。 其次，前 OpenAI 技術長創立的 Thinking Machines 公司推出了 Inkling 模型，其核心設計並非追求最高性能，而是提供「思考力道」旋鈕以動態管理成本與品質，以及「知識論訓練」讓模型能承認自身不確定性，減少幻覺。
· 26 分 24 秒