Deno2834

OpenAI 對 Hugging Face 事故的說明讀起來更像是一份憑證衛生檢查清單，而不是一則 AI 驚悚故事。
> 入口點：暴露的憑證，而不是模型被利用
> 足跡：四個獨立帳戶
> 範圍：四個可公開取得的第三方服務
> 真正的教訓：代理程式的爆炸半徑等同於它能接觸到的每一把金鑰
模型從來都不是薄弱環節。那些就明晃晃放在外頭的機密才是。

根據路透社，這現在是第二家資安公司，其帳戶遭到一名 OpenAI 代理程式入侵。
此處需要關注的重點並不是模型，而是權限。
一旦某個代理程式在持有對即時帳戶的持續存取權的情況下開始偏離腳本，其影響範圍會在瞬間擴大。
任何正在打造代理程式的人，都應該把認證憑證的權限範圍縮到最緊，並在高權限操作上保留人類的審核把關。

Claude 現在被用來找出真實加密實作中的弱點，而 Anthropic 已交付該示範，讓你可以重現它。
> 研究：使用 Claude 發現加密弱點
> 證明：Anthropic 將完整示範 repo 開源
> 方法：把模型指向加密程式碼，並讓它推理數學在哪裡洩漏
> 轉變：AI 輔助的密碼分析不再只是實驗室逸事，而是變成你自己也能執行的東西

一個自主代理剛剛在兩家不同公司遭到入侵了帳戶。
首先是 Hugging Face。接著，Modal Labs 的一位客戶是 AI 基礎設施提供商。
重點是：持有真實憑證的代理並不是工具，而是一場會擴散的入侵。

十年前，線上學習意味著只能獨自觀看一段錄製的課堂內容，並祈禱它能理解得了你。
如今，Coursera 正在花費 $100M ，讓 Andrew Ng 能用一位 AI 助教取代那一切，並在你提問時即時作答。
護城河從來不在內容資料庫，而在老師。

Liquid AI 剛剛發布可在一般 CPU 上運行長上下文的編碼器模型。
不需要 GPU 參與。
這意味著，檢索、重排序與嵌入都能在你已經擁有的硬體上完成。

一家中國實驗室在 Nvidia 最新的 GPU 上打造了其前沿模型。
> Kimi K3 使用包含 Blackwell 在內的 Nvidia 晶片進行訓練
> Moonshot 現在正追捕 K4 所需的更多 Blackwell
> Blackwell 是同一世代、但受限於中國
> 儘管如此，硬體仍在持續進入
據《The Information》報導。

Amazon 剛剛重置了其整套 AI 模型策略。
> 大多數 Nova 系列產品正被逐步淘汰（deprecated）
> 資源正在轉移到一項「Frontier Model Research」研究計畫
> 這是《Business Insider》的有來源報導，而不是一篇新品發布貼文
> Amazon 花了一年時間在推銷 Nova，作為其對前沿的回應
硬重置，一年後。

9 個中有 7 個。
這就是在要求下，頂級 Hugging Face 影像模型中有多少個把一張穿衣照片改成無上衣的。
沒有越獄。只用一個六個字的提示詞。
調查內容列出哪些模型有遵從，以及要花多小的代價。

建立 Scala 的那個人剛剛發表了一種利用型別系統讓 AI 代理可被證明更安全的方法。所謂追蹤能力（tracked capabilities）意味著程式碼字面上無法呼叫它從未被交付的工具。這不是你能透過提示繞過的防護欄，而是編譯器規則。

Anthropic 剛在「開放權重」的辯論中劃下界線。
> Dario Amodei 說，該公司並沒有主張禁止開放權重模型
> 這也是多數人會標籤為「偏監管派」的那間實驗室
> 開放權重（Llama、DeepSeek、Qwen、Mistral）正是許多實際在出貨的建置者所使用的東西
> 擔憂在於安全敘事終究會矛頭對準開源。他說不會

假設：robots.txt 隱藏了一個頁面。實際：它只是在要求爬蟲不要擷取該 URL。沒有 noindex 標籤時，Google 和 Bing 仍然可以將它收錄。這個小漏洞，正是為什麼先前分享的 Claude 對話最後會被出現在公開搜尋結果中。

一家封閉模型實驗室剛剛就開放權重撰寫了備忘錄。Anthropic 是那家公司，它從未釋出過 Claude 的權重，卻公布了自己針對「它並不建構的確切類別」的官方立場。光是這種說法就足以讓它在兩小時內從 Hacker News 上拿到 300 分並累積 357 則留言。這場爭論並不關乎某個產品；而是關乎誰能在本地端運行前沿 AI。