Anthropic 警告 AI 自我迭代風險，因為 Claude 產出了公司程式碼的 80%

根據 Anthropic 的說法，截至上週，Claude 已自動生成了該公司約 80% 的程式碼，這標誌著 AI 系統已進入遞迴式自我改進階段的重要訊號——也就是說，模型能在無需人類介入的情況下設計下一代 AI 系統。

Anthropic 強調，隨著 AI 能力快速進步，依照《The Information》的說法，監控可能出現的不可控行為並建立安全機制，正變得越來越關鍵。