Anthropic 警告 AI 自我迭代风险，因 Claude 生成了公司代码的 80%

据 Anthropic 称，截至上周，Claude 已自动生成了公司代码的约 80%，这标志着 AI 系统进入递归式自我改进阶段的一个关键信号——这意味着模型无需人类干预，就能设计下一代 AI 系统。

据《The Information》报道，Anthropic 强调，随着 AI 能力快速提升，监测潜在的不可控行为并构建安全机制正变得愈发至关重要。