Anthropic предупреждает о рисках самосовершенствования ИИ, поскольку Claude генерирует 80% кода компании

По данным Anthropic, Claude автоматически сгенерировал примерно 80% кода компании по состоянию на прошлую неделю, что стало важным сигналом о том, что системы ИИ перешли на этап рекурсивного самосовершенствования — то есть модели могут проектировать ИИ-системы следующего поколения без вмешательства человека.

Anthropic подчеркнула, что по мере стремительного развития возможностей ИИ мониторинг потенциально неконтролируемого поведения и создание механизмов безопасности становятся все более критичными, сообщает The Information.

Дисклеймер: Информация на этой странице может быть получена из источников третьих сторон и предоставляется только для ознакомления. Она не отражает взгляды или мнения Gate и не является финансовой, инвестиционной или юридической рекомендацией. Торговля виртуальными активами связана с высоким риском. Пожалуйста, не основывайте свои решения исключительно на данных этой страницы. Подробнее смотрите в Дисклеймере.
комментарий
0/400
Нет комментариев