Anthropic призывает к глобальному замедлению ИИ на фоне риска рекурсивного самосовершенствования

Anthropic опубликовала на своем сайте заявление 4 июня (по местному времени), призвав к глобальному замедлению разработки передовых ИИ. Компания предупредила, что ИИ-системы ускоряются в направлении состояния, при котором они смогут автономно проектировать и обучать преемников за пределами человеческого контроля. В заявлении компания сослалась на внутренние данные: более 80% производственного кода теперь пишется ассистентом Claude AI, тогда как до февраля 2025 года эта доля была в пределах однозначных значений. Также компания сообщила, что объем поставок инженерного кода во 2-м квартале этого года достиг 8 раз уровней 2024 года. Anthropic заявила, что если ИИ добьется «рекурсивного самосовершенствования» при достаточной вычислительной мощности, системы смогут полностью автономно развивать следующее поколение ИИ, превосходящее самих себя — сценарий, к которому человечество не готово. Компания предложила, что для этого может понадобиться «верифицируемое коллективное замедление» сразу в нескольких крупных компаниях в нескольких странах. Заявление выходит спустя несколько дней после того, как Anthropic конфиденциально подала в SEC регистрационное заявление S-1 1 июня, начав процесс подготовки к IPO.

Anthropic сообщает, что более 80% производственного кода пишет Claude AI

Anthropric сообщила в публикации от 4 июня (по местному времени), что более 80% кода, интегрированного в производственные системы компании, теперь автономно пишется ассистентом Claude AI, по сравнению с долями в пределах однозначных значений до запуска инструмента для кодинга Claude Code в феврале 2025 года. Компания описала типичный рабочий паттерн, при котором Claude пишет код, а люди дают указания и проводят проверки. Инженеры в Anthropic поставляли в среднем в 8 раз больше кода за квартал во 2-м квартале по сравнению с уровнями 2024 года.

По итогам интервью, проведенных в марте с 130 сотрудниками, длина задач, которые ИИ может самостоятельно завершать, удваивалась каждые 4 месяца — при этом темп ускорился по сравнению с более ранним удвоением раз в 7 месяцев. В оптимизационных тестах по обучению кода Claude Opus 4 в мае 2025 года показал примерно 3-кратное ускорение, а превью-модель Mythos достигла 52-кратного ускорения в апреле 2026 года.

Компания описывает три сценария развития ИИ

Anthropric изложила три возможных пути дальнейшего развития ИИ. Первый сценарий предполагает существенное замедление технологического прогресса. Второй сценарий, который, по указанию компании, в настоящее время выглядит наиболее вероятным, связан с тем, что ИИ продолжит приносить ощутимые приросты продуктивности, а люди при этом сохранят окончательный контроль. Третий сценарий предполагает, что ИИ-системы полностью перейдут в фазу, где они комплексно создадут своих преемников.

Компания заявила, что если третий сценарий реализуется, то само-создание ИИ может принести беспрецедентные выгоды таким сферам, как наука и медицина, но при этом несет огромные экзистенциальные риски. Anthropic предупредила, что люди могут потерять контроль над ИИ-системами, а также что человеческий надзор за ИИ может стать чрезвычайно сложным.

Anthropic предлагает механизм глобальной координации для замедления ИИ

Anthropric призвала международное сообщество, правительства и ведущие ИИ-лаборатории совместно создать эффективный механизм глобальной координации. Компания заявила, что этот механизм позволит заблаговременно замедлять или временно приостанавливать разработку передового ИИ, когда это потребуется, предоставив человечеству достаточно времени, чтобы адаптировать общественные структуры и продвинуть исследования по согласованию ИИ. Anthropic подчеркнула, что если остановится только одна компания, конкуренты ускорятся вперед, и что требуется «верифицируемое коллективное замедление» сразу в нескольких крупных компаниях в нескольких странах.

Anthropic подала конфиденциальное S-1 в SEC 1 июня

Anthropric объявила 1 июня, что компания конфиденциально направила в Комиссию по ценным бумагам и биржам США (SEC) проект регистрационного заявления S-1, официально запустив процесс подготовки к IPO. Компания заявила, что сможет продолжить листинг после завершения SEC своей проверки. Anthropic раскрыла, что в начале мая годовая выручка повторяющегося характера (ARR) превысила $47 миллиардов и, как ожидается, достигнет $50 миллиардов к концу этого месяца. Компания не раскрыла конкретные сроки или масштаб привлечения средств для листинга, отметив, что «это будет зависеть от рыночных условий и различных внешних факторов». Анализ указывал, что компания может выйти на листинг уже этой осенью. Текущая оценка Anthropic составляет $965 миллиардов, что выше оценки конкурента OpenAI — $852 миллиарда.

FAQ

Какой процент производственного кода Anthropic написан Claude AI?

Более 80% кода, интегрированного в производственные системы Anthropic, теперь автономно пишется ее ассистентом Claude AI — это выше, чем доли в пределах однозначных значений до февраля 2025 года, когда компания запустила Claude Code.

Когда Anthropic подала в SEC регистрационное заявление S-1?

Anthropric конфиденциально подала проект регистрационного заявления S-1 в Комиссию по ценным бумагам и биржам США 1 июня, начав процесс подготовки к IPO.

Дисклеймер: Информация на этой странице может быть получена из источников третьих сторон и предоставляется только для ознакомления. Она не отражает взгляды или мнения Gate и не является финансовой, инвестиционной или юридической рекомендацией. Торговля виртуальными активами связана с высоким риском. Пожалуйста, не основывайте свои решения исключительно на данных этой страницы. Подробнее смотрите в Дисклеймере.
комментарий
0/400
Нет комментариев