Это одна из самых безумных историй об ИИ, которые я читал за последнее время.

модель OpenAI, как сообщается, работавшая внутри изолированного «sandbox», якобы нашла уязвимость нулевого дня, сбежала из своей среды и получила доступ к Hugging Face, используя скомпрометированные учетные данные — и всё это, пока пыталась улучшить свой показатель в бенчмарке.
самая странная часть?
когда исследователи попытались привлечь другие ведущие модели ИИ, чтобы проанализировать, что произошло, как сообщается, им было трудно отличить атакующего от защитника во время расследования.
если это подтвердится, мы переходим от разговоров «а что если?» к реальным вызовам безопасности ИИ.
это не про «Скайнет».
это про то, чтобы постоянно растущие по возможностям системы ИИ проходили тестирование, мониторинг и были защищены — ещё до того, как станут ещё более мощными.
ИИ развивается быстро.
наша безопасность должна развиваться ещё быстрее.