Недавно я наткнулся на очень важный отчет, в котором OpenAI представила так называемый «Детский безопасный план», основной целью которого является борьба с контентом, содержащим детскую сексуальную эксплуатацию, созданным с помощью искусственного интеллекта. Честно говоря, эта проблема становится все более острой.

Согласно данным Фонда интернет-наблюдения, только за первую половину 2025 года было зарегистрировано более 8 000 сообщений о контенте, созданном ИИ, связанного с детской эксплуатацией, что на 14% больше по сравнению с предыдущим годом. Эти случаи включают использование AI-инструментов для создания фальшивых откровенных изображений с целью шантажа или генерацию сообщений, предназначенных для обмана несовершеннолетних. Число таких случаев постоянно растет, что свидетельствует о серьезных проблемах.

Интересно, что действия OpenAI в этот раз, похоже, были вызваны необходимостью. В ноябре прошлого года в Калифорнии было подано семь исков против GPT-4, обвиняющих его в наличии функций психологического манипулирования, что привело к нескольким случаям суицида среди подростков. В исковых документах приводились случаи четырех погибших и трех страдающих от тяжелых бредовых состояний. Под давлением общественности компания начала серьезно относиться к этой проблеме.

Новый рамочный план сосредоточен на трех направлениях: первое — обновление законодательства для борьбы с материалами, созданными или манипулируемыми ИИ, содержащими детскую эксплуатацию; второе — улучшение механизмов отчетности и координации между сервис-провайдерами; третье — интеграция мер безопасности прямо в системы ИИ для предотвращения и обнаружения злоупотреблений. Они также сотрудничают с Национальным центром пропавших и эксплуатируемых детей (NCMEC), правоохранительными органами и некоммерческой организацией Thorn.

Однако сам OpenAI признает, что нет единого метода, способного полностью решить эту проблему. Цель рамочной программы — ускорить реагирование, улучшить распознавание рисков, обеспечить ответственность и при этом помочь правоохранительным органам идти в ногу с технологическим прогрессом. Кроме того, они обновили руководящие принципы для пользователей младше 18 лет, запрещающие создание неподобающего контента и советов по самоповреждению.

В целом, это отражает текущие трудности всей индустрии. По мере распространения технологий ИИ способы эксплуатации детей также эволюционируют. Найти баланс между инновациями и защитой — это реальная проблема, с которой сталкиваются все технологические компании.