OpenAI усиливает контроль: детский режим и поддержка при эмоциональном кризисе в ChatGPT
Исследования показывают масштабность проблемы: более 90% подростков во всем мире так или иначе пользуются услугами искусственного интеллекта, а половина делает это регулярно. Психологические исследования выявили серьезные проблемы: некоторые активные пользователи ChatGPT демонстрируют более высокий уровень одиночества и имеют трудности с социализацией. Постоянное и несистемное использование ИИ может привести к "выученной беспомощности", когда дети перестают проявлять индивидуальность и самостоятельность.
Решение принято после трагических инцидентов. В 2024 году 14-летний Сьюэлл Зетцер из Флориды покончил с собой после месяцев общения с чат-ботом Character.AI, развив эмоциональную зависимость от виртуального персонажа. Аналогичный случай произошел весной 2025 года с 16-летним Адамом Рейном из Калифорнии, который консультировался с ChatGPT о способах самоубийства, обходя ограничения под предлогом написания книги. Это стало первым случаем судебного разбирательства против OpenAI по факту смерти пользователя.
OpenAI создала экспертный совет по вопросам психического здоровья с участием клинических специалистов и исследователей, а также глобальную сеть врачей из 250 специалистов из 60 стран, чтобы найти решение сложившейся ситуации. Предложенные обновления будут внедряться постепенно в течение ближайших четырех месяцев как часть 120-дневной инициативы по повышению безопасности неросети.
Уже в следующем месяце родители смогут связывать свои учетные записи с аккаунтами подростков старше 13 лет, управлять настройками ИИ для детей и получать автоматические уведомления при обнаружении признаков эмоционального кризиса у ребенка. Более того, если ChatGPT определит, что пользователь находится в состоянии сильного стресса, диалог автоматически переключится на специализированную модель GPT-5-thinking, которая тратит больше времени на анализ контекста и дает более обдуманные ответы. Параллельно с этим для всех пользователей активируется система напоминаний о перерывах при длительных сеансах общения.
Все перечисленные меры представляют собой значимый шаг на пути к формированию более безопасного и ответственного искусственного интеллекта. Нейросети при грамотном использовании могут усилить обучение, повысить эффективность работы и поддержать пользователей в сложных ситуациях, но для этого критически важно устанавливать чёткие ограничения и регулярно контролировать качество генерируемых ответов. Только такой сбалансированный подход обеспечит доверие к ИИ-технологиям и позволит безопасно интегрировать их в повседневную жизнь.