ЕС готовится запретить ИИ, создающие эротические дипфейки

Предложение вынесут на утверждение послам стран ЕС уже сегодня, 13 марта. Если оно пройдет, документ отправят в Европарламент и Совет ЕС для финального одобрения. Согласно проекту документа, запрет коснется всех ИИ-систем на европейском рынке, способных создавать фото и видео откровенного характера с реальными людьми. Ограничения затронут и разработчиков, и распространителей технологий.​

Скандал разгорелся из-за Grok, интегрированного в соцсеть X. Нейросеть позволяла генерировать миллионы изображений реальных лиц в обнаженном виде, включая фото несовершеннолетних. Пользователи распространяли инструкции по обходу ограничений и запрашивали откровенные изображения обычных людей и звезд, что привело к резкой критике разработчиков.

​Мера войдет в общий пакет регулирования ИИ по AI Act. Законодатели хотят быстро устранить пробел, открытый скандалом с Grok, пока такие инструменты не распространились шире.​

Злоупотребления с Grok — не первый случай. Ранее похожие проблемы возникали с другими нейросетями: пользователи DeepSwap создавали фейковые порноизображения на основе фото знакомых, Stable Diffusion использовали для обнаженных фото знаменитостей до введения фильтров, а приложение Lensa генерировало сексуализированные обнаженные аватары из обычных селфи.

Соцсеть X пока не дала комментариев. В феврале 2026 года платформа ограничила генерацию изображений платными подписчиками и добавила меры безопасности. Однако критики отмечают, что этого недостаточно. Более того, есть мнение, что запрет на уровне только лишь ЕС не поможет побороть проблему. Сервисы для генерации изображений непристойного характера будут доступны за пределами Европы, а это значит, что при желании получить нужные картинки пользователи смогут из-за рубежа. В связи с этим напрашивается вывод, что регулирование подобных прецедентов важно проводить на глобальном уровне, совместными усилиями правительств разных стран.