Запретный промпт: нужен ли в России ИИ с цензурой?

Заявление представителя Минцифры важно не только самой формулировкой, но и тем, что оно переводит разговор об искусственном интеллекте из плоскости «как развивать» в плоскость «что машине вообще разрешено обсуждать». На форуме «ИИ: режим доверия» он сказал прямо: у ИИ должна быть цензура и на входе, и на выходе, чтобы отсекать определенные запросы и вопросы.

По сути, это попытка жестко развести права человека и возможности алгоритма. Логика здесь предельно ясна: гражданина нельзя заранее ограничить в самом факте вопроса, а нейросеть — можно. И тогда ИИ перестает быть просто цифровым собеседником и превращается в инфраструктуру, внутри которой заранее задан коридор допустимого.

Если искать наиболее продвинутый готовый пример, то это Китай. Там в 2023 году были введены правила для синтезированного нейросетями контента и генеративного ИИ, которые закрепили ключевой принцип: проверять нужно и то, что пользователь вводит, и то, что система выдает. Провайдеры обязаны фильтровать контент, вести базы признаков запрещенной информации, хранить логи и, при необходимости, идентифицировать пользователей. Под запрет попадают темы, связанные с государственной безопасностью, экстремизмом, насилием и дезинформацией. При выявлении нарушений сервис должен остановить генерацию и скорректировать модель.

В 2025 году китайское законодательство закрепило обязательную маркировку ИИ-контента — как явную для пользователя, так и скрытую в метаданных или водяных знаках. Можно сказать, что Китай внедрил практически полноценную инфраструктуру: с регистрацией сервисов, регулярным контролем и расширением требований на новые типы ИИ.

Важно, что китайский подход — это не просто список запретов, а многоуровневая система: фильтр на этапе запроса, фильтр во время генерации, фильтр перед публикацией, плюс маркировка и аудит. ИИ здесь изначально встроен в рамки регулирования.

Для сравнения, европейский подход выглядит значительно мягче. В рамках Европейского союза действуют нормы, которые тоже ограничивают ИИ, но акцент делается не на политических темах, а на защите пользователей. Речь идет о запрете незаконного контента, ограничениях на вредные практики, требованиях к прозрачности и обязательной маркировке сгенерированных материалов. ИИ должен сообщать, что пользователь взаимодействует с машиной, а дипфейки должны быть помечены. Это тоже фильтрация, но она касается прежде всего безопасности и распространения недопустимого для отдельных категорий граждан контента.

На этом фоне слова Александра Шойтова выглядят уже не как абстрактное рассуждение, а как вполне возможная модель регулирования. Причем подходы могут быть совершенно разными: от более жесткой китайской схемы и до более лояльных решений.  Главный вопрос теперь не в том, можно ли технически поставить фильтры на входе и выходе — решение уже есть и оно протестировано. Вопрос в другом: где именно пройдет граница между защитой от вреда и контролем над тем, о чем вообще можно спрашивать ИИ.