24.06.2025Светина Майя

В России появились цифровые водяные знаки для ИИ-контента: защита от дипфейков и фейков

В России разработана технология, которая позволит маркировать контент, созданный искусственным интеллектом. Об этом заявил вице-премьер Дмитрий Чернышенко, подчеркнув, что система цифровых водяных знаков, разработанная в Институте системного программирования РАН, станет инструментом борьбы с дипфейками и манипуляциями. Маркировка будет невидимой для человека, но легко распознаваемой алгоритмами, что поможет отличать реальный контент от сгенерированного.

Внедрение технологии планируется синхронизировать с обновлением кодекса этики искусственного интеллекта, а для её применения потребуются административные решения на государственном уровне.

"Введение в заблуждение и потребителей, и аудитории – дипфейк и прочие всякие вещи – они диктуют необходимость создания невидимой для обычного потребителя маркировки, так называемых водяных знаков" - подчеркнул Чернышенко.

О необходимости таких мер красноречиво говорит недавний случай, произошедший с народной артисткой Ларисой Долиной. В 2024 году очень похожий на Долину человек обратился в одну из московских кредитных организаций с просьбой о предоставлении займа в 50 млн рублей под залог ее дома. Деньги якобы требовались на организацию концертного тура артистки в 2025 году. Как выяснилось позже, мошенники, жертвой которых стала Долина, использовали сгенерированное нейросетью изображение для обращения в микрокредитную организацию. И это лишь один из громких случаев, когда дипфейки наносят серьезный ущерб гражданам.

Как будут работать цифровые водяные знаки, защищая пользователей? Технология, предложенная ИСП РАН, встраивает в аудио-, видео- или текстовый контент скрытые метки, которые невозможно удалить без повреждения файла. Например, в случае с фейковым фото Долиной такие метки позволили бы сразу определить его искусственное происхождение. По словам разработчиков, система адаптируется под разные форматы и не влияет на качество контента.

Однако внедрение маркировки требует не только технической, но и правовой базы. Это касается не только соцсетей, но и СМИ, государственных структур, коммерческих компаний. Параллельно идёт работа над кодексом этики ИИ, который закрепит ответственность разработчиков за распространение немаркированного контента.

Эксперты отмечают, что технология — лишь часть решения проблемы. Даже с водяными знаками фейки могут попадать в открытый доступ, но их идентификация станет быстрее и проще. Главное, чтобы была создана система оперативного реагирования. Если фейк обнаружили, его нужно заблокировать до того, как он нанесёт ущерб.

Если эксперимент с маркировкой ИИ-контента окажется успешным, Россия станет одной из первых стран, внедривших ее на законодательном уровне.