Минцифры хочет запретить ИИ манипулировать пользователями

В новом документе предлагается обязать создателей ИИ-систем информировать пользователей о недопустимости применения нейросетей для манипулирования поведением человека и эксплуатации его уязвимостей, т.е. нейросети нельзя применять для целенаправленного влияния на принятие решений или  для получения несанкционированного доступа к данным.

Уязвимостями называют возрастные, социально-экономические, психологические и другие состояния человека. Например, ИИ может анализировать данные о низком доходе пользователя и подбирать рекламу, которая давит на чувство нужды, побуждая к импульсивным тратам. Или использовать возраст подростка, чтобы рекомендовать контент, вызывающий зависимость или призывающий к неправомерным действиям. Вероятнее всего, авторы инициативы имели ввиду именно такие приемы, которые можно легко реализовать благодаря современным технологиям.

Более того, в современных реалиях, когда рекомендательные технологии и персонализированный контент широко применяются в соцсетях и сервисах, возникает вопрос: не попадут ли они под действие закона, если их алгоритмы будут расценены как манипуляция. Также пока не известны ключевые моменты. Кому именно нужно будет адресовать предупреждения? Какие действия точно сочтут манипуляцией? Какую ответственность предусмотрят за нарушения?

На данный момент предварительная версия законопроекта  находится на доработке в ведомствах, финальный текст еще не готов. В Минцифры подчеркивают, что развитие перспективных технологий, включая ИИ, — один из приоритетов министерства, но любая технология должна уважать права и интересы граждан.