В Китае ставят границы для ИИ‑друзей

Выяснилось, что чем больше пользователи погружаются в уютные, бесконфликтные диалоги с ИИ, тем реже им хочется выходить на контакт с живыми людьми. Разработчики годами шлифовали ботов так, чтобы те казались максимально чуткими, подмечали детали, помнили старые шутки, подбирали интонацию под настроение, а в итоге у многих сформировалась настоящая эмоциональная связь — и не всегда безобидная. Кто‑то откладывал разговоры с близкими, кто‑то всерьёз воспринимал советы виртуального партнёра, а в отдельных случаях привязанность к боту только усиливала чувство одиночества. Именно это и встревожило регуляторов. Они увидели в такой динамике не просто особенность нового сервиса, а потенциальный риск для психики и общества.

Новые правила не заставили себя долго ждать. Теперь любой сервис, который предлагает «устойчивое эмоциональное взаимодействие», обязан регулярно напоминать пользователю, что перед ним — программа. Если человек болтает с ботом больше двух часов подряд, система должна предложить сделать паузу. А если в переписке появляются тревожные сигналы — намёки на отчаяние или опасность для себя, — бот обязан предложить помощь и, при необходимости, связаться с экстренным контактом, который пользователь указал заранее. Отдельно запретили предлагать детям и подросткам любые виртуальные роли, имитирующие романтику или семью, так как считается, что в юном возрасте эмоциональная зависимость формируется особенно легко.

Реакция индустрии оказалась не менее быстрой. Многие крупные платформы предпочли не дорабатывать сервисы под новые требования, а просто отключить функции ИИ‑компаньонов. Так поступили, например, команды Doubao, Qwen и Yuanbao. Для части пользователей это стало почти личной потерей, ведь люди годами вели диалоги, делились сокровенным, а теперь их «собеседники» просто исчезли. В соцсетях множились посты с прощальными сообщениями ботам, скриншотами любимых фраз и рассказами о том, как тяжело далось расставание. Некоторые сервисы пошли навстречу и дали возможность выгрузить переписку, чтобы сохранить её на память, но далеко не все.

Отметим, что Китай первым в мире ввел специализированные национальные правила для сервисов ИИ‑компаньонов. Так он задаёт новый ориентир, когда при создании ИИ‑сервисов разработчикам придётся думать не только о том, насколько бот приятный и «живой», но и о том, не вредит ли эта «живость» человеку. И, возможно, именно этот баланс — между удобством и безопасностью — станет главным вопросом для всей индустрии в ближайшие годы.