ИИ распознает анонимов в сети

Ученые из Швейцарской высшей технической школы Цюриха и компании Anthropic проверили это на реальных примерах. Они взяли аккаунты с Hacker News, убрали явные подсказки о владельцах и запустили ИИ. Модели вытаскивали детали вроде работы или увлечений из текстов, искали похожих людей в открытых источниках и проверяли совпадения. В результате нашли 226 из 338 пользователей — это 67% при высокой точности. Чем больше постов, тем легче угадать.

Проще говоря, если в одной социальной сети ваш аккаунт зарегистрирован под ником "Ушастый кролик", а в профиле на сайте по поиску работы вы представляетесь реальным именем, то, анализируя ваш цифровой след в других источниках, рано или поздно ИИ покажет ваше реальное лицо. Причем, чем активнее пользователь ведет себя в сети, тем быстрее его удастся идентифицировать.

Система работает сама и на большом объеме данных. Она сначала вычленяет ключевые факты из сообщений, потом ищет кандидатов с помощью умного поиска, а другие модели подтверждают финальную информацию. Такие проверки дешевы и просты — нужен только доступ к ИИ.

С одной стороны, такая способность нейросетей может принести пользу: она поможет раскрывать троллей, распространителей фейков и нарушителей в сети, делая онлайн-пространство чище и безопаснее для всех. Платформы смогут быстрее реагировать на нарушения, а правоохранители — отслеживать преступления под анонимными аккаунтами.

Но для кого-то есть и риски: активисты, журналисты и оппозиционеры в странах с цензурой потеряют свою защиту, рискуя быть преследуемыми за свои мнения. Обычные пользователи тоже уязвимы — личные данные могут использовать для мошеннических действия, шантажа или слежки.