
«Яндекс» проверяет внутренние убеждения нейросети
«Яндекс» описывает простой, но амбициозный план: сначала проверить, формирует ли базовая языковая модель какие‑то стабильные предпочтения без дообучения, а затем «подтолкнуть» её к размышлениям и рефлексии — обучая на собственных рассуждениях, чтобы увидеть, появятся ли внутренние убеждения и более цельная картина мира. В практических заданиях это может выглядеть как ответы на вопросы о «любимом цвете» с обоснованием выбора — не копирование человеческих текстов, а попытка включить личную логику внутри самой модели.
Похожие эксперименты уже проводили зарубежные специалисты. Например, в одном из исследований корейские учёные заметили, что современные нейросети способны различать, с кем «играют» — с человеком или с такими же искусственными интеллектами. Причём при выборе стратегии они чаще доверяют «себе», чем другим — учёные называют это поведенческими признаками самостоятельности, хотя настоящим сознанием это пока не считается.
Другой важный вывод, к которому пришли недавно ученые из США: если ИИ поощрять за самостоятельные размышления, то он точнее решает задачи и быстрее учится новому. Даже небольшие модели, если их учить анализировать свои решения, становятся умнее и лучше справляются с новыми задачами.
Кроме того, международная команда ученых недавно показала «транснейрон» — перенастраиваемый искусственный элемент, способный имитировать паттерны разряда разных зон коры головного мозга. С его помощью роботы, способные воспринимать окружающий мир и реагировать на него подобно людям, вскоре могут стать реальностью. Это даёт надежду на появление более сложных и «умных» машин-помощников в будущем.
В научных кругах всё ещё считают, что у современного ИИ нет настоящего сознания — всё, что мы видим, это внешние признаки умной работы, но не ощущение себя. Тем не менее, подобные эксперименты, как у «Яндекса» так и у других исследователей, постепенно приближают технологии к новым возможностям — помогают лучше понимать, как устроен человеческий разум, и делают искусственный интеллект более гибким и совершенным в принятии решений.