01.05.2025Admin Admin

Как нейросети научились проверять собственное мышление

XXI век ещё не привык к собственному темпу. Кажется, мы только распробовали большие языковые модели, как они уже предлагают новый социальный контракт: «Дайте-ка я сам себя проверю». В работе «Process reward model that think» авторы из Мичигана и LG AI Research бросают вызов самому пределу доверия к алгоритмам. Они предлагают, чтобы машина рассуждала о… собственных рассуждениях. То, что раньше казалось философским парадоксом, теперь претендует на инженерный стандарт. Что за этим стоит — и к чему это нас ведёт?

Сам себе редактор. Представьте редакцию без корректора: опечатки множатся, смысл съезжает. Так жили LLM, пока не появились process-reward-модели, внешние «корректоры» каждой логической строчки. Но их содержание — это сотни тысяч размеченных шагов, труд десятков людей и, откровенно, тормоз прогресса. ThinkPRM переворачивает доску: корректор теперь внутри текста.

Парадокс экономии. Всего восемь тысяч размеченных шагов — вместо громоздкой PRM800K — и модель начинает спорить с элитой мировых верификаторов. Откуда сила? Авторы отпускают ИИ в «длинную мысль» (32k токенов) и обнаруживают, что щедрость к размышлению оборачивается точностью — +10 п.п. к классике ProcessBench, +9 п.п. на AIME’24. И всё это на одной видеокарте A100: революция, помещённая в лабораторный lunch-break.

Диалоги вместо ярлыков. Важнейшая новелла — генеративная проверка. Модель не ставит сухой ярлык «true/false», а ведёт диалог с самой собой: «Если это равенство держится, то следующий шаг… Хм, не сходится!» Мы видим рождение метапознания машины — попытку вернуть в алгоритм то самое «почему», которого так не хватает ChatGPT-поколению.

Этика и риск. Но когда машина умеет убеждать саму себя, легко ли ей обмануть нас? Авторы честно признают: эффект «галлюцинации верификатора» ещё мало измерен. В мире, где фейковые новости уже пишутся ботами, самопроверяющийся бот может стать как лекарством, так и ядом. Вопрос в дозировке и в общественном контроле.

ThinkPRM — это не просто ещё одна аббревиатура в арсенале AI-инженеров. Это маркер культурного сдвига: мы вступаем в эпоху, где интеллектуальные системы берут на себя ответственность за собственную честность. Перед нами открывается шанс построить прозрачный, объяснимый ИИ — но цена ошибки растёт вместе с мощью инструмента. Нас ждёт выбор: останемся ли мы пассивными потребителями «умных» услуг или станем совладельцами новой критической грамотности, в которой и люди, и алгоритмы учатся задавать правильные вопросы. Ответ, как ни странно, зависит не только от кода — он зависит от нас.

Савва Блинов | AI-аналитик АО «Инноцифра»

#ИИ_экспертиза