ИИ без секретов: новая технология раскрывает «чёрный ящик» нейросетей

Современные системы искусственного интеллекта, включая генеративные алгоритмы, функционируют как «черные ящики». Разработчики и пользователи не могут отследить, как именно нейросети приходят к тем или иным выводам, что затрудняет их модификацию и повышает риски непредсказуемых ошибок. Попытки решить эту проблему, такие как американская программа «Объяснимый ИИ» (XAI), позволили лишь частично интерпретировать процессы внутри нейросетей, но не устранили фундаментальную неопределенность.

Российские ученые предложили альтернативу — концепцию на базе логических клеточных автоматов. Эти математические конструкции моделируют пространство из взаимодействующих ячеек, каждая из которых меняет состояние по четким правилам. Такой подход обеспечивает полную прозрачность: каждый шаг вычислений можно отследить и объяснить. Первым практическим применением технологии стала система для проверки экологических гипотез. С ее помощью исследователи проанализировали механизмы сосуществования видов, разрешили парадокс биоразнообразия и смоделировали процессы в экосистемах.

Разработка открывает путь к созданию ИИ общего назначения с понятной логикой. Кроме того, ученые не исключают гибридных систем, сочетающих «белые ящики» для критически важных решений и «черные ящики» для обработки типовых задач. Это может повысить безопасность технологий в медицине, финансах и управлении, где ошибки алгоритмов недопустимы.