В России появился учебник по этике ИИ

В пособии рассматриваются вопросы распределения ответственности за решения, принимаемые алгоритмами, а также механизмы встраивания этических принципов в архитектуру ИИ‑систем. Авторы анализируют применяемые в индустрии методы — RLHF (обучение с подкреплением на основе обратной связи от человека), Constitutional AI (обучение ИИ по жёсткому набору этических правил), Red Teaming (поиск уязвимостей ИИ через имитацию атак), Governance Pipeline (контроль этических норм на всех этапах разработки ИИ)  — и показывают, на каких этапах разработки закладываются этические параметры и где возможны сбои.

Отдельное внимание уделено культурной вариативности базовых понятий. В книге сопоставляются российская, западная, китайская и японская традиции. Авторы подчёркивают, что различия в трактовке таких категорий, как добро и справедливость, необходимо учитывать при адаптации ИИ‑систем для разных регионов — в противном случае возникает риск конфликта с локальными нормами.

При этом в издании критикуется практика принятия декларативных этических кодексов без технических механизмов их реализации. По мнению авторов, сведение этики исключительно к соблюдению правовых норм формирует подход «разрешено всё, что прямо не запрещено», что неприемлемо для систем, влияющих на жизнь и права граждан.

Пособие предназначено для студентов и аспирантов IT‑ и философских направлений, разработчиков ИИ‑систем, правоведов и исследователей, работающих на стыке технологий и гуманитарных наук. Его рекомендовано использовать в качестве базового материала для вузовских курсов по философии науки и этике ИИ.

Издание открывает серию публикаций НИЯУ МИФИ, посвящённых философскому осмыслению технологий. В рамках цикла планируется выпуск книг по эстетике, антропологии и философии искусственного интеллекта.