Глава Google DeepMind предложил создать глобальный «стоп-кран» для ИИ
В своём блоге глава и сооснователь Google DeepMind отмечает, что именно США могли бы возглавить создание такой структуры — благодаря своему технологическому и экономическому лидерству. По его замыслу, новая организация напоминала бы существующие регуляторы вроде Управления по регулированию финансовой отрасли (FINRA). В её состав вошли бы независимые эксперты, а также представители научного сообщества. Орган получил бы полномочия оценивать перспективные модели ИИ до их запуска и, при необходимости, координировать общеотраслевое замедление их внедрения, если риски окажутся слишком высокими.
В публикации под названием «Структура для передового ИИ и наступление новой эры» Хассабис подчёркивает, что по мере стремительного прогресса технологий потребность в глобальном регулировании становится всё более очевидной. По его оценке, искусственный общий интеллект (AGI) может появиться уже в ближайшие годы. «Оглядываясь назад спустя десятилетия, мы, вероятно, поймём, что стояли у подножия сингулярности — на пороге новой эпохи для человечества», — пишет он.
Как сообщает Axios, в течение последних месяцев Хассабис вёл закрытые консультации, заручаясь поддержкой своей инициативы. Он проводил брифинги для администрации Дональда Трампа, представителей ведущих ИИ-лабораторий и европейских чиновников и рассчитывает запустить новую организацию уже до конца года. По его словам, сигналы со стороны американских властей «в целом позитивны».
Эта инициатива стала очередной попыткой лидеров индустрии выработать согласованный подход к регулированию всё более мощных систем ИИ и снижению связанных с ними рисков. На сегодняшний день не существует ни глобального свода правил, специально регулирующих искусственный интеллект, ни комплексного национального регулирования в США.
Напомним, что Хассабис, лауреат Нобелевской премии по химии 2024 года за работы в области предсказания структуры белков с помощью ИИ, ранее также подписал открытое письмо с призывом усилить меры защиты от создания биологического оружия с использованием таких технологий. Кроме того, его заявления прозвучали на фоне аналогичных предупреждений со стороны ведущих экономистов и технологических предпринимателей, включая сооснователя Anthropic Джека Кларка и бывшего генерального директора Google Эрика Шмидта. Они призывают мировых лидеров всерьёз отнестись к надвигающимся экономическим последствиям стремительного развития искусственного интеллекта.