ИИ может создать смертоносный вирус: предупреждение от главы OpenAI
Альтман заявил, что современные модели уже достаточно хорошо понимают биологические процессы, чтобы помочь человеку без профильного образования пройти путь от идеи до потенциально опасного микроорганизма. То, что раньше требовало больших бюджетов, лабораторий и многолетних исследований, теперь, по сути, может быть собрано машиной по грамотному запросу.
Опасения вокруг этой темы подкрепляются не только заявлениями главы OpenAI. Исследовательские группы, включая аналитиков RAND и специалистов по безопасности самой компании, уже тестировали большие языковые модели на предмет угроз химического, биологического, радиологического и ядерного характера. По итогам закрытых симуляций выяснилось, что нейросети способны быстро собирать разрозненные сведения из открытых научных источников и выдавать инструкции, которые могут быть опасны.
Среди рисков, о которых говорят эксперты, — и помощь в обходе протоколов безопасности при заказе ДНК-последовательностей, и подсказки по покупке компонентов, которые можно легально приобрести под видом обычной бытовой химии. В таких сценариях ИИ фактически становится своеобразным консультантом, который может сопровождать злоумышленника на разных этапах подготовки.
Специалисты по синтетической биологии отмечают, что проблема также усиливается из-за удешевления оборудования для работы с генетическим материалом. Когда подержанные ДНК-синтезаторы можно купить за несколько тысяч долларов, а интеллектуальную часть работы берет на себя нейросеть. Так входной порог для опасных экспериментов заметно снижается.
Отметим, что современные ученые-биологи всё активнее используют ИИ для проектирования микроорганизмов в мирных целях. Они сочетают методы генетики, информатики и инженерии, чтобы создавать живые системы по заданным параметрам. Одно из ключевых направлений — проектирование геномов бактерий с помощью алгоритмов машинного обучения. В США, например, учёные создавали «минимальные клетки» с искусственным геномом, оставляя лишь те гены, которые необходимы для поддержания жизни. Нейросети помогают определить, какие участки ДНК можно безопасно удалить, а какие стоит оптимизировать, чтобы получить микроорганизмы, которые можно «настраивать» под конкретные задачи — от производства химических веществ до синтеза лекарств.
Ещё один важный инструмент — технология CRISPR‑Cas9 в сочетании с ИИ. Она позволяет точно редактировать отдельные гены, а модели искусственного интеллекта предварительно прогнозируют последствия таких изменений, снижая риск непредвиденных эффектов. Это даёт возможность создавать бактерии с совершенно новыми свойствами: например, способные разлагать пластик, обнаруживать токсичные вещества или синтезировать полезные соединения. ИИ существенно ускоряет подбор нужных генетических изменений и сокращает количество экспериментов в пробирке.
Важно отметить, что речь чаще всего идёт не о создании жизни с нуля, а о глубокой модификации уже существующих организмов. Ясно одно, что все подобные исследования должны проходить строгий контроль и быть недоступными для дилетантов, чтобы не стать причиной потенциальных биологических рисков для населения. Регуляторы в США и Европе уже начали реагировать на эти риски. В новых документах по безопасности ИИ особое внимание уделяется проверке моделей на способность генерировать биологически опасные запросы. Разработчиков обязывают проводить жесткое стресс-тестирование до публичного запуска систем.