Искусственный интеллект открывает путь к биологическому оружию?

В то время как возможности, предоставляемые технологиями искусственного интеллекта в области здравоохранения и биотехнологий, растут с каждым днем, вероятность использования тех же технологий для разработки биологического оружия вызывает серьезную озабоченность в научном мире. Обширная оценка, опубликованная в журнале Nature, показывает, что инструменты биологического дизайна, основанные на искусственном интеллекте, достигли способности разрабатывать многие биологические агенты, от смертельных токсинов до вирусов нового поколения, в то время как ученые обсуждают меры, которые необходимо принять против рисков биобезопасности. 

В то время как возможности, предоставляемые технологиями искусственного интеллекта в области здравоохранения, разработки лекарств и биотехнологий, растут с каждым днем, вероятность использования тех же технологий для разработки биологического оружия стала центром все более широкой дискуссии в научном мире. Риски, которые могут возникнуть, если системы искусственного интеллекта, используемые для проектирования вирусов, токсинов и других биологических агентов, попадут в руки злоумышленников, уже привели к тревоге среди ученых и политиков. 

Всесторонняя оценка, опубликованная в журнале Nature, подняла вопрос о том, представляют ли биологические инструменты искусственного интеллекта новую угрозу для человечества. В центре дискуссий находится система искусственного интеллекта, разработанная китайскими исследователями и используемая для создания конотоксинов, которые могут обладать смертельными свойствами.

Яд улитки перепроектируется с помощью искусственного интеллекта

Одним из примеров, на который обратили внимание ученые, стали чрезвычайно сильные токсины, вырабатываемые конусными улитками. Иглы морских конусных улиток содержат сложную смесь яда, состоящую из белков, называемых конотоксинами, которые могут поражать нервную систему. Иглы этих существ содержат коктейль из небольших белков, называемых конотоксинами, некоторые из которых могут блокировать ионные каналы в нервной системе. Противоядия от этого яда не существует. 

С другой стороны, не все эти молекулы вредны. Некоторые из них даже могут использоваться в медицинских целях. Некоторые лекарства, используемые для лечения хронической боли, получены непосредственно из конотоксинов. Однако, поскольку исследования опасных конотоксинов находятся под строгим контролем во многих странах, объявление китайских исследователей о разработке новых конотоксинов с использованием искусственного интеллекта в 2024 году вызвало серьезные вопросы в кругах биобезопасности. 

Данная работа была оценена как потенциальный риск биобезопасности

В частной переписке, полученной Nature, выяснилось, что высокопоставленный чиновник правительства США оценил данную работу как потенциальный риск биобезопасности. Чиновник отметил, что особенно тревожным является тот факт, что используемая система основана на модели белкового языка с открытым исходным кодом, разработанной американскими учеными. 

Однако Вэйвэй Сюэ, химик-вычислитель из Chongqing University в Китае и один из соавторов работы, утверждает, что критика несправедлива. Сюэ заявляет, что их работа имеет непосредственную цель разработки лекарств, говоря следующее:

«В лабораторных тестах мы получили некоторые конотоксины с терапевтическим потенциалом. Важно учитывать возможность неправомерного использования инструмента искусственного интеллекта, однако система не была разработана для производства вредных белков.»

Исследователь также подчеркивает, что для производства разработанных молекул в реальном мире требуются высокий уровень экспертизы и дорогостоящая лабораторная инфраструктура. 

Сценарий, который лишает ученых сна

Тем не менее, многие эксперты считают, что биологические инструменты искусственного интеллекта могут иметь гораздо более серьезные долгосрочные последствия. Структурный биолог Мартин Пачеса из University of Zurich в Швейцарии отмечает, что теоретически могут быть произведены чрезвычайно смертоносные и труднообнаруживаемые токсины.

Пачеса выражает свою обеспокоенность следующими словами:

«Именно это лишает меня сна по ночам. Теоретически человек может разработать смертельные агенты уровня рицина или другие, почти не поддающиеся обнаружению.»

По мнению экспертов, производство биологического оружия может стать более доступным благодаря искусственному интеллекту. В частности, считается, что даже люди, не имеющие ранее продвинутого биологического образования, смогут осваивать сложные процессы, используя большие языковые модели и инструменты биологического дизайна. 

Дэвид Бейкер, вычислительный биофизик из Washington University в Сиэтле, разделивший Нобелевскую премию 2024 года за свои новаторские работы по дизайну белков, заявляет, что они всегда оценивали, что польза для мира значительно перевешивает опасности. Бейкер добавляет, что по мере роста возможностей это будет важным вопросом, над которым следует продолжать размышлять.

Некоторые, однако, утверждают, что вместо попыток предотвратить это путем введения программных ограничений, основное внимание должно быть сосредоточено на обнаружении и противодействии атакам с использованием биологического оружия, созданного с помощью искусственного интеллекта. Тимоти Дженкинс, дизайнер белков из Технического университета Дании в Люнгбю, выражает мнение, что этот поезд уже ушел.

Самый большой страх: вирусные пандемии, поддерживаемые искусственным интеллектом

Наиболее обсуждаемый сценарий среди исследователей — появление новых пандемических вирусов.

Джеймс Блэк, исследователь биобезопасности и приглашенный ученый в Johns Hopkins University в Балтиморе, штат Мэриленд, говорит, что существуют две основные угрозы, связанные с искусственным интеллектом и биологическим оружием. Первая заключается в том, что люди могут научиться производить существующие биологические угрозы, такие как сибирская язва, используя чат-ботов. Вторая — это разработка государствами или хорошо финансируемыми террористическими организациями новых видов биологического оружия с использованием передовых систем искусственного интеллекта. 

По мнению экспертов, наиболее реалистичная угроза заключается не в создании нового вируса с нуля, а в том, чтобы сделать существующие вирусы более опасными.

Дони Блумфилд, профессор права, работающий над вопросами биобезопасности в Fordham University в Нью-Йорке, отмечает, что некоторые инструменты искусственного интеллекта, используемые сегодня, фактически были разработаны для прогнозирования эволюции вирусов и разработки вакцин, но теоретически могут быть использованы и в злонамеренных целях. В частности, вероятность увеличения способности вирусов, таких как SARS-CoV-2 или грипп, ускользать от иммунной системы вызывает обеспокоенность у экспертов.

В предварительном исследовании, опубликованном в 2025 году, с использованием искусственного интеллекта были разработаны новые вирусные геномы, и около 5% этих вирусов, произведенных в лаборатории, оказались функциональными. Хотя данные вирусы были разработаны для инфицирования бактерий, а не людей, работа была признана примечательной, поскольку она демонстрирует уровень, достигнутый искусственным интеллектом в области биологического дизайна. 

Сценария конца света пока нет

Однако не все эксперты в равной степени согласны со сценариями катастроф.

Согласно отчету Национальных академий наук, инженерии и медицины США (NASEM) от 2025 года, сегодня существуют значительные технические препятствия для разработки искусственным интеллектом патогенов, способных вызывать пандемии с нуля. В отчете подчеркивается отсутствие высококачественных данных, раскрывающих связь между такими характеристиками вирусов, как их заразность или смертоносность, и их генетической структурой. Кроме того, лабораторные испытания и процессы верификации по-прежнему в значительной степени требуют человеческого опыта. 

Брайан Хи, вычислительный биолог из Stanford University, напоминает, что мутационные методы, используемые в биологии десятилетиями, также несут аналогичные риски.

Дэвид Бейкер, лауреат Нобелевской премии 2024 года в области дизайна белков, также считает, что преимущества биологического искусственного интеллекта на данный момент перевешивают его риски. Бейкер заявляет: «Польза, предоставляемая миру, значительно перевешивает опасности. Однако очевидно, что по мере роста возможностей это будет важным вопросом, над которым мы должны продолжать размышлять.»

Может ли искусственный интеллект поднять небиологов до уровня экспертов?

Одним из наиболее критических вопросов в этой дискуссии является то, сможет ли искусственный интеллект заменить человеческий опыт.

Исследования, опубликованные Сетом Донохью, директором по искусственному интеллекту в SecureBio, и его коллегами, показали, что передовые большие языковые модели могут приближать производительность людей с ограниченным биологическим образованием к уровню исследователей со степенью доктора наук в некоторых задачах. Заметные результаты были достигнуты, в частности, в таких задачах, как решение проблем в вирусологических экспериментах или генерация кода для лабораторных роботов. 

Донохью предупреждает: «Искусственный интеллект становится все более способным в каждой задаче, которую мы перед ним ставим. Мы должны ожидать, что как делать хорошее, так и делать плохое станет легче.»

Напротив, другие исследования показывают, что новички, использующие искусственный интеллект, пока не смогли продемонстрировать явного превосходства над добровольцами, использующими Интернет, в сложных задачах, таких как манипуляции с ДНК или производство вирусов. Поэтому некоторые эксперты считают, что существующие риски могут быть преувеличены. 

Линия обороны: компании по синтезу ДНК

Большинство экспертов утверждают, что наиболее эффективным способом предотвращения биологических угроз является не ограничение искусственного интеллекта, а контроль за производством биологических материалов.

По словам исследователей, для производства белков или синтетических геномов, разработанных с помощью искусственного интеллекта, часто требуется размещать заказы в компаниях по синтезу ДНК. Значительная часть этих компаний использует системы скрининга, которые выявляют генетические последовательности, способные привести к производству токсинов или патогенов. 

Однако исследование, опубликованное исследователями Microsoft в 2025 году, показало, что эти системы иногда можно обойти с помощью искусственного интеллекта. Исследователи разработали 76 тысяч синтетических биологических структур и показали, что часть из них может ускользать от существующих систем скрининга. С последующими обновлениями этот показатель был значительно снижен, но эксперты подчеркивают, что гонка продолжается.

Проверки скрининга

По мнению многих ученых, лучший способ предотвратить разработку биологического оружия с помощью искусственного интеллекта — это выявлять злонамеренных акторов на стадии производства вирусов или токсинов. «В конце концов, часто не имеет значения, что вы делаете на компьютере», — говорит Пачеса. «Важно то, как это превращается в реальный, физический белок или небольшую молекулу.»

Команда под руководством Эрика Хорвица и Брюса Виттманна использовала инструменты открытого исходного кода для дизайна белков, чтобы перепроектировать 72 биологические молекулы, которые могут представлять риск биобезопасности. Исследователи разработали около 76 тысяч синтетических гомологов, сохранив их потенциально опасные функции, при этом обеспечив им достаточно различные генетические структуры, чтобы они могли ускользать от существующих систем скрининга.

Результаты исследования были признаны примечательными. На первом этапе около четверти разработанных конструкций не были обнаружены существующим программным обеспечением для сканирования ДНК. Позже, после обновления программного обеспечения компаний, этот показатель снизился примерно до 3 процентов.

Тем не менее, новое предварительное исследование, опубликованное в марте, показало, что если эти последовательности разделить на очень мелкие фрагменты, их обнаружение снова становится затруднительным.

Хорвиц и его коллеги предпочли не раскрывать детали разработанных молекул публично, но заявили, что они обеспечили контролируемый доступ для научных исследований.

Сделать эти молекулы работоспособными не так просто, как кажется

Эксперты также подчеркивают, что перепроектированные токсины не всегда могут приводить к опасным последствиям.

В исследованиях, последовавших за работой Хорвица, команда под руководством Брюса Виттманна и Элизабет Стрихальски протестировала функции некоторых перепроектированных белков в лабораторных условиях. Эксперименты показали, что некоторые простые белки могли сохранять свои функции, в то время как ферменты значительно теряли функциональность.

Эрик Хорвиц заявил, что этот результат демонстрирует сложность биологических систем, отметив: «Это показывает, насколько сложно и трудно заставить их работать.»

Системы скрининга по-прежнему являются мощной линией обороны

Джеймс Дигганс, вице-президент по биобезопасности и политике компании Twist Bioscience, занимающейся синтезом ДНК, базирующейся в Калифорнии, утверждал, что существующие механизмы безопасности по-прежнему эффективны. Дигганс заявил: «В настоящее время, даже если вы используете эти инструменты искусственного интеллекта на более ранних этапах процесса для избегания обнаружения, приложения для скрининга все еще служат чрезвычайно эффективной крепостью против злоупотреблений.»
Тем не менее, Дигганс признал, что модели искусственного интеллекта быстро развиваются, и в будущем более продвинутые системы могут увеличить свою способность преодолевать существующие механизмы защиты.

В многих странах, включая Китай, системы скрининга не являются обязательными

Исследователи работают над новыми технологиями скрининга, которые позволят оценивать заказы на синтез ДНК не только по генетическим последовательностям, но и по структуре и функциям производимых молекул.

Однако во всем мире существуют значительные различия в применении.

В США ученые, пользующиеся исследовательскими фондами, в ближайшем будущем могут быть обязаны заказывать только у компаний, использующих программное обеспечение для скрининга. Великобритания, Европейский Союз и Новая Зеландия также входят в число стран, рассматривающих аналогичные правила.
В то же время в Китае, который обеспечивает более 30% мировых заказов на синтез ДНК, практика скрининга пока не является обязательной. Вэйвэнь Чжан, синтетический биолог из Tianjin University, отмечает, что правительство Китая рекомендует компаниям использовать практику скрининга, но не делает ее обязательной.

Тесса Алексанян, работающая в Швейцарской Международной инициативе по биобезопасности и биозащите для науки, заявляет, что во многих частях мира по-прежнему можно заказывать последовательности токсинов у поставщиков без вызова каких-либо тревог.

Настольные устройства для синтеза ДНК могут создать новые риски

Еще одним источником беспокойства для экспертов являются «настольные устройства для синтеза ДНК».

Ожидается, что эти устройства, способные сегодня производить только короткие последовательности, в будущем достигнут способности создавать более длинные генетические фрагменты. Исследователи подчеркивают, что это развитие может демократизировать процессы биологического производства, но в то же время усложнит надзор.

Предлагаются более строгие пределы безопасности для моделей искусственного интеллекта

Еще одной темой для обсуждения в научном мире является введение более строгих пределов безопасности для моделей искусственного интеллекта, используемых в области биологии. Дэвид Бейкер, один из пионеров в области дизайна белков, заявляет, что его лаборатория проводит регулярные оценки рисков перед публикацией разработанных ими инструментов искусственного интеллекта.

«Принципы ответственного искусственного интеллекта и биодизайна», опубликованные Бейкером и другими исследователями в 2024 году, также поддерживают этот подход. Однако многие эксперты расходятся во мнениях относительно того, достаточен ли самоконтроль научного сообщества.

OpenAI и другие компании применяют меры биобезопасности

Компании, разрабатывающие системы искусственного интеллекта общего назначения, применяют меры безопасности против запросов, связанных с биологическим оружием или химическими атаками. В принципах безопасности, опубликованных OpenAI, подчеркивается, что модели не должны предоставлять применимые инструкции по разработке химического или биологического оружия.

Несмотря на это, некоторые исследования показывают, что меры безопасности не всегда эффективны. В исследовании, проведенном Донохью и его командой, было установлено, что около 90% участников смогли получить доступ к высокорисковой биологической информации через большие языковые модели.

В сообщении, опубликованном The New York Times, утверждалось, что человек, арестованный в Индии по подозрению в планировании террористической атаки, получал информацию о производстве рицинового токсина от ChatGPT и поисковых инструментов, поддерживаемых искусственным интеллектом.

Представители OpenAI заявили, что упомянутая информация уже свободно доступна в Интернете.

Исследователи смогли преодолеть пределы безопасности Evo 2

Специализированные биологические системы искусственного интеллекта также находятся в центре аналогичных дискуссий. В обучении геномной языковой модели Evo 2, обученной на 128 тысячах геномных последовательностей, вирусы, инфицирующие человека, были намеренно исключены.

Однако Ле Конг и его команда из Stanford University, используя универсального агента искусственного интеллекта, смогли обойти пределы безопасности Evo 2 и заставили модель спроектировать новые версии белков SARS-CoV-2 и HIV-1.

В другом исследовании было показано, что тонкая настройка с использованием общедоступных геномных данных вирусов, инфицирующих человека, позволила модели восстановить эти способности. Патрик Хи, один из разработчиков Evo 2, заявил, что эта ситуация не удивительна, и утверждал, что подход с открытым исходным кодом способствует исследованиям в области безопасности.

Ограничения доступа или открытая наука?

Одним из самых больших разногласий среди ученых является вопрос о том, следует ли ограничивать доступ к мощным биологическим системам искусственного интеллекта.

Джасси Панну и его коллеги из Johns Hopkins University предлагают подвергнуть контролируемому доступу новые данные, особенно касающиеся генетических изменений, которые могут привести к пандемиям. Двигатель готовности к пандемии, разработанный Коалицией за инновации в обеспечении готовности к эпидемиям (CEPI) и описанный как «ChatGPT для разработчиков вакцин», также планируется открыть только для одобренных пользователей. Аналогичным образом, модель GPT-Rosalind, анонсированная OpenAI, будет доступна только проверенным исследователям.

Предложение поэтапного доступа в зависимости от уровня риска

Инициатива по ядерной угрозе предлагает модель доступа к системам искусственного интеллекта, основанную на риске.

В отчете, опубликованном RAND Corporation в 2025 году, отмечается, что 23% из 57 инструментов биологического искусственного интеллекта, рассмотренных в отчете, относятся к группе высокого риска. Отчет, подготовленный Национальными академиями, аналогичным образом рекомендует заранее определить, какие меры будут приняты при возникновении рискованных разработок с использованием подхода «если-то».

Искусственный интеллект также может быть средством защиты

Эксперты также подчеркивают, что, несмотря на все дискуссии о рисках, искусственный интеллект предлагает большие возможности для биологической защиты. Патрик Хи заявляет, что биологический искусственный интеллект будет играть важную роль в будущем в разработке защиты от естественных эпидемий и злонамеренных акторов.

Роман Вёльфель, в свою очередь, отмечает, что системы искусственного интеллекта, способные разрабатывать токсины, также могут разрабатывать антитоксины и новые методы лечения. В исследованиях, проводимых с НАТО, разрабатываются системы для быстрого обнаружения искусственно созданных белков в подозрительных образцах с использованием масс-спектрометрии.

Частные компании, работающие в этой области, также привлекают внимание. Американские компании Red Queen Bio и Valthos получили инвестиции в размере 15 миллионов и 30 миллионов долларов соответственно для разработки технологий биологической защиты.

И крайне неопределенно, и крайне срочно

Эксперты подчеркивают, что влияние искусственного интеллекта на биологию пока полностью не предсказуемо. Джасси Панну заявляет, что пока неизвестно, насколько может вырасти потенциал злоупотребления искусственным интеллектом, в то время как Тесса Алексанян резюмирует текущую картину следующими словами:

«Многие аспекты этой области кажутся мне одновременно крайне неопределенными и крайне срочными.»

Все более широкая дискуссия в научном мире продолжает ставить в центр повестки дня вопрос о том, принесет ли искусственный интеллект человечеству большие возможности в области биологии или же новые поколения биологических угроз.

Для получения подробной информации