Специалисты компании Red Queen Bio, работающей в сфере биобезопасности, сосредоточили свои усилия на поиске способов противодействия патогенам, которые могут возникнуть в результате использования технологий искусственного интеллекта. Как сообщает издание The Wall Street Journal (WSJ), научная группа занимается созданием антител, способных нейтрализовать широкий спектр вирусов, включая те, что будут спроектированы с помощью ИИ.
Для реализации этих амбициозных планов компания, в число ключевых инвесторов которой входит OpenAI, уже привлекла 36 миллионов долларов. Несмотря на наличие финансирования, путь до массового применения технологий предстоит долгий: начало клинических испытаний препаратов, направленных на борьбу с птичьим гриппом и иными вирусами, намечено лишь на 2027 год.
Согласно данным WSJ, на фоне стремительного прогресса нейросетей и участившихся случаев неконтролируемого поведения ИИ-агентов, в мировом сообществе нарастает тревога относительно экзистенциальной угрозы для цивилизации. Существующие стратегии защиты в основном направлены на ограничение рисков: от замедления темпов исследований до введения жестких стандартов и блокировки ответов моделей на потенциально опасные вопросы. Однако в Red Queen Bio убеждены, что подобные превентивные меры окажутся неэффективными, и настаивают на необходимости реальной готовности общества к новым угрозам.
При этом в экспертной среде существуют и иные мнения. Скептикам полагают, что угроза появления биологического оружия, созданного ИИ, может быть преувеличена. Тем не менее, ведущие разработчики нейросетей подтверждают наличие рисков. В частности, представители OpenAI ранее заявляли, что в течение прошлого года их чат-бот фиксировал сотни попыток получить инструкции по синтезу ядов и биологических агентов.
Аналогичные инциденты описывает и компания Anthropic. По их данным, пользователи пытались использовать модель Claude для поиска путей адаптации птичьего гриппа к организму млекопитающих. В одном из случаев запросы, поступившие от лица, связанного с военным исследовательским институтом, касались повышения патогенности вируса чикунгунья, а другие пользователи интересовались информацией об оспе.
Оливия Шарфман, представляющая американский Институт прогресса (IFP), подчеркивает критическую сложность ситуации, отмечая, что в биологических конфликтах преимущество всегда на стороне агрессора. По ее словам, у нападающих есть неограниченное время на создание оружия, в то время как у защищающейся стороны нет возможности тратить годы на поиск контрмер.
В сентябре руководитель Anthropic Дарио Амодеи выступил с призывом снизить скорость развития технологий. Он аргументировал это тем, что потенциальные ИИ-агенты, способные управлять ботнетами, могут нанести ущерб в сотни миллиардов долларов уже в ближайшие полгода-год. Эту позицию поддержали Сэм Альтман, возглавляющий OpenAI, и предприниматель Илон Маск, стоящий за компанией xAI и разработкой Grok.
В политической плоскости отношение к проблеме также разделилось. Президент США Дональд Трамп охарактеризовал опасения перед ИИ как часть «мистификаций радикально левых демократов», поставив их в один ряд с дискуссиями о глобальном потеплении. При этом Трамп анонсировал формирование новой структуры — «ИИ-силы», подчеркнув, что США не намерены сдерживать развитие этой индустрии, хотя и планируют использовать правовую систему для выявления нарушений.
Параллельно с этим, согласно информации Reuters от 29 сентября, компания Anthropic планирует включить в документы для потенциальных участников своего IPO предупреждение о том, что развитие искусственного интеллекта может нести для человечества катастрофические или даже экзистенциальные риски.
