Есть открытия, которые рождаются с двойным лицом. Тот же алгоритм, способный создать белок, излечивающий рак, может в чужих руках создать смертельный токсин. В этом парадокс нашего времени: чем мощнее становится искусственный интеллект, тем более размытой становится граница между прогрессом и опасностью. Белки — это новая почва для этого напряжения. Их разработка с использованием искусственного интеллекта открыла немыслимые медицинские возможности, но также и риск, который беспокоит экспертов по биологической безопасности.
Недавнее исследование, финансируемое Microsoft, подтвердило эту обеспокоенность цифрами. У проекта, возглавляемого Брюсом Виттманном, была четкая цель: проверить, в какой степени современные системы обнаружения могут помешать использованию искусственного интеллекта для создания токсинов, регулируемых на международном уровне. Команда создала цифровые версии запрещенных белков, в том числе рицина и токсина Сига, с использованием имеющихся в продаже инструментов моделирования. Их цель состояла не в том, чтобы производить вещества, а в том, чтобы проверить пределы безопасности фильтров, используемых компаниями по производству синтетической ДНК для предотвращения опасных заказов.
Результаты, опубликованные в этом месяце, вызывают беспокойство. Команда Виттмана сгенерировала более 70 000 последовательностей на основе 72 белков, классифицированных как белки высокого риска. Затем он отправил их в различные системы проверки, которые биотехнологические компании используют для фильтрации запрещенных последовательностей. Результатом стал массовый сбой: некоторые программы обнаружили только 23 % опасных последовательностей, а более продвинутые едва достигли 70% эффективности. Другими словами, значительная часть попыток синтеза могла остаться незамеченной.
В исследовании подчеркивается, что ни один из полученных белков физически не синтезировался. Однако демонстрации достаточно, чтобы поднять тревогу. Если исследователям, работающим в рамках этических норм и имеющим разрешения на безопасность, удалось относительно легко обойти фильтры, разумно предположить, что это могут сделать и недобросовестные группы. В то время, когда синтетическая биология становится все более доступной — достаточно компьютера, подключения к Интернету и компании, производящей ДНК по запросу, — риск перестает быть теоретическим, а превращается в осязаемую возможность.
После того, как стали известны результаты, несколько компаний в этом секторе объявили об улучшении своих алгоритмов обнаружения, хотя не все отреагировали одинаково. Некоторые опасаются, что усиление фильтров может привести к ложным срабатываниям, что затруднит законные исследования. Несмотря на это, последующие испытания повысили уровень обнаружения до 72 %, что является скромным, но значительным прогрессом. Авторы исследования настаивают на том, что проблема заключается не в существовании продвинутых ИИ, а в отсутствии глобальной координации в регулировании их использования в вычислительной биологии.
Такие эксперты, как Хайме Яссиф из Инициативы по ядерной угрозе и Дрю Энди, профессор биоинженерии в Стэнфорде, предупреждают, что системы управления работают слишком медленно по сравнению со скоростью ИИ. Яссиф напоминает, что около 20% компаний по производству синтетической ДНК в мире даже не осуществляют систематического контроля за получаемыми заказами, что оставляет возможности для эксплуатации открытыми. Энди, со своей стороны, подчеркивает геополитическое измерение проблемы: нарушение биобезопасности было бы не локальным инцидентом, а глобальной угрозой.
Работа Microsoft в конечном итоге является предупреждением. В стремлении овладеть цифровой биологией модели искусственного интеллекта стали не только незаменимыми союзниками, но и потенциальным оружием. Белки, созданные искусственным интеллектом, могут спасти миллионы жизней или подвергнуть их риску при бесконтрольном использовании. Наука научилась конструировать жизнь с беспрецедентной точностью; теперь она должна научиться защищать ее от самой себя. Потому что в лаборатории будущего грань между творением и разрушением может быть записана с помощью простой строки кода.
Больше информации: https://www.science.org/content/article/made-order-bioweapon-ai-designed-toxins-slip-through-safety-checks-used-companies.