Группа учёных Microsoft во главе с главным научным руководителем Эриком Хорвицем обнаружила, что современные системы биобезопасности, предназначенные для предотвращения синтеза опасных биомолекул, имеют серьёзную уязвимость. Так называемые системы скрининга ДНК, которые проверяют заказы на последовательности генетического материала, могут не распознавать последовательности, созданные с помощью генеративного искусственного интеллекта. Эти ИИ-модели способны менять разрабатываемые токсические белки таким образом, что они остаются биологически активными, но уже не соответствуют известным паттернам угроз, на которые настроены фильтры.

Такая уязвимость получила название «биологический нулевой день» по аналогии с термином из кибербезопасности, обозначающим незарегистрированные и пока не устранённые дыры в программном обеспечении. Microsoft показала, что генеративные ИИ могут создавать патогены и токсины, которые не вызывают срабатывания систем блокировки, что представляет собой серьёзный биотеррористический риск.

В исследовании учёные провели тесты с помощью открытого ИИ, переписывая более 70 тысяч вариантов токсичных белков. Многие из них проходили незамеченными через системы, предназначенные для отслеживания известных биологических угроз в заказах на синтез ДНК.

Учёные подчёркивают, что эта проблема не сводится к запрету или отказу от ИИ — технологии приносят большую пользу для разработки лекарств, вакцин и биоинженерии. Однако растущая доступность и мощь ИИ-алгоритмов требуют новых подходов к биобезопасности. Microsoft предлагает многоуровневую защиту, включающую не только проверку последовательностей, но и анализ их функции и структуры, а также использование команд, которые пытаются выявить уязвимости с помощью имитации атак.

Особое внимание уделяется международному сотрудничеству и строгому контролю доступа к мощным инструментам биологического проектирования.

Учитывая, что патогены не признают границ, безопасность биомолекул должна иметь глобальный надзор и быстро адаптируемые защитные меры

отмечают авторы исследования

Выводы команды Microsoft создают новую парадигму безопасности — «био-ИИ безопасность», где разработка требует комплексных, опережающих мер, чтобы предотвратить появление новых угроз на уровне генетического кода.