Специалисты Microsoft под руководством Эрика Хорвица провели исследование, в котором искусственный интеллект успешно сгенерировал варианты опасных белков, способные обойти системы проверки ДНК-последовательностей. Эти системы предназначены для блокировки коммерческих заказов генетических материалов, которые могут быть использованы для создания патогенов. Эксперимент проводился исключительно в цифровой среде без синтеза реальных веществ.
Ученые использовали несколько генеративных моделей, включая EvoDiff, для редизайна токсинов. Алгоритмы модифицировали структуры молекул таким образом, чтобы они сохраняли опасные свойства, но не распознавались защитным ПО при сравнении с базами данных известных патогенов. Некоторые созданные ИИ молекулы продолжают обходить существующие системы защиты даже после устранения выявленных уязвимостей.
Компания Integrated DNA Technologies, крупный производитель генетических материалов, признала, что обеспечение биобезопасности становится непрерывным процессом, аналогичным "гонке вооружений". Эксперты предлагают два основных пути решения: встраивание защитных механизмов непосредственно в ИИ-модели и усиление контроля на этапе синтеза ДНК. Однако распространение технологий ИИ делает полный контроль практически невозможным.
Microsoft проинформировала американские власти и производителей ПО о результатах исследования, сознательно не раскрывая деталей методологии. Этот случай демонстрирует растущие риски двойного применения биотехнологий и необходимость разработки превентивных мер защиты на опережение.
