Исследователи оценили риски биобезопасности при использовании AI

Группа ученых опубликовала масштабный обзор, посвященный влиянию генеративных моделей на биологические исследования и потенциальным угрозам безопасности. Работа анализирует, как LLM и специализированные биологические модели могут быть использованы для планирования экспериментов, генерации последовательностей белков и автоматизации лабораторных циклов.

Авторы отмечают, что текущие фронтирные системы уже превосходят экспертов в задачах in-silico и методах обхода систем скрининга. Однако физическая реализация биологических угроз остается сложной задачей из-за нехватки «неявных знаний» и ограничений при работе в реальных «мокрых» лабораториях. Исследование подчеркивает, что риск зависит не только от возможностей AI, но и от намерений пользователя, его доступа к материалам и наличия защитных механизмов.

В статье критикуется текущий подход к безопасности: методы выравнивания (alignment), эффективные для общих моделей, плохо адаптируются к биологическим системам. Исследователи предлагают внедрить стратегию defense-in-depth, которая связывает пороги возможностей моделей с пропорциональной ответственностью разработчиков. Это должно помочь снизить риски создания опасных патогенов при сохранении преимуществ для медицины и биотехнологий.

Особое внимание уделено роли интерпретируемости моделей в аудите опасных навыков. Авторы настаивают на необходимости создания инструментов, способных верифицировать отсутствие вредоносных функций в биологических foundation-моделях. Работа распространяется по лицензии arXiv и задает вектор для будущих стандартов регулирования в сфере AI-биотехнологий.