Исследователи предложили лимит пропускной способности для защиты AI от утечек

Исследователи представили методологию ограничения физических каналов утечки данных, направленную на повышение безопасности при верификации AI-систем. В качестве защитного барьера предложено установить жесткий порог пропускной способности на уровне 10^5 бит/с на один вычислительный узел (под).

В ходе анализа авторы оценили потенциал различных физических каналов, через которые может происходить несанкционированная передача информации. Установлено, что оптические каналы, линии электропитания и системы хранения данных в худших сценариях эксплуатации значительно превышают установленный лимит в 100 кбит/с. Это создает серьезные риски для обеспечения изоляции моделей в процессе их обучения и работы.

Результаты исследования показывают, что текущие аппаратные архитектуры не обеспечивают достаточного уровня защиты от атак по сторонним каналам. Превышение установленного порога позволяет злоумышленникам извлекать критические данные, используя физические параметры работы оборудования, такие как колебания энергопотребления или электромагнитные излучения.

Внедрение предложенного ограничения требует пересмотра стандартов проектирования ЦОД и аппаратных ускорителей. Установление лимита в 10^5 бит/с позволит разработчикам систем верификации контролировать потоки данных, которые невозможно отследить программными методами, обеспечивая более надежную изоляцию вычислительных сред от внешнего воздействия.