OpenAI присвоила модели Astra уровень Critical по кибербезопасности

Компания OpenAI официально представила модель GPT-6 Astra, которая стала первым продуктом организации, получившим уровень Critical в рамках внутренней системы оценки Preparedness Framework. Данная классификация означает, что нейросеть обладает способностью самостоятельно находить неизвестные уязвимости и разрабатывать сценарии их эксплуатации.

Согласно отчету, модель способна выполнять задачи по поиску брешей в защите без постоянного контроля со стороны человека, требуя лишь постановки базовой цели. В ходе разработки GPT-6 Astra инженеры были вынуждены намеренно замедлять этапы обучения, чтобы внедрить дополнительные механизмы контроля и предотвратить потенциальное злоупотребление возможностями системы.

Присвоение критического уровня безопасности стало следствием оценки рисков, связанных с автономным поиском векторов атак. В документации указано, что текущие протоколы защиты не всегда успевают за темпами роста функциональности моделей, что вынуждает компанию пересматривать подходы к релизному циклу и координации с другими лабораториями.

На фоне этих событий руководство ведущих AI-компаний начало публично обсуждать необходимость замедления темпов гонки вооружений в сфере ИИ. В частности, представители индустрии указывают на разрыв между скоростью развития моделей и развитием систем безопасности, что уже привело к корректировке планов по выходу на IPO и изменению рыночных ожиданий в секторе технологий искусственного интеллекта.