OpenAI сформировала независимую группу математиков для контроля развития AI

OpenAI объявила о создании независимой консультативной группы, состоящей из ведущих математиков. Основная задача экспертов — проведение глубокого анализа текущего прогресса в области математических возможностей искусственного интеллекта и оценка рисков, связанных с его развитием.

В состав группы вошли специалисты, чья деятельность сфокусирована на фундаментальных аспектах вычислений и алгоритмической логике. Участники будут проводить независимый аудит архитектурных решений компании, чтобы обеспечить соответствие разработок стандартам безопасности и прозрачности. Это первый случай, когда компания привлекает сторонних академических математиков для формальной верификации своих моделей.

Деятельность группы направлена на решение проблем интерпретируемости нейронных сетей и проверку математической обоснованности методов обучения. Эксперты будут публиковать отчеты о результатах своих исследований, чтобы способствовать обмену знаниями внутри научного сообщества. Взаимодействие с группой позволит компании выявлять потенциальные уязвимости в логических цепочках моделей на ранних этапах проектирования.

Создание данного органа является частью стратегии по усилению контроля над безопасностью систем. В условиях ускорения темпов разработки, привлечение внешних экспертов должно снизить вероятность непредсказуемого поведения моделей при решении сложных математических задач. Подробности о составе группы и методологии работы доступны на официальном портале OpenAI.