OpenAI планирует выпустить новые модели до конца года

Компания OpenAI готовится представить как минимум одну новую языковую модель до конца текущего года. Разработчики активно ведут финальную доработку флагманской системы, ориентированной на сложные математические вычисления и программирование.

В основе архитектуры нового флагмана используется специальная техника looped transformer. Аналогичный подход ранее применялся в проектах серии Astra для существенного повышения производительности при решении логических задач и написании кода. При этом технические детали реализации метода стали публично известны из-за случайной утечки информации со стороны корпорации Microsoft.

Главной причиной задержки официального релиза флагманской модели остаются вопросы безопасности и так называемого alignment. Использование циклической архитектуры значительно усложняет процесс мониторинга поведения нейросети и контроль потенциальных рисков со стороны специалистов по безопасности.

Несмотря на трудности с настройкой флагмана, инженеры компании подтверждают планы по выходу на рынок одного или двух промежуточных продуктов в ближайшие месяцы. Точные технические характеристики и дата публичного анонса пока не раскрываются.