Gensyn выпустила компактную модель open-1b-sft

Компания Gensyn представила новую языковую модель open-1b-sft, предназначенную для выполнения чат-задач. Модель обладает 1.61 млрд параметров и прошла процедуру дообучения (SFT) на наборе данных Tulu-3.

Ключевой особенностью релиза является полная верифицируемость процесса обучения. Разработчики обеспечили возможность аудита всех этапов подготовки модели, что позволяет отследить корректность формирования весов. Весь код и данные для воспроизведения результатов доступны в открытом доступе на платформе Hugging Face.

Технические характеристики open-1b-sft оптимизированы для работы на ограниченных вычислительных мощностях. Модель демонстрирует оценку в 9 баллов по внутренней метрике качества, достигая этого результата за 1 час обучения на специализированной инфраструктуре. Архитектура ориентирована на высокую скорость генерации ответов при сохранении базовых навыков ведения диалога.

Выпуск данной модели расширяет экосистему компактных решений, которые можно разворачивать локально без значительных затрат ресурсов. Прозрачность процесса обучения делает open-1b-sft инструментом для исследований в области воспроизводимости результатов и верификации нейронных сетей.