Qualcomm анонсировала ускоритель Cloud AI 100 Ultra на 150 Вт

Компания Qualcomm представила новый ИИ-ускоритель Cloud AI 100 Ultra, выполненный в форм-факторе платы PCIe с энергопотреблением 150 Вт.

Устройство оснащено 128 ГБ памяти LPDDR4x, которая обеспечивает пропускную способность на уровне 548 ГБ/с. Производительность новинки достигает 870 TOPS в операциях INT8, что оптимизировано для работы с большими языковыми моделями.

Новый ускоритель ориентирован на серверные развертывания, где критически важна энергоэффективность при обработке запросов к языковым моделям.