Amazon выпустила бесплатную открытую модель Strands Decider 2B для мгновенных решений

Amazon представила бесплатную компактную языковую модель с открытым исходным кодом — Strands Decider 2B, предназначенную для быстрого принятия решений. Модель содержит 2 миллиарда параметров и способна обрабатывать запросы за миллисекунды, что делает её пригодной для сценариев, где важна минимальная задержка: от управления роботами до автоматизации рабочих процессов. В отличие от более крупных моделей, Decider 2B не требует кластеров GPU и может работать на периферийных устройствах. Бесплатные открытые веса позволяют разработчикам дообучать модель под собственные данные и интегрировать её в закрытые контуры.

Архитектура модели оптимизирована для выполнения на одном ускорителе: время ответа измеряется долями секунды даже без специального сжатия. Это достигается за счёт ограниченного контекста и эффективных механизмов внимания. Разработчики отмечают, что модель предназначена не для генерации текста, а для классификации, извлечения информации и выбора действий. Strands Decider 2B позиционируется как замена более тяжёлым и дорогим системам, которые требуют постоянного подключения к облаку.

Ключевая особенность — возможность работать локально. Это снижает задержки и повышает конфиденциальность, поскольку данные не покидают устройство. Для компаний, которые строят системы реального времени, это означает отказ от компромисса между точностью и скоростью. Открытая лицензия также упрощает аудит и проверку модели на предмет предвзятости, что важно для регуляторных требований.