Компактные System 1 модели 0.8B и 2B: 30 мс на решение и паритет с Jev

Вышли открытые веса компактных моделей принятия решений: 0.8B и 2B параметров. Их называют System 1 — по аналогии с быстрой когнитивной системой из теории принятия решений.

Компактные System 1 модели 0.8B и 2B: 30 мс на решение и паритет с Jev
Компактные System 1 модели 0.8B и 2B: 30 мс на решение и паритет с Jev

Главное

  • Модели 0.8B и 2B обучены локально и имеют открытые веса
  • Одно решение занимает около 30 мс — подходит для реального времени
  • В бенчмарках и в Doom модели сопоставимы с более крупной Jev
  • Компактный размер позволяет запускать модели на ограниченном железе

Вышли открытые веса компактных моделей принятия решений: 0.8B и 2B параметров. Их называют System 1 — по аналогии с быстрой когнитивной системой из теории принятия решений. Модели обучались локально и предназначены для сценариев, где важно мгновенно выбрать действие, а не рассуждать над задачей. В тестах и в среде Doom они сопоставимы с более крупной моделью Jev, при этом одно решение занимает около 30 миллисекунд.

Ключевая особенность — скорость при скромном размере. 30 мс на решение позволяет использовать такие модели в играх, симуляциях и робототехнике, где задержка критична. Открытые веса дают возможность дообучать модели под конкретную среду и запускать их на локальном оборудовании без обращения к внешним сервисам. При этом авторы подчёркивают, что это именно System 1: модели быстрые и автоматические, но не заменяют медленные аналитические рассуждения.

Для практики важно, что компактные модели не уступают заметно более крупному аналогу на бенчмарках. Это снижает порог входа для экспериментов с обучением агентов: 0.8B версию можно запускать даже на ограниченных ресурсах. Вопрос остаётся в том, как поведение таких быстрых моделей масштабируется за пределами тестовых сред.