Ripple-65B: первый LLM от Ricursive Intelligence — плотная модель на 65 млрд параметров

Стартап Ricursive Intelligence представил свою первую языковую модель — Ripple-65B Preview. Это плотная (dense) архитектура с 65 миллиардами параметров, то есть каждый параметр задействуется при обработке запроса, в отличие от разреженных моделей, которые активируют только часть…

Ripple-65B: первый LLM от Ricursive Intelligence — плотная модель на 65 млрд параметров
Ripple-65B: первый LLM от Ricursive Intelligence — плотная модель на 65 млрд параметров

Главное

  • Ripple-65B — это плотная модель с 65 млрд параметров.
  • Плотная архитектура активирует все параметры при каждом запросе.
  • Компания пока не раскрыла технические детали и бенчмарки.
  • Назначение — баланс качества и вычислительной нагрузки.
  • Открытый код — ключ к доверию и независимой оценке.

Стартап Ricursive Intelligence представил свою первую языковую модель — Ripple-65B Preview. Это плотная (dense) архитектура с 65 миллиардами параметров, то есть каждый параметр задействуется при обработке запроса, в отличие от разреженных моделей, которые активируют только часть параметров. Такой подход обычно дает более стабильное качество на задачах логики и рассуждений, но требует больше вычислительных ресурсов при инференсе.

Пока компания не раскрыла детальную спецификацию обучения и бенчмарки. Однако выбор 65 млрд параметров не случаен: это промежуточный размер между популярными 7–13 млрд (которые работают на локальном железе) и гигантскими моделями уровня 70+ млрд, которые требуют серьезных серверов. Ripple-65B, вероятно, нацелена на баланс между качеством и практической применимостью для исследователей и среднего бизнеса.

Интересно, что акроним Ripple может указывать на волновую (layer-wise) обработку информации — возможно, модель использует какие-то нестандартные механизмы внимания. Но без официальных документов и кода это пока только гипотезы. Открытый исходный код будет ключевым фактором для доверия сообщества и независимой оценки.

На данный момент неизвестно, когда выйдет полная версия и какое у неё будет лицензирование. Но появление еще одной плотной 65B-модели расширяет экосистему ИИ, давая разработчикам альтернативу популярным Llama и Mistral. Следим за развитием проекта.