Ripple-65B: первый LLM от Ricursive Intelligence — плотная модель на 65 млрд параметров
Стартап Ricursive Intelligence представил свою первую языковую модель — Ripple-65B Preview. Это плотная (dense) архитектура с 65 миллиардами параметров, то есть каждый параметр задействуется при обработке запроса, в отличие от разреженных моделей, которые активируют только часть…
Главное
- Ripple-65B — это плотная модель с 65 млрд параметров.
- Плотная архитектура активирует все параметры при каждом запросе.
- Компания пока не раскрыла технические детали и бенчмарки.
- Назначение — баланс качества и вычислительной нагрузки.
- Открытый код — ключ к доверию и независимой оценке.
Стартап Ricursive Intelligence представил свою первую языковую модель — Ripple-65B Preview. Это плотная (dense) архитектура с 65 миллиардами параметров, то есть каждый параметр задействуется при обработке запроса, в отличие от разреженных моделей, которые активируют только часть параметров. Такой подход обычно дает более стабильное качество на задачах логики и рассуждений, но требует больше вычислительных ресурсов при инференсе.
Пока компания не раскрыла детальную спецификацию обучения и бенчмарки. Однако выбор 65 млрд параметров не случаен: это промежуточный размер между популярными 7–13 млрд (которые работают на локальном железе) и гигантскими моделями уровня 70+ млрд, которые требуют серьезных серверов. Ripple-65B, вероятно, нацелена на баланс между качеством и практической применимостью для исследователей и среднего бизнеса.
Интересно, что акроним Ripple может указывать на волновую (layer-wise) обработку информации — возможно, модель использует какие-то нестандартные механизмы внимания. Но без официальных документов и кода это пока только гипотезы. Открытый исходный код будет ключевым фактором для доверия сообщества и независимой оценки.
На данный момент неизвестно, когда выйдет полная версия и какое у неё будет лицензирование. Но появление еще одной плотной 65B-модели расширяет экосистему ИИ, давая разработчикам альтернативу популярным Llama и Mistral. Следим за развитием проекта.