LLMON: новый язык разметки для LLM в Granite 4.1 3B и 8B
IBM представила LLMON — язык разметки, предназначенный для улучшения взаимодействия больших языковых моделей (LLM) с внешними инструментами и структурированными данными. Он уже доступен в моделях Granite 4.1 с размерами 3B и 8B параметров.
Главное
- LLMON — язык разметки для LLM, улучшающий вызовы функций и работу с данными.
- Доступен в моделях Granite 4.1 3B и 8B от IBM.
- Снижает ошибки и упрощает интеграцию с API и базами данных.
- Интегрирован на уровне токенизации и обучения моделей.
- Проект open-source, реализация доступна на GitHub.
IBM представила LLMON — язык разметки, предназначенный для улучшения взаимодействия больших языковых моделей (LLM) с внешними инструментами и структурированными данными. Он уже доступен в моделях Granite 4.1 с размерами 3B и 8B параметров. LLMON позволяет моделям более точно и эффективно генерировать вызовы функций и обрабатывать сложные запросы, что особенно важно для приложений, требующих интеграции с API и базами данных.
Основная идея LLMON — предоставить моделям формальный, но гибкий синтаксис для описания действий и данных. Это снижает количество ошибок при генерации кода и упрощает разбор ответов модели. В отличие от традиционных подходов, LLMON ориентирован на нативные возможности LLM, что позволяет использовать его без дополнительных внешних парсеров или сложных промптов.
В Granite 4.1 LLMON интегрирован на уровне токенизации и обучения, что обеспечивает более стабильную работу моделей в задачах, связанных с инструментами. Разработчики могут использовать LLMON для создания более надёжных агентных систем, где модель должна планировать и выполнять последовательности действий. Тесты показывают улучшение точности и скорости выполнения задач по сравнению с предыдущими версиями моделей.
Проект является открытым, и разработчики могут изучить реализацию LLMON в репозитории на GitHub. Это позволяет сообществу адаптировать язык под свои задачи и вносить вклад в его развитие.