LLMON: новый язык разметки для LLM в Granite 4.1 3B и 8B

IBM представила LLMON — язык разметки, предназначенный для улучшения взаимодействия больших языковых моделей (LLM) с внешними инструментами и структурированными данными. Он уже доступен в моделях Granite 4.1 с размерами 3B и 8B параметров.

LLMON: новый язык разметки для LLM в Granite 4.1 3B и 8B
LLMON: новый язык разметки для LLM в Granite 4.1 3B и 8B

Главное

  • LLMON — язык разметки для LLM, улучшающий вызовы функций и работу с данными.
  • Доступен в моделях Granite 4.1 3B и 8B от IBM.
  • Снижает ошибки и упрощает интеграцию с API и базами данных.
  • Интегрирован на уровне токенизации и обучения моделей.
  • Проект open-source, реализация доступна на GitHub.

IBM представила LLMON — язык разметки, предназначенный для улучшения взаимодействия больших языковых моделей (LLM) с внешними инструментами и структурированными данными. Он уже доступен в моделях Granite 4.1 с размерами 3B и 8B параметров. LLMON позволяет моделям более точно и эффективно генерировать вызовы функций и обрабатывать сложные запросы, что особенно важно для приложений, требующих интеграции с API и базами данных.

Основная идея LLMON — предоставить моделям формальный, но гибкий синтаксис для описания действий и данных. Это снижает количество ошибок при генерации кода и упрощает разбор ответов модели. В отличие от традиционных подходов, LLMON ориентирован на нативные возможности LLM, что позволяет использовать его без дополнительных внешних парсеров или сложных промптов.

В Granite 4.1 LLMON интегрирован на уровне токенизации и обучения, что обеспечивает более стабильную работу моделей в задачах, связанных с инструментами. Разработчики могут использовать LLMON для создания более надёжных агентных систем, где модель должна планировать и выполнять последовательности действий. Тесты показывают улучшение точности и скорости выполнения задач по сравнению с предыдущими версиями моделей.

Проект является открытым, и разработчики могут изучить реализацию LLMON в репозитории на GitHub. Это позволяет сообществу адаптировать язык под свои задачи и вносить вклад в его развитие.