Как Uber сократил расходы на ИИ: лимиты контекста и средний уровень рассуждений

Uber столкнулся с неожиданной проблемой: годовой бюджет на искусственный интеллект был исчерпан уже в первые месяцы 2026 года. Чтобы сдержать расходы, компания ввела жёсткие настройки для своих инструментов программирования с ИИ.

Как Uber сократил расходы на ИИ: лимиты контекста и средний уровень рассуждений
Как Uber сократил расходы на ИИ: лимиты контекста и средний уровень рассуждений

Главное

  • Uber сократил стоимость сессии на 52%, ограничив контекст и уровень рассуждений
  • Агенты получают «карту» компании из 200 млн узлов, а не весь контекст сразу
  • A/B-тесты настроек позволяют экспериментировать без участия инженеров
  • Кэш подсказок настроен по-разному для основного агента и подчинённых
  • Прямая загрузка MCP-инструментов заменена вызовом отдельных команд

Uber столкнулся с неожиданной проблемой: годовой бюджет на искусственный интеллект был исчерпан уже в первые месяцы 2026 года. Чтобы сдержать расходы, компания ввела жёсткие настройки для своих инструментов программирования с ИИ. Теперь при работе в Claude Code автоматическое сжатие контекста происходит на отметке 400 000 токенов, а уровень рассуждений модели по умолчанию установлен на средний, а не высокий. Эти меры позволили снизить стоимость за сессию на 52% по сравнению с пиком в июне.

Ключевая идея Uber — не пытаться загружать в модель всю информацию сразу. Вместо этого агенты получают «ментальную карту» компании — граф из почти 200 миллионов узлов и связей, описывающий сервисы, владельцев данных и исторические запросы. Агент сам решает, какие документы и код ему нужны, и обращается к ним по мере необходимости. Такой подход ускорил поиск нужной таблицы с 20 минут до 38 секунд в одном из тестов.

Uber также экспериментирует с настройками через A/B-тесты среди сотрудников. Например, кэш подсказок для основного агента хранится час, а для подчинённых — всего пять минут, так как они выполняют задачи быстрее. Описания MCP-инструментов не загружаются при старте, чтобы не тратить 50–70 тысяч токенов на контекст, — агенты вызывают отдельные команды по необходимости. Эти меры помогают удерживать расходы на одном уровне, даже когда количество запросов к агентам растёт в разы.