Как собрать агента поддержки: от одного файла до Temporal и саги

Агент поддержки, который возвращает деньги клиентам, начинается с простого скрипта, но быстро обрастает инфраструктурой. В демо он отвечает правильно, но при перезапуске процесса теряет историю диалога, а при падении воркера может дважды провести возврат.

Как собрать агента поддержки: от одного файла до Temporal и саги
Как собрать агента поддержки: от одного файла до Temporal и саги

Главное

  • Агент в одном процессе теряет всё при перезапуске — нужна база и Temporal.
  • Ретрай повторяет сбой, circuit breaker отключает упавший сервис.
  • Возврат денег — сага с точкой невозврата, крупные суммы одобряет оператор.
  • Роутер на маленькой модели экономит ресурсы на простых запросах.

Агент поддержки, который возвращает деньги клиентам, начинается с простого скрипта, но быстро обрастает инфраструктурой. В демо он отвечает правильно, но при перезапуске процесса теряет историю диалога, а при падении воркера может дважды провести возврат. Разбор показывает, как поэтапно превратить одностраничный код в надежную систему.

Первый шаг — отделить API от воркера и хранить историю в базе данных. API принимает сообщения и отвечает мгновенно, а воркер выполняет долгий цикл вызовов модели и инструментов. Это решает проблему потери диалога, но не защищает от сбоев в середине операции. Для этого нужен durable execution: Temporal записывает каждый шаг workflow, и после сбоя воркер продолжает с того же места, не повторяя выполненные действия.

Ключевые практики: ретраи отличаются от circuit breaker — первый повторяет временные сбои, второй отключает вызовы к упавшему сервису. Возврат денег — это сага с точкой невозврата, а крупные суммы требуют подтверждения оператора. Роутер на маленькой модели отправляет простые вопросы в один вызов, а сложные — агенту. Каждый компонент добавляется только тогда, когда возникает конкретная проблема, которую он решает.