Как стартап Octen ускоряет поиск для ИИ-агентов до 10 миллисекунд
Стартап Octen, основанный бывшим инженером Alibaba, представил сервис поиска для ИИ-агентов, который находит веб-страницы в среднем за 10 миллисекунд. Это стало возможным благодаря модели Pulse, использующей генеративный поиск: вместо традиционного перебора индекса модель сразу…
Главное
- Pulse находит страницы за 10 мс на сервере, но полный ответ занимает больше.
- Генеративный поиск быстрее на популярных страницах, но слабее на редких.
- Octen дешевле конкурентов: $9 за 1000 задач против $42 у Exa.
- Агенты получают исходные данные, а не готовые сводки, что снижает ошибки.
Стартап Octen, основанный бывшим инженером Alibaba, представил сервис поиска для ИИ-агентов, который находит веб-страницы в среднем за 10 миллисекунд. Это стало возможным благодаря модели Pulse, использующей генеративный поиск: вместо традиционного перебора индекса модель сразу генерирует идентификатор нужной страницы. Для разработчиков, создающих ассистентов, которые постоянно обращаются к внешним данным, это снижает задержки и стоимость каждого запроса, позволяя агентам проверять больше источников.
Важно понимать, что 10 миллисекунд — это время обработки на сервере, а не полный путь от приложения до готового ответа. Также у модели есть ограничения: она показывает лучшие результаты на популярных страницах, уступая традиционным методам на редких. Для предприятий ключевой вопрос — не просто скорость, а стоимость приемлемого ответа: дешёвый запрос теряет смысл, если он не даёт нужных доказательств.
Octen делает ставку на то, что агенты должны получать исходный материал, а не готовые сводки, чтобы избежать ошибок при обобщении. Компания уже привлекла более 5000 разработчиков и инвесторов в лице Square Peg и Argor. Независимые тесты показывают, что Octen быстрее и дешевле конкурентов по общим задачам, хотя уступает им в качестве ответов. Это нишевое решение для сценариев, где важна скорость навигации по известным ресурсам.