Обязанности:
- Разработка ядра платформы на Python: сессии, ходы агента, политики заказчика и учёт; создание агентного цикла с бюджетом на ход.
- Перевод пользователей с пилотной архитектуры на целевую без остановки работы.
- Снижение стоимости хода за счёт управления входными данными, кэширования префикса, лимитов инструментов, маршрутизации моделей и учёта по пользователю и ходу.
- Оценка качества: эталонные наборы из реальных трасс, сравнение российских моделей и регрессионные проверки промптов, инструментов и моделей.
- Интеграция данных компании через MCP с правами пользователя: 1С, КХД, СЭД, HR; поиск по документам с ACL.
- Создание надёжных фоновых процедур и записи во внешние системы: расписания, подтверждение человеком, гарантия ровно одной записи.
- Создание песочницы для кода агента на сессию, без секретов и исходящих соединений.
- Руководство командой: декомпозиция, ревью, работа с ИИ-агентами для кода и найм; согласование требований и информационной безопасности с заказчиком.
Требования:
- Более 6 лет опыта; backend-разработка от 7 лет, из них от 2 лет в роли техлида или ведущего инженера, с ответственностью за production.
- Python в production: asyncio, FastAPI, Pydantic, типизация и тесты; умение читать и править Go.
- Опыт запуска LLM-агентов в production с реальными пользователями: tool calling, агентный цикл, ограничения и обработка ошибок.
- Понимание контекста и стоимости: вход вызова, кэширование префикса, сжатие истории, лимиты инструментов, расчёт стоимости хода по usage.
- Опыт с eval: эталонные наборы, LLM-судья и его проверка, регрессия и трассировка.
- Знание гибридного поиска, реранкинга, чанкинга и прав доступа к документам.
- Знание MCP, OAuth 2.0/OIDC и token exchange для работы агента от имени пользователя.
- Опыт с durable execution (Temporal, Restate или аналог), идемпотентностью и повторами.
- Знание PostgreSQL, Redis, S3, Docker, Kubernetes и GitLab CI.
- Опыт работы с открытыми моделями через OpenAI-совместимые API, LiteLLM или аналог.
- Высшее техническое образование.
Условия: полная занятость, график 5/2, удалённый или гибридный формат работы.