Чем предстоит заниматься:
- Разрабатывать LLM-сервисы и ИИ-агентов на Python с использованием FastAPI.
- Строить RAG-контур для базы знаний: регламенты, учётная политика, векторный поиск и ответы строго по источникам.
- Подключать LLM к внутренним сервисам: 1С, базам данных, n8n и AnythingLLM.
- Доводить сервисы до продакшена: API, обработка ошибок, безопасность и наблюдаемость.
- Поддерживать агентов, обновлять их после смены модели или промпта, устранять инциденты и откатывать версии.
- Следить за развитием LLM и агентов и предлагать применимые решения.
Требования:
- Уверенное владение Python, типизация, async/await, ООП, unit-тесты и Git.
- Коммерческий опыт от 1 года или сильные пет-проекты; оценивают по коду.
- Опыт вызова LLM через OpenAI-совместимые API, промптинг, structured output и tool calling.
- Понимание ограничений LLM: галлюцинации, недетерминизм, стоимость и латентность.
- Понимание агентного цикла и случаев, когда достаточно простого пайплайна.
- Базовые знания FastAPI или аналогичного фреймворка и SQL.
Будет плюсом:
- Опыт с RAG: embeddings, векторные хранилища (pgvector, Qdrant, FAISS), chunking и faithfulness.
- Наблюдаемость и трассировка запросов: Langfuse, Phoenix или OpenTelemetry.
- Evals и регрессионные проверки при смене промпта или модели.
- MCP, безопасность финансовых данных, Docker, CI/CD и Linux.
- Локальные или self-hosted модели (Ollama, vLLM); основная платформа — Cloud.ru.
- Знание n8n, AnythingLLM, 1С, финансов или бухгалтерии.
Условия: полная занятость, график 5/2. Формат работы — гибрид или офис в Челябинске.