Обязанности:
- Проектировать и разрабатывать LLM-сервисы и API (REST/gRPC) для интеграции с внешними системами.
- Создавать и оптимизировать RAG-пайплайны и системы гибридного поиска.
- Проектировать и разрабатывать agentic workflows и мультиагентные системы.
- Интегрировать LLM-провайдеров и модели, оптимизировать промпты и маршрутизацию LLM-вызовов.
- Внедрять observability и evaluation для LLM-систем: tracing, оценку качества ответов, анализ стоимости и latency.
- Обеспечивать безопасность API с помощью OAuth2 и JWT, документировать API с использованием OpenAPI/Swagger.
Требования:
- Коммерческий опыт разработки на Python от 3 лет, включая от 1 года в LLM/RAG-проектах.
- Опыт работы с pandas, Polars, NumPy или аналогами.
- Глубокое понимание LLM, архитектуры RAG и prompt engineering.
- Понимание проектирования agentic-систем: инструменты, state management, orchestration, контроль выполнения, обработка ошибок, human-in-the-loop и ограничения автономности.
- Умение оценивать стоимость, latency и масштабируемость LLM-решений.
- Опыт работы с PostgreSQL, проектирования схем данных и оптимизации SQL-запросов.
- Опыт работы хотя бы с одной векторной БД: pgvector, Qdrant, Weaviate, Pinecone или аналогами.
Будет плюсом: опыт с LangChain/LangGraph, Airflow, MLflow, Kafka, Kubernetes, Prometheus, Grafana, Copilot, Claude Code, Cursor и MCP; настройка ИИ-инструментов под задачи; понимание ограничений генеративных моделей и ответственности за сгенерированный код.
Условия: полная занятость, график 5/2, удалённый формат.