Задачи:

  • Разрабатывать Python-сервисы для инференса LLM с FastAPI и vLLM через OpenAI-compatible API.
  • Интегрировать ML-компоненты в микросервисную архитектуру, включая асинхронные HTTP-клиенты и WebSocket.
  • Интегрироваться с внешними API, HR-системами и базами знаний.
  • Работать с промптами, системными инструкциями, few-shot и контекстом диалога.
  • Настраивать параметры генерации и инференса LLM.
  • Работать с векторными базами данных: поиск, reranking и score-boosting.
  • Собирать и оптимизировать Docker-образы для ML-сервисов.
  • Участвовать в код-ревью.

Требования:

  • От 2 лет коммерческой разработки на Python; высшее IT-, техническое или математическое образование либо эквивалентный практический опыт.
  • Уверенное знание Python: async/await, typing, ООП и структуры данных; опыт разработки REST API на FastAPI.
  • Продвинутый SQL, PostgreSQL и asyncpg.
  • Практический опыт работы с LLM через OpenAI API или совместимые решения (vLLM, TGI); понимание ограничений LLM и навыки prompt engineering.
  • Базовые знания Docker, CI/CD и GPU; уверенная работа с Git и опыт написания юнит-тестов.
  • Понимание паттернов для агентов ReAct, Plan-and-Execute и Agent-as-a-Judge, знакомство с LangChain, LangGraph, LlamaIndex или AutoGen.
  • Базовое понимание классического ML, метрик качества, валидации, предобработки данных и feature engineering.
  • Знание scikit-learn, pandas, numpy и matplotlib/seaborn.

Будет преимуществом: развертывание LLM через vLLM, знакомство с Kubernetes, опыт с Qdrant, Pinecone или Weaviate, работа с RAG-системами и оптимизация инференса.

Условия: удаленная работа по РФ, полный рабочий день с 9:00 до 18:00 по московскому времени.