Разработка AI-платформы компании.

Задачи:

  • Разрабатывать Python-сервисы для инференса LLM на FastAPI и vLLM через OpenAI-compatible API.
  • Интегрировать ML-компоненты в микросервисную архитектуру с использованием асинхронных HTTP-клиентов и WebSocket.
  • Интегрировать внешние API, включая HR-системы и базы знаний.
  • Работать с промптами, параметрами генерации и инференса LLM.
  • Работать с векторными базами данных: поиск, reranking и score-boosting.
  • Собирать и оптимизировать Docker-образы для ML-сервисов, участвовать в код-ревью.

Требования:

  • От 2 лет коммерческой разработки на Python; высшее IT-, техническое или математическое образование либо эквивалентный практический опыт.
  • Уверенное знание Python, включая async/await, typing, ООП и структуры данных; опыт разработки REST API на FastAPI.
  • Продвинутый SQL, PostgreSQL и asyncpg.
  • Практический опыт работы с LLM и OpenAI API или совместимыми решениями, понимание ограничений LLM и навыки prompt engineering.
  • Опыт работы с Docker, Git, юнит-тестами и базовое понимание CI/CD и GPU.
  • Понимание паттернов разработки агентов и знакомство с соответствующими фреймворками.
  • Базовое понимание классического ML, метрик качества, валидации моделей, предобработки данных и feature engineering.
  • Знание scikit-learn, pandas, numpy и matplotlib или seaborn.

Будет преимуществом: развертывание LLM через vLLM, Kubernetes, векторные базы данных, RAG-системы и оптимизация инференса.

Условия: удаленная работа с 9:00 до 18:00 по московскому времени, полная занятость.