Мы активно развиваем направление генеративного ИИ в Финтехе. Создаём агентские системы и другие LLM-продукты для самых разных доменов: клиентской поддержки, комплаенса, ИИ-коммерции, операционной эффективности, инфраструктуры и т. д. Ищем инженера, который будет создавать и внедрять такие системы для внутренних и внешних пользователей.

Обязанности:

Разработка агентских систем
Вам предстоит заниматься разработкой полного цикла — от проектирования сценария и выбора архитектуры до деплоя, мониторинга и итераций по качеству. Нужно будет не просто написать промпт, а сделать работающий продукт с tool calling, fallback-логикой и измеримым результатом. RAG
Вы будете заниматься генерацией от этапа понимания, какие данные нужны пользователю, до пайплайна, который надёжно находит информацию и генерирует ответы, и системы оценки, которая это подтверждает. Инфраструктура и качество
Эта задача включает деплой и эксплуатацию LLM-моделей в банковском контуре, мониторинг и observability агентов, автоматизацию экспериментов и офлайн-оценок.
Больше об ML в Яндексе — в канале Yandex for ML

Ключевые навыки:

  • Строили RAG-системы, включая эксперименты, эксплуатацию, оценку качества, знаете много способов модификации стандартного RAG-пайплайна для улучшения его характеристик
  • Работали с vLLM или другими inference-движками, понимаете тонкости multi-GPU-параллелизации моделей
  • Умеете писать продакшн-код на Python: знаете, как написать код агента, обернуть его в сервис, умеете правильно использовать различные виды параллелизма и т. д.
  • Понимаете архитектуру LLM-приложений, современные подходы к созданию агентских систем
  • Уверенно владеете одним из фреймворков создания агентов: LangGraph или LangChain, Crew AI, Pydantic AI или аналогами
  • Понимаете, как оцениваются и измеряются системы на основе LLM, владеете инструментами observability
  • Знаете, как работать с Docker, Bash, Zsh
  • Активно используете ИИ в работе, понимаете область применения, возможности современных LLM-систем для написания кода и прочих помощников
  • Держите руку на пульсе разработок в области ИИ-агентов и LLM, пробуете новые подходы в своих рабочих или пет-проектах