Мы в **Sber AI** ищем **Middle/Senior ML Engineer**.

**Коротко о нас:** мы – молодая команда, которая тесно работает с людьми, принимающими решения большого масштаба. Делаем проекты, влияющие на то, как устроены процессы в стране и разрабатываем стратегии развития ИИ. Параллельно занимаемся AI Journey – одной из самых больших AI-конференций в мире.

Обязанности

  • развёртывание и оптимизация локального инференса LLM: подбор моделей, квантизация, настройка производительности
  • оценка требований к GPU под нагрузку
  • построение и улучшение поиска по документам (RAG): эмбеддинги, гибридный поиск, реранкинг
  • дообучение моделей под задачи заказчика (LoRA, SFT)
  • настройка промптов, структурированного вывода и вызова инструментов для агентных сценариев
  • разработка агентного харнесса: цикл агента, управление контекстом и памятью, лимиты шагов, обработка ошибок инструментов, восстановление после сбоев
  • разработка MCP-серверов для доступа агентов к системам и данным заказчика: реестры, документооборот, базы знаний, внутренние API
  • настройка tool calling и структурированного вывода у локальных моделей.

Требования

  • опыт от 3 лет в ML/NLP, из них не менее года с LLM
  • PyTorch, Hugging Face (transformers, PEFT)
  • опыт локального инференса: vLLM, SGLang
  • квантизация на практике: AWQ, GPTQ, GGUF, понимание компромисса между качеством и скоростью
  • понимание устройства инференса: KV-cache, батчинг, latency и throughput, расчёт памяти
  • опыт написания собственного MCP-сервера
  • опыт построения RAG-систем
  • уверенный Python, Docker на рабочем уровне

Будет плюсом:

  • опыт fine-tuning с LoRA
  • работа с open-weight моделями (Qwen и аналоги) на русском языке
  • опыт агентных систем и tool calling.

Условия

  • комфортный современный офис рядом с м. Кутузовская
  • гибридный формат работы
  • ежегодный пересмотр зарплаты. Годовая премия
  • корпоративный спортзал и зоны отдыха
  • более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
  • программа адаптации и помощь руководителя на старте
  • расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
  • гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
  • подписка Прайм с возможностью совместного использования на трёх близких
  • вознаграждение за рекомендацию друзей в команду Сбера.