Мы используем LLM, VLM, классическое ML и еком-инфраструктуру Поиска. Сейчас мы активно развиваем существующие сценарии и запускаем новых агентов. Мы ищем человека, который сможет самостоятельно находить точки роста еком-агентов, превращать их в работающие решения и доводить задачи до продакшена. Почему у нас классно
* AI-driven-аналитика уже сегодня. Мы используем AI-агентов не только внутри продукта, но и в повседневной аналитической и инженерной работе. Значительная часть типовых задач уже автоматизирована, поэтому команда может больше времени уделять сложным продуктовым проблемам и запуску новых решений. * Работа над современным продуктом с прямым влиянием на пользователей. Мы создаём еком-сценарии на базе LLM и VLM, но оцениваем свою работу не по сложности технологии, а по результату в продакшене: насколько лучше агент помогает пользователю выбрать товар и приблизиться к покупке. * Динамичная среда. Еком-агенты — молодое и быстро развивающееся направление. Продукт и технологии быстро меняются, поэтому здесь можно за короткое время попробовать много разных задач, глубоко погрузиться в современные AI-подходы и заметно вырасти профессионально. * Небольшая команда и высокий уровень ответственности. У нас короткий путь от идеи до реализации. Каждый участник команды может заметно влиять на продуктовые приоритеты, метрики, аналитическую систему и технические решения. * Кросс-сервисный продукт. Еком-агенты используют технологии и данные разных сервисов Яндекса. Поэтому в работе много взаимодействия с продуктовыми, инженерными, ML- и аналитическими командами. Это позволяет развивать не только техническую экспертизу, но и коммуникационные и менеджерские навыки.

Обязанности:

Искать и реализовывать точки роста продукта
Вам предстоит разбираться, где и почему пользовательский сценарий работает недостаточно хорошо: агент не понял запрос, подобрал нерелевантные товары, не учёл важное ограничение, показал неподходящие предложения или не помог пользователю приблизиться к покупке. Нужно будет формулировать гипотезы, находить решения, проводить полный цикл экспериментов и доводить успешные изменения до продакшена. Мы ориентированы на практический результат: решения должны доходить до продакшена и заметно улучшать пользовательский опыт и продуктовые метрики. Развивать систему оценки качества еком-агентов
Вы будете проектировать и поддерживать автоматизированные eval-пайплайны, которые позволяют оценивать качество работы агентов: * создавать golden datasets для ключевых еком-сценариев; * формулировать критерии качества и инструкции для разметки; * строить пайплайны на основе LLM-as-a-judge; * автоматизировать разметку с помощью LLM; * организовывать и анализировать асессорскую разметку; * исследовать связь между офлайн-оценками, поведением пользователей и онлайн-метриками; * следить за тем, чтобы ответы агентов были полезными, точными и заслуживающими доверия. Работать с данными и моделями
Вам предстоит собирать датасеты, разбираться в логах пользовательских сценариев и событиях разных сервисов, решать проблемы качества данных и создавать воспроизводимые пайплайны обработки. В зависимости от задачи вы сможете использовать классические ML-модели, LLM, VLM и другие методы. Для нас важен не выбор технологии сам по себе, а измеримый результат для продукта. Развивать аналитическую систему
Вы будете поддерживать и развивать систему данных, на которой строится аналитика еком-агентов: витрины, метрики, документацию и инструменты для продуктовых исследований и экспериментов. Одно из важных направлений — делать хранилище понятным для AI-систем: развивать семантический контекст, метаданные, lineage, документацию и паттерны получения данных, необходимые агентам для корректной работы с аналитикой. Больше об аналитике в Яндексе — в канале Yandex for Analytics

Ключевые навыки:

  • Самостоятельно находили точки роста и улучшали продуктовые метрики
  • Уверенно владеете Python и SQL
  • Работали с большими объёмами событийных данных и логами разных сервисов
  • Работали с пайплайнами обработки данных и инструментами оркестрации, например Airflow
  • Умеете находить и исправлять проблемы качества данных
  • Понимаете принципы работы LLM-систем, AI-агентов и классического ML
  • Комфортно работаете с AI-assisted development tools и используете агентские coding-workflow, чтобы быстрее прототипировать и доводить решения до результата
  • Способны самостоятельно вести задачу от обнаружения проблемы и исследования данных до эксперимента, реализации и выкатки в продакшен
  • Автономны, проактивны, готовы отвечать за результат

Дополнительные требования:

  • Работали с A/B-экспериментами, LLM-as-a-judge, разметкой данных или оценкой качества генеративных моделей