Ищут LLM / ML Engineer с практическим опытом обучения языковых моделей с нуля: специализированных моделей на 1–10 млрд параметров. Направления: разработка ПО, понимание сложных русскоязычных текстов и function calling. Проекты для заказчиков под NDA.
Задачи:
- Подготавливать данные и выстраивать пайплайны обучения.
- Проводить эксперименты с архитектурами, методами и режимами обучения.
- Обучать модели с нуля и адаптировать их под целевые задачи.
- Оценивать качество моделей, анализировать ошибки и улучшать результаты.
Ожидания:
- Практический опыт обучения языковых моделей — от подготовки данных до оценки результата.
- Опыт аналогичных проектов либо адаптации готовых моделей методами, выходящими за рамки SFT.
- Уверенное владение Python и PyTorch.
- Понимание принципов обучения трансформеров и опыт работы с GPU.
Будет плюсом: опыт распределённого обучения, оптимизации памяти и скорости обучения, работы с моделями для кода и вызова инструментов.