Команда отвечает за эффективное использование GPU в ключевых сервисах Яндекса. Нужен инженер по повышению отдачи от GPU-ресурсов.
Обязанности:
- Повышение эффективности утилизации GPU: формирование гипотез, исследование и внедрение решений, рекомендации и лучшие практики.
- Оптимизация и профилирование: поиск узких мест, работа с профилировщиками, оптимизация доступа к памяти, задержек и пропускной способности.
- Развитие инструментов диагностики для выявления и устранения инфраструктурных проблем, влияющих на эффективность и стабильность GPU-вычислений.
- Исследование и внедрение современных решений для организации инфраструктуры обучения и инференса.
- Анализ архитектуры, тестирование и интеграция, взаимодействие с разработчиками, ML-инженерами и системными архитекторами.
Требования:
- Знание Python и опыт системного программирования.
- Опыт работы с PyTorch.
- Оптимизация производительности GPU-приложений и повышение эффективности утилизации GPU.
- Опыт работы с GPU (NVIDIA) и CUDA.
- Применение подходов параллелизации для распределённого инференса или обучения.
Будет плюсом:
- Уверенное владение C/C++ или аналогичными низкоуровневыми языками.
- Опыт с библиотеками RL-обучения для LLM.
Условия и бонусы: корпоративные сообщества и другие внутренние бонусы.