Работа над инфраструктурой крупного предприятия металлургической отрасли для ML/AI-нагрузок.
Задачи:
- Развёртывание и администрирование Kubernetes-кластеров на bare metal.
- Настройка и оптимизация Docker-контейнеризации.
- Разработка и поддержка GitLab CI/CD pipelines.
- Управление NVIDIA GPU и CUDA-инфраструктурой.
- Развёртывание и поддержка ML inference-сервисов.
- Настройка мониторинга.
- Работа с сетевыми сервисами, TLS и DNS.
- Управление Kubernetes-развёртываниями с помощью Helm и администрирование GitLab Container Registry.
Требования:
- Уверенное администрирование Linux (Ubuntu Server).
- Практический опыт работы с Docker и Kubernetes, включая Helm.
- Уверенное владение GitLab CI/CD и GitLab Container Registry.
- Опыт работы с NVIDIA GPU и CUDA, NVIDIA Container Toolkit и Kubernetes NVIDIA Device Plugin.
- Опыт настройки мониторинга Prometheus и Grafana.
- Понимание сетевых технологий, TLS и DNS.
Будет плюсом:
- Опыт эксплуатации GPU-серверов для AI/ML и развёртывания Kubernetes на bare metal.
- Опыт работы с vLLM, Ollama, Triton Inference Server, NVIDIA DCGM Exporter и Langfuse.
- Понимание CUDA, VRAM, tensor parallelism и особенностей GPU.
- Опыт подготовки инфраструктуры под требования GDPR и миграции приложений между облачной и локальной инфраструктурой.
Условия: полностью удалённая работа из РФ, полная занятость на долгосрочном проекте, ежемесячная оплата. Рассматриваются кандидаты с гражданством РФ. Требуется отразить весь обязательный технический опыт в резюме.