Проект в сфере телекоммуникаций. Удалённая работа, полная занятость.

Задачи:

  • Поэтапно переводить систему с графа сценариев и скиллов на управляемый LLM-based диалог.
  • Отлаживать голосовой пайплайн: искать причины высокой задержки, галлюцинаций LLM, проблем с передачей аудио и ошибок графа.
  • Самостоятельно принимать архитектурные решения и реализовывать их в коде.
  • Поддерживать и отлаживать few-shot классификацию сценариев на базе Qwen и классификаторы на BERT, учитывать краевые случаи и исправлять ошибочные срабатывания интентов.
  • При необходимости дообучать локальные LLM для извлечения сущностей и удерживания инструкций.
  • Интегрировать и поддерживать ASR на базе GigaAMv2, отлаживать качество распознавания, VAD и передачу текста по пайплайну.
  • Дообучать и настраивать инференс собственных и open-source TTS-систем и систем клонирования голоса для достижения нужного качества звучания и скорости работы.

Требования:

  • Экспертиза в NLP и LLM/SLM: Few-shot learning, prompt engineering, BERT для классификации сценариев и интентов.
  • Практический опыт fine-tuning LLM с PEFT, LoRA или QLoRA, а также отладки поведения LLM.
  • Опыт дообучения и оптимизации TTS-моделей, работы и интеграции ASR-систем, в частности GigaAMv2.
  • Опыт работы с графовыми и сценарными диалоговыми движками и LLM-агентами, диагностики проблем инференса и локализации багов.
  • Уверенное владение Python, PyTorch, Hugging Face и фреймворками инференса, а также Go.
  • Опыт оптимизации low-latency инференса с vLLM, TensorRT-LLM, Triton Inference Server или ONNX Runtime.
  • Практический опыт работы с потоковым аудио в реальном времени, streaming ASR/TTS и gRPC-контрактами.
  • Базовое понимание дизайна сервисов, SOLID, DRY и KISS; базовые типы Go, горутины, каналы, примитивы синхронизации и указатели.
  • Опыт работы с observability.

Будет плюсом: опыт работы с gRPC, настройки инфраструктуры и Kubernetes/inventory, знания TCP.