Срок: до 31.12.2026 с возможной пролонгацией. Локация: РФ. Часовой пояс: МСК ±3 часа.

Требования:

  • Уверенный опыт работы с LLM/SLM, few-shot learning, prompt engineering и BERT для классификации сценариев и интентов.
  • Практический опыт fine-tuning LLM с PEFT, LoRA/QLoRA; умение отлаживать ответы моделей и улучшать их промптами, гиперпараметрами или дообучением.
  • Опыт дообучения и оптимизации TTS-моделей, работы и интеграции ASR-систем, в частности GigaAMv2.
  • Опыт работы с графовыми и сценарными диалоговыми движками и LLM-агентами.
  • Уверенное владение Python, PyTorch, Hugging Face и фреймворками инференса; знание Go.
  • Опыт оптимизации low-latency инференса: vLLM, TensorRT-LLM, Triton Inference Server, ONNX Runtime.
  • Практический опыт работы с потоковым аудио в реальном времени, streaming ASR/TTS и gRPC-контрактами.
  • В Go: базовое понимание дизайна сервисов, SOLID/DRY/KISS, типизации, указателей, синхронизации и конкурентности, горутин, каналов и observability. Будут плюсом gRPC, настройка инфраструктуры, Kubernetes/inventory и TCP.

Задачи:

  • Поэтапно переводить систему с графа сценариев и скиллов на управляемый LLM-based диалог.
  • Отлаживать голосовой пайплайн: диагностировать high latency, галлюцинации LLM, проблемы передачи аудио и ошибки графа.
  • Самостоятельно принимать архитектурные решения и реализовывать их в коде.
  • Поддерживать и отлаживать few-shot классификацию сценариев на базе Qwen и классификаторы на BERT; учитывать краевые случаи и исправлять ошибочные срабатывания интентов.
  • При необходимости дообучать локальные LLM для извлечения сущностей и удерживания инструкций.
  • Интегрировать и поддерживать ASR на базе GigaAMv2, отлаживать качество распознавания, VAD и передачу текста по пайплайну.
  • Дообучать и настраивать инференс собственных и open-source TTS-систем и систем клонирования голоса для достижения нужного качества звучания и скорости.