Мы развиваем платформу, которая помогает сотрудникам и командам VK использовать ИИ: получать доступ к современным моделям, подключать AI-ассистентов и ботов для код-ревью, выполнять разметку данных и массовые обкачки с использованием LLM. Мы делаем этот доступ удобным и надёжным, а расходы — прозрачными для пользователей и компании.

Ищем опытного Go-разработчика, который будет влиять на архитектуру платформы и самостоятельно вести задачи от обсуждения требований до запуска и проверки в production.

Над чем предстоит работать

На старте вы сосредоточитесь на проектах:

  • LLM Proxy — корпоративная точка доступа к языковым моделям для сотрудников, внутренних сервисов и ботов. Прокси объединяет разных провайдеров, управляет доступом и квотами, учитывает потребление и стоимость запросов. Через него проходят как интерактивные запросы, так и массовые обращения для разметки и обкачки данных. Здесь важны надёжность интеграций, работа с потоковыми ответами и минимальные дополнительные задержки
  • Self Portal — личный кабинет для сотрудников, руководителей, ресурсных менеджеров и финансистов. Он помогает планировать бюджеты, оформлять заявки на ключи и отслеживать расходы на ИИ. Следующий этап — упрощение получения подписок и интеграции с внешними провайдерами карт, телефонных номеров и почтовых сервисов
  • Отдельное направление ближайшей работы — подготовка сервисов к требованиям корпоративного уровня надёжности: развитие отказоустойчивости, улучшение процесса развёртывания, безопасные релизы и корректное завершение запросов при остановке сервисов

Задачи

  • Разрабатывать backend-сервисы на Go и развивать микросервисную архитектуру платформы: проектировать границы сервисов, API-контракты и взаимодействие между компонентами
  • Подключать новые модели и провайдеров, адаптировать интеграции к изменениям API и форматов ответов
  • Обеспечивать корректный учёт потребления и стоимости запросов при изменении тарифов и способов расчёта у провайдеров
  • Повышать стабильность LLM Proxy и снижать задержки при передаче обычных и потоковых ответов
  • Обеспечивать устойчивую обработку массовых запросов для разметки и обкачки данных: управлять параллелизмом, квотами и повторными попытками
  • Развивать Self Portal: управление доступом, бюджетами, ключами и подписками, интеграции с внешними сервисами
  • Вместе с заказчиками, продактами и вендорами уточнять требования и прорабатывать будущую функциональность
  • Улучшать deploy flow, отказоустойчивость и graceful shutdown; развивать мониторинг, диагностировать и устранять причины сбоев
  • Писать поддерживаемый код, проводить code review, покрывать изменения тестами и проверять работу функциональности после релиза
  • Автоматизировать процессы для ускорения и улучшения качества выполнения услуг по предоставлению личных подписок на провайдеров и их компенсаций

Требования

  • Уверенное владение Go, понимание конкурентности, управления контекстом и ресурсами
  • Опыт проектирования, разработки и эксплуатации систем с микросервисной архитектурой: синхронное и асинхронное взаимодействие, таймауты, повторы, идемпотентность, частичные отказы и согласованность данных
  • Хорошее понимание HTTP/HTTPS, REST, gRPC и работы долгоживущих соединений
  • Опыт работы с PostgreSQL и Redis: проектирование схем, транзакции, индексы, оптимизация запросов, миграции и кеширование
  • Опыт работы с Kafka, YT и S3-совместимыми объектными хранилищами
  • Понимание аутентификации и авторизации, безопасного хранения ключей и разграничения доступа к данным
  • Опыт автоматизированного тестирования, code review и работы с GitLab CI/CD, Docker и Linux
  • Умение диагностировать проблемы по метрикам, логам и трассировкам, опыт работы с Grafana
  • Опыт работы в корпоративной инфраструктуре с регламентированными релизными циклами
  • Умение самостоятельно уточнять требования, декомпозировать задачи, обосновывать технические решения и их ограничения, отвечать за результат в production

Будет плюсом

  • Владение Python
  • Опыт интеграции LLM API и работы с потоковыми ответами
  • Опыт работы с YDB
  • Знакомство с MCP и интеграцией AI-инструментов с корпоративными и внешними сервисами
  • Опыт развития отказоустойчивости сервисов и подготовки к требованиям по надёжности