Мы развиваем платформу, которая помогает сотрудникам и командам VK использовать ИИ: получать доступ к современным моделям, подключать AI-ассистентов и ботов для код-ревью, выполнять разметку данных и массовые обкачки с использованием LLM. Мы делаем этот доступ удобным и надёжным, а расходы — прозрачными для пользователей и компании.
Ищем опытного Go-разработчика, который будет влиять на архитектуру платформы и самостоятельно вести задачи от обсуждения требований до запуска и проверки в production.
Над чем предстоит работать
На старте вы сосредоточитесь на проектах:
- LLM Proxy — корпоративная точка доступа к языковым моделям для сотрудников, внутренних сервисов и ботов. Прокси объединяет разных провайдеров, управляет доступом и квотами, учитывает потребление и стоимость запросов. Через него проходят как интерактивные запросы, так и массовые обращения для разметки и обкачки данных. Здесь важны надёжность интеграций, работа с потоковыми ответами и минимальные дополнительные задержки
- Self Portal — личный кабинет для сотрудников, руководителей, ресурсных менеджеров и финансистов. Он помогает планировать бюджеты, оформлять заявки на ключи и отслеживать расходы на ИИ. Следующий этап — упрощение получения подписок и интеграции с внешними провайдерами карт, телефонных номеров и почтовых сервисов
- Отдельное направление ближайшей работы — подготовка сервисов к требованиям корпоративного уровня надёжности: развитие отказоустойчивости, улучшение процесса развёртывания, безопасные релизы и корректное завершение запросов при остановке сервисов
Задачи
- Разрабатывать backend-сервисы на Go и развивать микросервисную архитектуру платформы: проектировать границы сервисов, API-контракты и взаимодействие между компонентами
- Подключать новые модели и провайдеров, адаптировать интеграции к изменениям API и форматов ответов
- Обеспечивать корректный учёт потребления и стоимости запросов при изменении тарифов и способов расчёта у провайдеров
- Повышать стабильность LLM Proxy и снижать задержки при передаче обычных и потоковых ответов
- Обеспечивать устойчивую обработку массовых запросов для разметки и обкачки данных: управлять параллелизмом, квотами и повторными попытками
- Развивать Self Portal: управление доступом, бюджетами, ключами и подписками, интеграции с внешними сервисами
- Вместе с заказчиками, продактами и вендорами уточнять требования и прорабатывать будущую функциональность
- Улучшать deploy flow, отказоустойчивость и graceful shutdown; развивать мониторинг, диагностировать и устранять причины сбоев
- Писать поддерживаемый код, проводить code review, покрывать изменения тестами и проверять работу функциональности после релиза
- Автоматизировать процессы для ускорения и улучшения качества выполнения услуг по предоставлению личных подписок на провайдеров и их компенсаций
Требования
- Уверенное владение Go, понимание конкурентности, управления контекстом и ресурсами
- Опыт проектирования, разработки и эксплуатации систем с микросервисной архитектурой: синхронное и асинхронное взаимодействие, таймауты, повторы, идемпотентность, частичные отказы и согласованность данных
- Хорошее понимание HTTP/HTTPS, REST, gRPC и работы долгоживущих соединений
- Опыт работы с PostgreSQL и Redis: проектирование схем, транзакции, индексы, оптимизация запросов, миграции и кеширование
- Опыт работы с Kafka, YT и S3-совместимыми объектными хранилищами
- Понимание аутентификации и авторизации, безопасного хранения ключей и разграничения доступа к данным
- Опыт автоматизированного тестирования, code review и работы с GitLab CI/CD, Docker и Linux
- Умение диагностировать проблемы по метрикам, логам и трассировкам, опыт работы с Grafana
- Опыт работы в корпоративной инфраструктуре с регламентированными релизными циклами
- Умение самостоятельно уточнять требования, декомпозировать задачи, обосновывать технические решения и их ограничения, отвечать за результат в production
Будет плюсом
- Владение Python
- Опыт интеграции LLM API и работы с потоковыми ответами
- Опыт работы с YDB
- Знакомство с MCP и интеграцией AI-инструментов с корпоративными и внешними сервисами
- Опыт развития отказоустойчивости сервисов и подготовки к требованиям по надёжности