Обязанности:

  • Проводить аудиты безопасности ML/LLM-систем: инференс-сервисов, RAG-пайплайнов, агентов с доступом к инструментам, MCP-серверов, ML-платформ и их артефактов (моделей, датасетов, фичесторов).
  • Тестировать ИИ-системы на уязвимости: prompt injection, джейлбрейки, эксфильтрацию системных промптов и данных, злоупотребление tool calling, выход агента за границы разрешённого, отравление данных и моделей, атаки на цепочку поставки.
  • Развивать DAST для AI-эндпоинтов: создавать харнесс и сканер для LLM-интерфейсов, автоматизированные наборы атак и регрессионное тестирование моделей и защитных механизмов, встраивать проверки в CI/CD.
  • Проверять эффективность защитных механизмов и формировать обоснованные требования к ним.
  • Формировать стандарты безопасной разработки AI-сервисов: модели угроз, чек-листы ревью, требования к правам агентов, работе с секретами и изоляции окружений.
  • Разрабатывать автоматизацию и инструментарий на Python или Go, интегрировать его с ASOC, Jira, CI/CD и SIEM.
  • Около 20% времени участвовать в проектах команды по безопасности приложений.
  • Работать с командами ML-платформы, разработки и инфраструктурной безопасности.

Требования:

  • Знание уязвимостей веб-приложений и API (OWASP Top 10) на уровне, достаточном для их обнаружения и объяснения.
  • Понимание ML: обучения и валидации моделей, ML-пайплайна, хранения и сериализации весов, реестра моделей и инференса.
  • Практическое понимание LLM, инференса, RAG, агентных архитектур, tool calling; опыт работы с API моделей и промпт-инжинирингом.
  • Представление о специфических рисках AI-систем: prompt injection, отравлении данных и атаках на цепочку поставки моделей.
  • Базовое понимание ОС, сетей, контейнеров и Kubernetes.
  • Самостоятельность и готовность создавать методологии в области без устоявшихся практик.

Условия: удалённая работа; опыт 3–6 лет. Зарплата обсуждается на собеседовании.