••••••••• AI Firewall -  cпециализированный программный комплекс для обеспечения безопасности приложений на основе генеративного ИИ посредством централизованного контроля трафика и управления политиками безопасности. Firewall должен перехватывать входящие запросы и исходящие ответы, на лету проверять их на prompt-инъекции, скрывать конфиденциальные данные (PII), предотвращать утечки корпоративных секретов и блокировать токсичный контент, сохраняя при этом минимальную задержку для конечных пользователей.



Чем предстоит заниматься:

  • Проектирование и создание отказоустойчивого прокси-сервера на Go под k8s в разы быстрее с активным использованием AI-инструментов;
  • Потоковая фильтрация;
  • Интеграция систем классификации текста, регулярных выражений и векторного поиска для детекции угроз (Prompt Injection, Jailbreak, PII leaks);
  • Поддержка единого стандарта интерфейсов (OpenAI-совместимый эндпоинт), трансляция запросов в проприетарные форматы других LLM-провайдеров;
  • Оптимизация производительности;

Требования:
 

  • Опыт работы на Go от 3 -х лет;
  • Сетевое программирование: Экспертные знания HTTP/1.1, HTTP/2, gRPC. Практический опыт кастомизации http.ReverseProxy, работы с сетевыми сокетами и понимание архитектуры API Gateways;
  • Многопоточность: Глубокое понимание Goroutines, пакетов sync и context;
  • Оптимизация производительности: Умение работать с пулами объектов (sync.Pool), минимизировать выделение памяти при интенсивной работе со строками и JSON, профилирование через pprof и trace;
  • Инфраструктурный стек: Docker, Kubernetes
  • Способность читать, дебажить и рефакторить код, который написала нейросеть

Будет плюсом
 

  • Опыт разработки сетевых экранов (WAF), систем защиты от DDoS, API-шлюзов;
  • Понимание специфики уязвимостей больших языковых моделей (OWASP Top 10 for LLM);
  • Опыт работы с Go-библиотеками токенизации текста.