Ozon

Lead Information Security Engineer

Moscow, Russia2 days ago

Details

Grade

Lead

Experience

3-6 years

Work format

Remote

A cover letter for this job

An email or a Telegram message to the recruiter

About the role

Hi! This is the platform security team.

We are looking for an engineer who will participate in the security of systems based on artificial intelligence. The company is rapidly growing the number of ML and LLM services: inference, RAG pipelines, assistants, agents with access to internal tools.

Responsibilities

You will need to conduct audits of all these solutions, participate in the design of architecture and secure access for systems with LLM/ML.

You will

Conduct security audits of ML/LLM systems: inference services, RAG pipelines, agents with access to tools, MCP servers, ML platform and its artifacts (models, datasets, feature stores)
Break AI-based systems: direct and indirect prompt injection, jailbreaks, exfiltration of system prompts and data, abuse of tool calling, agent exceeding boundaries, data and model poisoning, supply chain attacks (weights, pickle, custom operators, third-party models)
Develop DAST for AI endpoints: harness and scanner for LLM interfaces, automated attack sets, regression testing of models and protective mechanisms, embedding checks in CI/CD
Verify the effectiveness of protective mechanisms (entry and exit guards, filters, limits, isolation of tools and data) and formulate substantiated requirements for them
Develop standards for secure development of AI services: threat models, review checklists, requirements for agent permissions, handling secrets, and environment isolation
Develop automation and tools in Python or Go, integrate it with existing systems (ASOC, Jira, CI/CD, SIEM)
Participate (about 20% of the time) in application security team projects
Work in close contact with the ML platform, development, and infrastructure security teams

Requirements

Experience: 3 to 6 years Key skills: Information Security, Information Security, OWASP Top 10, SSDLC

Knowledge of common web application and API vulnerabilities (OWASP Top 10) to a degree sufficient to find and explain them
Understanding of ML in general: how models are trained, validated, and deployed, what an ML pipeline consists of (data, training, weight storage and serialization, model registry, inference)
Practical understanding of LLM: inference, RAG, agent architectures, tool calling, experience with model APIs and prompt engineering
Awareness of specific risks of AI systems: prompt injection, data poisoning, model supply chain attacks
Basic understanding of OS, networks, containers, and Kubernetes
Independence and readiness to work in an area without established methodologies and to create them

Nice to have

Experience in ML development or MLOps
Experience with inference stack (Triton, vLLM, TGI), MLflow or Kubeflow, model registries
Commercial experience in penetration testing or application security audits
Familiarity with MCP and agent system frameworks (LangGraph, LangChain, CrewAI, and similar)
Experience developing guards and filters for LLM traffic
Public research, CVEs, presentations, participation in AI red teaming or LLM bug bounty programs

Benefits

Location: Moscow

Company: Ozon Location: Москва Experience: От 3 до 6 лет Key skills: Информационная безопасность, Information Security, OWASP Top 10, SSDLC

Привет! Это команда безопасности платформы.

Мы ищем инженера, который будет участвовать в направление безопасности систем на базе искусственного интеллекта. В компании быстро растёт число ML- и LLM-сервисов: инференс, RAG-пайплайны, ассистенты, агенты с доступом к внутренним инструментам. Вам будет необходимо проводить аудиты всех этих решений, участвовать в проектировании архитектуры и безопасного доступа для систем с LLM/ML.

Вы будете

Проводить аудиты безопасности ML/LLM-систем: инференс-сервисы, RAG-пайплайны, агенты с доступом к инструментам, MCP-серверы, ML-платформа и её артефакты (модели, датасеты, фичестор).
Ломать системы на базе ИИ: прямой и косвенный prompt injection, джейлбрейки, эксфильтрация системных промптов и данных, злоупотребление tool calling, выход агента за границы разрешённого, отравление данных и моделей, атаки на цепочку поставки (веса, pickle, кастомные операторы, сторонние модели).
Развивать DAST под AI-эндпоинты: харнесс и сканер для LLM-интерфейсов, автоматизированные наборы атак, регрессионное тестирование моделей и защитных механизмов, встраивание проверок в CI/CD.
Проверять эффективность защитных механизмов (гарды входа и выхода, фильтры, лимиты, изоляция инструментов и данных) и формировать обоснованные требования к ним.
Формировать стандарты безопасной разработки AI-сервисов: модели угроз, чек-листы ревью, требования к правам агентов, работе с секретами и изоляции окружений.
Разрабатывать автоматизацию и инструментарий на Python или Go, интегрировать его с существующими системами (ASOC, Jira, CI/CD, SIEM).
Участвовать (около 20% времени) в проектах команды по безопасности приложений.
Работать в тесном контакте с командами ML-платформы, разработки и инфраструктурной безопасности.

Нам важно

Знание основных уязвимостей веб-приложений и API (OWASP Top 10) на уровне, достаточном, чтобы находить и объяснять их.
Понимание ML в целом: как модели обучаются, валидируются и попадают в прод, из чего состоит ML-пайплайн (данные, обучение, хранение и сериализация весов, реестр моделей, инференс).
Практическое понимание LLM: инференс, RAG, агентные архитектуры, tool calling, опыт работы с API моделей и промпт-инжинирингом.
Представление о специфических рисках AI-систем: prompt injection, отравление данных, атаки на цепочку поставки моделей.
Базовое понимание ОС, сетей, контейнеров и Kubernetes.
Самостоятельность и готовность работать в области без устоявшихся методологий и создавать их.

Будет плюсом

Опыт в ML-разработке или MLOps.
Опыт с инференс-стеком (Triton, vLLM, TGI), MLflow или Kubeflow, реестрами моделей.
Коммерческий опыт пентестов или аудитов безопасности приложений.
Знакомство с MCP и фреймворками агентных систем (LangGraph, LangChain, CrewAI и аналоги).
Опыт разработки гардов и фильтров для LLM-трафика.
Публичные исследования, CVE, доклады, участие в AI red teaming или в программах bug bounty по LLM.