AI Security Researcher (AI Red Teaming)

О проекте:

Международный проект в области AI Security, связанный с разработкой сред, которые помогают LLM-моделям проходить обучение с подкреплением для задач, связанных с кибербезопасностью.

Эти среды будут содержать задания в различных областях кибербезопасности (пентестинг, реагирование на инциденты, эксплуатация, вредоносное ПО и т.д.), при этом цель — создавать достаточно сложные задачи, чтобы модель допускала ошибки, но которые при этом остаются решаемыми для профессиональных специалистов.

Важно: это не классическая позиция Pentester или Red Team Engineer. Основная задача специалиста — создавать сложные, но реалистичные и проверяемые security-сценарии, в которых LLM-модели совершают ошибки именно из-за недостатков в рассуждении (reasoning), а не из-за неоднозначных инструкций или ограничений среды.

Чем предстоит заниматься:

• Проектировать security-сценарии для оценки и обучения LLM-моделей
• Создавать environments с использованием GitHub, Slack и других инструментов, встречающихся в реальной разработке
• Разрабатывать задачи, требующие сложного многошагового reasoning
• Моделировать реальные offensive security-сценарии (например, supply chain attacks, malicious pull requests, exploitation через GitHub Actions и другие современные техники)
• Проверять разработанные сценарии на нескольких frontier-моделях и анализировать причины их ошибок
• Формулировать ожидаемое поведение модели и описывать, почему конкретная ошибка считается reasoning failure
• Автоматизировать создание и проверку задач с использованием Python и других инструментов

Что мы ожидаем:

• 5+ лет практического опыта в Offensive Security, Application Security или Web Penetration Testing
• Глубокое понимание современных техник атак и поверхности атаки веб-приложений, API, GitHub, CI/CD и связанных экосистем