Название: AI Red Team Engineer
Компания: White Circle
Местоположение: Global / Remote
TL;DR: Мы ищем инженера AI Red Team, который будет ответственно взламывать системы на базе LLM, автоматизировать повторяющиеся атаки и превращать свои находки в четкие доказательства, которые используются в демо-версиях для клиентов, обзорах безопасности и продажах. Вы будете полностью отвечать за тестирование на проникновение: находить уязвимости, доказывать их, автоматизировать и описывать.
О нас
White Circle — компания, специализирующаяся на безопасности ИИ, создающая слой безопасности, надежности и оптимизации для систем ИИ. В основе нашей платформы лежат политики — простые правила на естественном языке, определяющие, что модель ИИ должна и не должна делать. Мы автоматически тестируем, применяем и постоянно улучшаем эти политики в масштабе.
- Мы недавно привлекли раунд финансирования Серии A, увеличив общее финансирование до 70 миллионов долларов. Среди наших инвесторов — ведущие фонды, основатели и старшие руководители OpenAI, Anthropic, HuggingFace, Mistral, DeepMind, Datadog, Sentry и других.
- Ежемесячно мы обрабатываем более ста миллионов вызовов API.
- Мы дообучаем и тренируем собственные LLM, чтобы они работали быстрее и дешевле любых открытых или проприетарных моделей.
Мы — небольшая, высоко сфокусированная команда. Если вы хотите глубоко работать над сложными проблемами, видеть, как ваша работа быстро внедряется в производство, и влиять на то, как фактически строится безопасность ИИ — вы тот, кто нам нужен.
Что вы будете делать
- Ред-тестинг систем на базе LLM: чат-ботов, копайлотов, RAG-пайплайнов, ИИ-агентов, рабочих процессов вызова инструментов и продуктов на базе API.
- Тестирование на наличие джейлбрейков, инъекций промптов, утечек системных промптов и инструментов, утечек конфиденциальных данных и контекста, небезопасных выходных данных, обхода политик, злоупотребления инструментами, чрезмерной самостоятельности, злоупотребления ресурсами и стоимостью токенов, а также злоупотребления бизнес-логикой.
- Написание легковесного Python-кода для автоматизации атак, запуска наборов промптов, вызова API моделей, сбора и оценки ответов, а также генерации повторяемых отчетов.
- Создание и поддержка внутренней библиотеки атак: промптов, сценариев, тестовых случаев, регрессионных тестов, систем оценки и многоразовых демо-кейсов.
- Превращение сбоев моделей в четкие отчеты: что произошло, почему это важно, как это воспроизвести, насколько это серьезно и как это исправить.
- Преобразование успешных атак в регрессионные тесты и требования к продукту.
- Отслеживание новых техник ред-тестинга и безопасности и внедрение полезных в наши тесты.
- Поддержка GTM путем создания убедительных, заслуживающих доверия доказательств для демонстраций клиентам, обзоров безопасности и разговоров о продажах.
Вы отлично впишетесь, если
- Вам искренне нравится ломать системы и рассуждать с точки зрения противника.
- У вас есть опыт в QA Automation, AppSec, тестировании API/безопасности/пентестинге или баг-баунти.
- У вас есть сильные навыки написания скриптов на Python.
- У вас есть опыт тестирования API, веб-приложений, бэкендов или SaaS-продуктов.
- Вы знакомы с LLM, промптами, системными инструкциями, RAG, агентами, вызовом инструментов/функций.
- Вы понимаете специфические для LLM векторы злоупотребления (инъекции промптов, джейлбрейки, утечка данных, злоупотребление инструментами, чрезмерная самостоятельность, исчерпание стоимости токенов).
- Вы можете находить обходные пути, использовать граничные случаи, связывать сбои и рассуждать о реальном влиянии.
- Вы можете отличить реальный риск для клиента от малозначимых трюков с промптами.
- Вы пишете четкие, воспроизводимые отчеты об ошибках на понятном английском языке.
- Вы можете быстро двигаться без идеальных требований.
- Вы придерживаетесь твердой этической линии: вы проводите ред-тестинг, чтобы сделать системы безопаснее, действуете в рамках своих полномочий и закона, и не создаете и не распространяете действительно вредоносные материалы.
Большой плюс
- Опыт работы с Burp Suite, Postman, Playwright, pytest.
- Опыт автоматизированного ред-тестинга современных LLM-агентов и пайплайнов.
- Знакомство с LangChain, LangGraph, LlamaIndex, RAG-пайплайнами, ИИ-агентами, вызовом инструментов/функций и оценкой LLM-as-a-judge.
- Знакомство с OWASP LLM Top 10, OWASP Web Top 10, MITRE ATLAS или другими таксономиями безопасности ИИ.
- Опыт тестирования RAG-систем, ИИ-агентов, рабочих процессов вызова инструментов, браузерных агентов или внутренних копайлотов.
- Опыт написания отчетов по безопасности для клиентов.
- Опыт работы в области доверия и безопасности, предотвращения злоупотреблений, борьбы с мошенничеством, модерации или безопасности платформ.
- Опыт создания конвейеров оценки (eval pipelines), регрессионных наборов, панелей мониторинга или тестов безопасности, совместимых с CI.
- Опыт участия в CTF, соревнованиях по ред-тестингу или программах ответственного раскрытия / баг-баунти.
Компенсация и льготы
- Конкурентоспособный пакет вознаграждения, включая опционы.
- Гибкий график отпусков.
- Уроки языка для улучшения вашего английского или французского.
- Поддержка в обучении и развитии для курсов, конференций и возможностей для роста ваших навыков.
- Все необходимое оборудование, подписки, инструменты и услуги.
- Два раза в год выездные мероприятия команды: недавно мы были в Альпах, Сен-Тропе и Марбелье.
Процесс
- Вводный звонок с командой по подбору персонала.
- Тестовое задание.
- Техническое интервью.
- Финальный звонок с CEO.
