AI Agent Security Architect

Вознаграждение: $230 - $350 в год

Replit — это платформа для создания программного обеспечения на основе агентов, которая позволяет любому желающему создавать приложения с использованием естественного языка. Имея миллионы пользователей по всему миру, Replit демократизирует разработку программного обеспечения, устраняя традиционные барьеры для создания приложений.

О роли

Мы ищем архитектора безопасности AI-агентов, который будет выступать в качестве основного технического руководителя по разработке безопасной архитектуры автономных AI-агентов Replit. На этой критически важной должности вы будете проектировать, внедрять и поддерживать системы защиты во время выполнения, фреймворки защитных механизмов и архитектуры песочниц, которые управляют AI-агентами, выполняющими код, вызывающими инструменты и рассуждающими на нашей платформе. Вы станете ключевым техническим специалистом, возглавляющим влиятельные инициативы в области безопасности ИИ и устраняющим разрыв между недетерминированным поведением ИИ и строгими мерами кибербезопасности как для инженерного, так и для исполнительного руководства.

Что вы будете делать:

• Стратегия безопасности AI-агентов и техническая реализация

• Архитектура безопасности AI-агентов: определяйте долгосрочное видение и архитектурные шаблоны для защиты рабочих процессов автономных агентов, интеграций протокола контекста модели (MCP), циклов многоэтапного рассуждения и многоагентной координации.

• Защитные механизмы во время выполнения и принудительное применение политик: проектируйте и развертывайте динамические системы защитных механизмов ввода/вывода, семантические межсетевые экраны и фильтры проверки намерений в реальном времени для предотвращения перехвата целей, утечек системных подсказок и косвенных инъекций подсказок.

• Выполнение агента и песочница для инструментов: сотрудничайте с командами инфраструктуры и AppSec для проектирования безопасных, краткоживущих, микроизолированных сред (например, microVM, WebAssembly, контейнерные песочницы), где агенты могут динамически выполнять код, запускать команды оболочки и безопасно взаимодействовать с хост-операционными системами.

• Моделирование угроз для агентов и Red Teaming: проводите специализированное моделирование угроз для недетерминированных систем. Руководите инициативами по автоматизированному и ручному тестированию безопасности AI (red teaming) для выявления уязвимостей в конвейерах контекста RAG, векторных хранилищах и интерфейсах вызова инструментов.

• Идентификация, делегирование и принцип наименьших привилегий: проектируйте детальные модели разрешений и шаблоны авторизации с участием человека (Human-in-the-Loop, HITL) для агентов, действующих от имени пользователей — гарантируя, что агенты никогда не превышают делегированных привилегий конечного пользователя и не злоупотребляют ключами API.

• Безопасность контекста и памяти: проектируйте строгие средства изоляции данных и предотвращения отравления для векторных баз данных, конвейеров RAG (Retrieval-Augmented Generation) и долгосрочной памяти диалогов в многопользовательских рабочих нагрузках.

• Управление рисками и кросс-функциональное взаимодействие

• Поддержание единого источника достоверной информации по безопасности ИИ: определяйте, документируйте и поддерживайте авторитетные шаблоны безопасного проектирования и SDK для инженерных команд, создающих внутренние или клиентские возможности AI-агентов.

• Вклад в реестр рисков: выявляйте, количественно оценивайте и документируйте недетерминированные и агентские риски безопасности (например, OWASP Top 10 для LLM и AI-агентов, MITRE ATLAS), обеспечивая их точное представление в реестре рисков кибербезопасности.

• Аудируемость и наблюдаемость: проектируйте неизменяемые стандарты ведения журналов и телеметрии для цепочек рассуждений агентов, истории выполнения инструментов и сборки контекста для поддержки реагирования на инциденты, криминалистики и требований GRC.

• Соответствие требованиям и поддержка продаж: сотрудничайте с GRC для преобразования сложных мер безопасности ИИ в готовую для предприятий аудиторскую документацию (например, ISO 42001, NIST AI RMF, готовность к EU AI Act) и оказывайте поддержку отделу продаж в сложных запросах корпоративной безопасности, касающихся безопасности ИИ.

Требуемые навыки и опыт:

• Опыт работы в области безопасности инженерии или архитектуры безопасности более 6 лет, из них не менее 2 лет непосредственно в области безопасности AI/ML, безопасности LLM-приложений или защиты агентских фреймворков.

• Глубокое понимание агентских архитектур и протоколов (например, Model Context Protocol (MCP), LangChain, AutoGen, CrewAI, фреймворки ReAct и технологии векторных баз данных).

• Практический опыт работы с векторами угроз, уникальными для агентского ИИ: косвенные инъекции подсказок, перехват целей, подмена параметров инструментов, отравление данных и загрязнение контекста.

• Богатый опыт применения стандартов безопасности и фреймворков управления рисками, таких как OWASP Top 10 для LLM и AI-агентов, NIST AI RMF и MITRE ATLAS.

• Опыт работы с Python, Go или TypeScript/JavaScript с подтвержденным опытом анализа кода и создания функциональных инструментов безопасности или защитных механизмов.

• Опыт написания, поддержания и продвижения технической документации по архитектуре безопасности.

• Исключительная способность доносить сложные недетерминированные риски ИИ как до глубоко технических инженеров, так и до руководителей.

• Подтвержденный опыт внесения вклада в корпоративный реестр рисков кибербезопасности.

Дополнительные квалификации:

• Опыт проектирования технологий песочниц и изоляции во время выполнения (например, Firecracker, gVisor, Docker, WebAssembly) для сред динамического выполнения кода.

Полный рабочий день включает:

💰 Конкурентная заработная плата и опционы

💹 Программа 401(k) с 4% соответствием (только в США)

⚕️ Медицинское страхование, стоматологическое страхование, страхование зрения и страхование жизни

🩼 Краткосрочная и долгосрочная нетрудоспособность

🚼 Оплачиваемый отпуск по уходу за ребенком, медицинский отпуск, отпуск по уходу за родственником

🏝 Гибкий график отпусков (FTO) + праздники

🚗 Транспортные льготы (в офисе и только в США)

📱 Ежемесячный грант на оздоровление

🧑‍💻 Автономная рабочая среда

🖥 Компенсация расходов на оборудование для офиса (только в офисе)

🚀 Ежеквартальные встречи команды

☕ Удобства в офисе (только в офисе)

Хотите узнать больше о том, чем мы занимаемся?

• Автономная компания

• Replit Agent в масштабе

• Принятие ИИ

• Создание приложений с открытым исходным кодом

Собеседования + Культура в Replit

• Принципы работы

• Причины не работать в Replit

Для достижения нашей миссии по повышению доступности программирования во всем мире, наша команда должна быть представительной для всего мира. Мы приветствуем ваш уникальный взгляд и опыт в формировании этого продукта. Мы призываем подавать заявки людей из самых разных слоев общества, в том числе и особенно кандидатов из недостаточно представленных и нетрадиционных слоев общества.