Название: Старший инженер по безопасности ИИ Компания: Backblaze Местоположение: Удаленно — Аргентина / Удаленно — Колумбия / Удаленно — Коста-Рика / Удаленно — Мексика / Удаленно — Колумбия; Удаленно — Коста-Рика; Удаленно — Мексика

Backblaze — лидер объектного хранения в движении открытого облака, способствующий успеху клиентов благодаря облачному хранилищу, специально созданному для разблокировки бюджетов, освобождения администраторов и раскрытия потенциала новаторов. Вместе с нашими партнерами мы помогаем клиентам освободиться от ограничительных, переоцененных устаревших решений, которые их сдерживают, и стремительно двигаться вперед, имея в своих руках всю мощь открытого облака. Основанная в 2007 году, мы масштабировали бизнес менее чем за 3 миллиона долларов внешнего финансирования до 2021 года, когда мы провели традиционное IPO на фондовой бирже Nasdaq. Сегодня Backblaze получает более 100 миллионов долларов дохода и является ведущим специализированным облаком хранения данных, управляя более чем тремя миллиардами гигабайт данных для более чем 500 тысяч клиентов в 175+ странах, включая предприятия, разработчиков, ИТ-специалистов и частных лиц. Но хотя есть много поводов для празднования нашего прошлого, впереди почти столько же возможностей. Мы ищем старшего инженера по безопасности ИИ, который присоединится к нашей команде!

О роли

Backblaze ищет старшего инженера по безопасности ИИ для разработки и внедрения средств защиты для внутреннего использования ИИ, с акцентом на агентурные системы, защиту разработчиков и безопасность во время выполнения. Это практическая роль для специалиста, который создавал и внедрял средства безопасности, а не только определял политики. Вы позволите командам безопасно использовать ИИ, создавая уровни принуждения, средства контроля идентификации и возможности обнаружения, которые ограничивают и отслеживают действия, управляемые ИИ.

Что вы будете делать

Средства защиты агентурного ИИ

Разрабатывайте и внедряйте механизмы защиты для систем ИИ, использующих инструменты, включая:

• Средства контроля доступа к инструментам и списки разрешенных пользователей
• Изоляция контекста и памяти
• Проверка действий агента на уровне шагов

Применяйте меры по снижению рисков, соответствующие OWASP Agentic AI Top 10 (например, инъекция в промпт, небезопасное использование инструментов, утечка данных, чрезмерная автономия).

Средства контроля безопасности во время выполнения

Создавайте механизмы принуждения, регулирующие поведение ИИ во время выполнения:

• Перехватчики, прокси или промежуточное ПО для вызовов инструментов/API
• Уровни принятия и принуждения к политике
• Ограничения частоты запросов, границы выполнения и «аварийные выключатели»

Предотвращайте небезопасные или несанкционированные действия, инициированные системами ИИ.

Нечеловеческая идентификация (NHI)

Разрабатывайте и внедряйте средства контроля идентификации и доступа для агентов и автоматизации, включая:

• Кратковременные учетные данные и ограниченные разрешения
• Четкое разделение доступа людей и нелюдей
• Строгая привязка идентификации к контексту и выполнению задачи

Обеспечьте возможность отслеживания и аудита всех действий ИИ.

Наблюдаемость и обнаружение

Внедряйте журналирование и отслеживание действий ИИ:

• Промпты, использование инструментов и потоки принятия решений

Создавайте возможности обнаружения с использованием:

• Методов базового анализа поведения и обнаружения аномалий

Выявляйте и оповещайте о:

• Аномальном использовании инструментов
• Подозрительных шаблонах промптов
• Неожиданном доступе к данным

Моделирование угроз (MAESTRO)

Выполняйте моделирование угроз агентурных систем с использованием MAESTRO, включая:

• Отображение возможностей агента, границ доверия и путей атак
• Моделирование сценариев злоупотребления и атак

Преобразуйте результаты в практические средства защиты и логику обнаружения.

Средства защиты разработчиков

Защищайте разработчиков, использующих инструменты ИИ, путем:

• Предотвращения раскрытия конфиденциальных данных
• Проверки сгенерированного ИИ кода и действий
• Ограничения небезопасной автоматизации

Обеспечьте безопасное использование инструментов разработки с поддержкой ИИ (например, Claude Code, Codex, Cursor) с помощью:

• Уровней проверки безопасности
• Контролируемых шаблонов промптинга и обработки вывода

Правильный кандидат

• 7+ лет опыта работы в области безопасности инженерии или бэкенд-систем
• Подтвержденный опыт проектирования и внедрения средств контроля безопасности, таких как:
  • Уровни принуждения во время выполнения (прокси, промежуточное ПО, движки политик)
  • Системы идентификации и доступа, особенно для нечеловеческих сущностей
• Отличные навыки программирования (предпочтительно Python; Go, Java или TypeScript — плюс)
• Опыт использования инструментов разработки с поддержкой ИИ, таких как Claude Code, в реальных рабочих процессах, включая понимание связанных рисков безопасности и мер защиты
• Опыт работы с:
  • Системы журналирования, мониторинга и обнаружения
  • Создание или защита взаимодействий API/сервисов
• Практическое знакомство с:
  • Агентурными системами ИИ или рабочими процессами LLM, интегрированными с инструментами
  • Руководствами OWASP по рискам ИИ/агентов

Экспертные знания

• Опыт применения (не просто ссылок на):
  • Руководства OWASP по рискам агентурного ИИ / LLM
  • Концепции NIST AI RMF в реальных системах
  • Руководства CSA по рабочей нагрузке и идентификации машин
• Глубокое понимание:
  • Zero Trust для нечеловеческих идентификаций
  • Управление секретами и ограничение области действия учетных данных
  • Инструменты наблюдаемости (например, OpenTelemetry, ELK)

Дополнительные преимущества

• Опыт обеспечения безопасности внутренних платформ ИИ или инструментов ИИ для разработчиков
• Опыт наставничества инженеров и руководства безопасным проектированием

К этому моменту мы надеемся, что вы с энтузиазмом относитесь к описанию вакансии, которое вы читаете. Даже если вы не соответствуете всем требованиям, мы все равно призываем вас подать заявку. Обучение, развитие и рост — ключевые элементы нашей культуры. Мы стремимся встречать людей, которые верят в нашу миссию и могут внести свой вклад в нашу команду различными способами. Мы хотим, чтобы люди чувствовали себя комфортно, выражая свою истинную сущность, приходили, оставались и делали здесь свою лучшую работу.

В Backblaze мы ценим честность и доброжелательность по отношению к нашим клиентам, партнерам и сотрудникам. Именно поэтому разнообразие, справедливость и инклюзивность лежат в основе наших ценностей. Мы стремимся к созданию рабочей силы, где все сотрудники чувствуют принадлежность, независимо от расы, этнической принадлежности, национальности, пола, сексуальной ориентации, возраста, религии, социально-экономического статуса, способностей, статуса ветерана и образования. Мы верим, что наша приверженность развитию разнообразного рабочего пространства не только позволяет нам лучше обслуживать наших клиентов в более чем 175 странах, но и укрепляет нашу приверженность правильным действиям. Мы гордимся тем, что являемся работодателем с равными возможностями.

Чтобы узнать больше о данных, которые мы собираем и обрабатываем в рамках вашей заявки, пожалуйста, ознакомьтесь с нашим Уведомлением о конфиденциальности сотрудников Backblaze.