Senior Application Security Engineer, AI and Machine Learning

Компенсация (Ожидаемый годовой диапазон базовой заработной платы для этой должности составляет:): 180 000–220 000 долларов США в год

О нас Lightning AI — компания, стоящая за PyTorch Lightning. Основанная в 2019 году, мы создаем комплексную платформу для разработки, обучения и развертывания систем искусственного интеллекта, предназначенную для воплощения идей из исследований в производство с меньшим количеством проблем. Благодаря нашему слиянию с Voltage Park, компанией neocloud и AI Factory, Lightning AI объединяет программное обеспечение, ориентированное на разработчиков, с экономически эффективными крупномасштабными вычислениями. Команды получают инструменты, необходимые им для экспериментов, обучения и производственного инференса, с встроенной безопасностью, наблюдаемостью и контролем. Мы обслуживаем индивидуальных исследователей, стартапы и крупные предприятия. Lightning AI работает по всему миру с офисами в Нью-Йорке, Сан-Франциско, Сиэтле и Лондоне, и поддерживается Coatue, Index Ventures, Bain Capital Ventures и Firstminute. Как мы работаем Люди, которые процветают здесь, — это строители, которые быстро двигаются, открыто общаются, берут на себя ответственность и постоянно совершенствуют себя, свои команды и нашу компанию. Вот как это выглядит на практике: Действуйте с быстрой скоростью: Мы движемся быстро, принимаем продуманные решения и поддерживаем темп. Мы ценим действие больше, чем совершенство, и учимся, выпуская продукт. Берите на себя ответственность: Мы несем ответственность за результаты, а не только за свою индивидуальную работу. Мы принимаем решения, которые продвигают компанию вперед, и выполняем их. Общайтесь открыто: Мы общаемся напрямую, стремимся понять и создаем ясность для других. Честные разговоры помогают нам быстрее двигаться вперед вместе. Создавайте отличные команды: Мы подаем пример, расширяем возможности других и создаем здоровые команды, где люди могут выполнять свою лучшую работу. Повышайте планку: Мы всегда совершенствуем себя. Мы учимся на обратной связи, постоянно бросаем себе вызов для роста и фокусируемся на работе, которая имеет наибольшее значение. Думайте в долгосрочной перспективе: Мы проектируем для будущего. Мы создаем масштабируемые системы, упрощаем сложность и используем ИИ и автоматизацию для усиления нашего воздействия. Кого мы ищем Мы ищем старшего инженера по безопасности приложений, который поможет обеспечить безопасность наших платформ ИИ, машинного обучения и инференса. Это практическая техническая роль, ориентированная на встраивание безопасности в современную ИИ-инфраструктуру, системы инференса и платформы разработчиков. Вы будете тесно сотрудничать с инженерами платформ, инженерами ML и командами инфраструктуры для выявления рисков, проектирования безопасных архитектур и создания инструментов безопасности, которые позволят инженерам быстро и безопасно работать. Эта роль ориентирована на выполнение. Вы будете руководить технической реализацией, проводить глубокие обзоры безопасности и помогать в развитии наших возможностей по безопасности приложений совместно с CISO и руководством инженерного отдела. Эта роль гибридная, из наших офисов в Сиэтле или Сан-Франциско, с требованием присутствия в офисе не менее 2 дней в неделю и периодическими выездными мероприятиями команды и компании. В настоящее время мы не можем предоставить визовую поддержку для этой роли. Что вы будете делать Обеспечение безопасности систем ИИ и машинного обучения Проведение моделирования угроз для платформ ИИ, служб инференса и ML-конвейеров Выявление рисков, таких как внедрение команд (prompt injection), извлечение моделей (model extraction), враждебные входные данные (adversarial inputs) и утечка данных (data leakage) Обзор архитектур обслуживания моделей и конвейеров инференса Сотрудничество с ML-инженерами для обеспечения безопасности рабочих процессов обучения, тонкой настройки и развертывания Помощь в проектировании изоляции и средств контроля безопасности для многопользовательских рабочих нагрузок ИИ Инженерная безопасность приложений Проведение обзоров архитектуры и дизайна безопасности Проведение целевых обзоров кода для компонентов высокого риска Выявление уязвимостей безопасности в API, микросервисах и распределенных системах Создание безопасных шаблонов для аутентификации, авторизации и межсервисного взаимодействия Помощь инженерным командам во внедрении безопасных настроек по умолчанию и защитных механизмов (guardrails) Безопасность платформы инференса Обеспечение безопасности пользовательских API и служб инференса Защита от злоупотреблений, извлечения моделей и враждебного поведения Проектирование механизмов ограничения скорости (rate limiting), изоляции и защиты рабочих нагрузок Создание мониторинга и обнаружения аномального поведения при инференсе Безопасность цепочки поставок ИИ и моделей Оценка моделей и зависимостей с открытым исходным кодом Обеспечение безопасности артефактов моделей и конвейеров их распространения Внедрение проверки целостности и контроля происхождения Помощь в обеспечении безопасности образов контейнеров и сред выполнения Автоматизация и инструменты безопасности Создание автоматизации безопасности для конвейеров ИИ и приложений Интеграция сканирования безопасности в рабочие процессы CI/CD Разработка инструментов для помощи инженерам в раннем обнаружении и устранении проблем Улучшение опыта разработчиков с помощью защитных механизмов безопасности Что вам понадобится Обязательный опыт Глубокие знания в области безопасности приложений Опыт моделирования угроз и обзоров архитектуры Опыт обеспечения безопасности API и распределенных систем Опыт работы в облачных средах, таких как AWS, GCP или Azure Опыт работы с контейнерами и Kubernetes Сильные навыки написания скриптов или программирования, такие как Python, Go или аналогичные Опыт тесного сотрудничества с инженерными командами для внедрения улучшений безопасности Опыт в области ИИ и машинного обучения Опыт обеспечения безопасности ML-конвейеров, систем инференса или платформ данных Знание рисков, таких как prompt injection, model extraction и adversarial inputs Опыт обзора архитектур обслуживания моделей Понимание безопасности данных для обучения и рисков утечки данных Будет большим плюсом, если у вас есть Опыт работы в red team или в области наступательной безопасности (offensive security) Опыт создания полезных нагрузок (payloads) и оценки CVE на предмет возможности эксплуатации в различных средах Опыт работы с GPU-инфраструктурой или высокопроизводительными вычислениями (HPC) Опыт работы с фреймворками Hugging Face, PyTorch, TensorFlow или аналогичными Опыт работы с системами LLM, RAG-конвейерами или агентскими фреймворками Опыт создания конвейеров автоматизации безопасности Опыт обеспечения безопасности многопользовательской инфраструктуры Что означает успех Безопасность встраивается в архитектуру платформы ИИ на ранних этапах Инженерные команды быстро выпускают продукты с безопасными настройками по умолчанию Платформы инференса устойчивы к злоупотреблениям и извлечению ML-конвейеры безопасны и поддаются аудиту Инструменты безопасности масштабируются с ростом инженерного отдела Почему эта роль важна Эта роль находится на стыке безопасности приложений, ИИ-инфраструктуры и платформ разработчиков. Вы поможете определить, как мы обеспечиваем безопасность современных систем ИИ, позволяя инженерам быстро и безопасно работать. Вы будете тесно сотрудничать с руководством инженерного отдела и CISO для создания практичных, масштабируемых возможностей безопасности, которые поддерживают быстрое развитие в области ИИ и машинного обучения. Компенсация Мы стремимся предлагать конкурентоспособную компенсацию, отражающую ценность, которую каждый член команды приносит в нашу миссию. Окончательные предложения основываются на таких факторах, как опыт, навыки, географическое положение и ожидания от роли. В дополнение к базовой заработной плате наш пакет общего вознаграждения для соответствующих ролей включает дискреционный бонус, значительную долю в акциях (equity) и комплексные льготы. Ожидаемый диапазон годовой базовой заработной платы для этой роли: 180 000–220 000 долларов США Льготы и привилегии Мы предлагаем комплексный и конкурентоспособный пакет льгот, разработанный для поддержки здоровья, благополучия и долгосрочного успеха наших сотрудников: Комплексное медицинское покрытие: Медицинское, стоматологическое и офтальмологическое страхование для сотрудников и их соответствующих иждивенцев. Значительная доля в акциях (RSU): Акции, которые дают сотрудникам долю в долгосрочном успехе компании. Пенсионные накопления: Софинансирование 401(k) (США) и пенсионные взносы (Великобритания). Гибкое время отпуска: Неограниченное количество оплачиваемых отпусков (PTO), государственные праздники и плавающие выходные для поддержания баланса между работой и личной жизнью. Зимние каникулы для всей компании: Две недели закрытия компании каждую зиму, чтобы отключиться от работы и восстановиться. Оплачиваемый отпуск по уходу за ребенком и семьей: Оплачиваемый отпуск для поддержки вас и вашей семьи в важные моменты жизни. Профессиональное развитие: Ежегодный бюджет на обучение и развитие для поддержки вашего профессионального роста. Велнес-льготы: Стипендии на оздоровление и работу на дому для поддержки вашего физического и психического благополучия. Программа sabbatical: Четыре недели оплачиваемого отпуска sabbatical после четырех лет стажа. Гибкая работа: Гибкие графики и гибридная модель работы для наших офисных команд. Еда в офисе: Бесплатные обеды в наших офисных центрах. Льготы могут различаться в зависимости от местоположения, команды и роли. В Lightning AI мы стремимся создавать инклюзивную и разнообразную рабочую среду. Мы считаем, что разнообразные команды способствуют инновациям и создают лучшие продукты. Мы предоставляем равные возможности трудоустройства всем сотрудникам и кандидатам независимо от расы, цвета кожи, религии, пола, сексуальной ориентации, гендерной идентичности, национального происхождения, возраста, инвалидности, статуса ветерана или любых других защищенных характеристик. Мы стремимся построить культуру, в которой каждый может процветать и вносить свой максимальный вклад.