Местоположение: Нью-Йорк, Нью-Йорк; Лейк-Мэри, Флорида
Занятость: Полная ставка
Sr AI Security Engineer постоянно отслеживает уязвимости предприятия и разрабатывает инженерные решения для повышения безопасности инфраструктуры Healthfirst. Sr AI Security Engineer применяет экспертизу во всей области кибербезопасности, демонстрируя компетентность в ИТ-инфраструктуре и разработке приложений. Идеальный кандидат имеет солидный опыт в области безопасности приложений, продуктов или облачных технологий в сочетании с практическим знанием современных технологий ИИ, таких как LLM, Retrieval-Augmented Generation (RAG) и AI-агенты.
Обязанности и ответственность
- Проводить обзоры архитектуры безопасности и моделирование угроз для приложений с использованием ИИ.
- Проводить практическое тестирование безопасности решений LLM, RAG и агентных ИИ.
- Выявлять уязвимости, включая внедрение подсказок (prompt injection), раскрытие конфиденциальных данных, небезопасное извлечение, чрезмерные разрешения, небезопасное использование инструментов и слабые места в авторизации.
- Оценивать риски безопасности, связанные с AI-агентами, API, интеграцией моделей, векторными базами данных и сторонними сервисами ИИ.
- Сотрудничать с разработчиками и командами инженеров ИИ для проектирования и внедрения практических средств контроля безопасности.
- Разрабатывать повторно используемые шаблоны безопасности и защитные механизмы для общих архитектур ИИ.
- Создавать или автоматизировать тесты и инструменты безопасности, используемые для оценки приложений ИИ.
- Помогать в защите PHI, PII, учетных данных и другой конфиденциальной информации, используемой системами ИИ.
- Оценивать новые угрозы безопасности ИИ и преобразовывать соответствующие выводы в инженерные рекомендации.
- Поддерживать более широкие практики организации в области безопасности приложений и безопасной разработки ИИ.
- Помогать в обеспечении того, чтобы системы ИИ, работающие с конфиденциальной информацией о здравоохранении и предприятии, были разработаны с соответствующими мерами безопасности и конфиденциальности.
- Оценивать, как PHI, PII и другая конфиденциальная информация перемещается через подсказки, модели, API, системы извлечения, вложения (embeddings), векторные хранилища (vector stores), журналы, агентов и последующие системы.
- Сотрудничать с командами по конфиденциальности, соответствию требованиям, юридическим вопросам, рискам и управлению ИИ для преобразования требований в практические технические средства контроля.
- Поддерживать безопасное и ответственное внедрение ИИ в соответствии с организационными политиками и применимыми требованиями здравоохранения и нормативными требованиями.
- Дополнительные обязанности по мере необходимости.
Минимальные требования
- Техническая степень в области компьютерных наук или кибербезопасности и/или эквивалентный опыт работы
- Предыдущий опыт работы в области кибербезопасности
- Опыт в области инженерии безопасности, оценки уязвимостей, охоты на угрозы и реагирования на инциденты
- Диплом средней школы или GED, выданный аккредитованным учреждением
Предпочтительные квалификации
- 5+ лет опыта в области безопасности приложений, безопасности продуктов, инженерии безопасности, облачной безопасности, наступательной безопасности или смежной технической области безопасности.
- Глубокое понимание безопасности приложений и API, аутентификации, авторизации, идентификации, защиты данных и безопасной разработки программного обеспечения.
- Практический опыт проведения обзоров архитектуры безопасности, моделирования угроз, оценки уязвимостей, тестирования на проникновение или тестирования безопасности.
- Рабочее знание современных архитектур приложений ИИ, включая LLM, API моделей, RAG, векторные базы данных и AI-агенты.
- Понимание рисков безопасности ИИ, таких как внедрение подсказок (prompt injection), утечка данных, небезопасная обработка выходных данных, чрезмерная самостоятельность (excessive agency), а также небезопасный доступ к инструментам или API.
- Опыт программирования или написания скриптов, предпочтительно на Python.
- Опыт работы с облачными приложениями и сервисами.
- Способность эффективно доносить технические риски безопасности и рекомендации по их устранению до команд разработчиков.
- Опыт обеспечения безопасности производственных генеративных ИИ или LLM-приложений.
- Опыт тестирования безопасности или Red Teaming для ИИ/LLM.
- Знакомство с безопасностью агентных ИИ, включая разрешения инструментов и доступ по принципу наименьших привилегий.
- Знакомство с соображениями безопасности Model Context Protocol (MCP).
- Опыт работы с Azure OpenAI, AWS Bedrock, Google Vertex AI или сопоставимыми платформами ИИ.
- Знакомство с руководствами OWASP для LLM/GenAI-приложений, MITRE ATLAS или NIST по безопасности ИИ.
- Опыт работы с PHI, PII или другими конфиденциальными данными в регулируемой среде.
- Опыт интеграции тестирования безопасности в рабочие процессы CI/CD или DevSecOps.
- Опыт обеспечения безопасности цепочки поставок программного обеспечения и практики SBOM (Software Bill of Materials), включая оценку сторонних библиотек, зависимостей, моделей, подсказок и других компонентов приложений ИИ на предмет рисков безопасности.
- Опыт проектирования безопасных шаблонов использования инструментов и API для агентных ИИ, включая аутентификацию, авторизацию, наименьшие привилегии, границы доверия, управление учетными данными и контроль действий агентов.
- Опыт обзора или внедрения Infrastructure as Code (IaC) и применения средств контроля безопасности к облачной и ИИ-инфраструктуре; предпочтителен опыт работы с Terraform, Bicep, CloudFormation или сопоставимыми фреймворками.
Обязанности по соблюдению нормативных требований: См. выше
Лицензия/Сертификация: См. выше
Диапазон заработной платы
- Район Большого Нью-Йорка (жители штатов Нью-Йорк, Нью-Джерси, Коннектикут): $134,600 - $194,480
- Все остальные локации (в пределах утвержденных локаций): $119,600 - $177,905
В качестве кандидата на эту должность ваша заработная плата и связанные с ней элементы компенсации будут зависеть от вашего опыта работы, образования, лицензий и сертификатов, а также от любых других факторов, которые Healthfirst сочтет pertinent для принятия решения о найме.
В дополнение к вашей заработной плате, Healthfirst предлагает сотрудникам полный спектр льгот, таких как медицинское, стоматологическое и офтальмологическое страхование, программы стимулирования и признания, страхование жизни и взносы в 401k (все льготы подлежат соответствию требованиям).
Healthfirst верит в предоставление конкурентоспособного пакета компенсаций и льгот, где бы ни работали и жили ее сотрудники.
Диапазон заработной платы определяется как самая низкая и самая высокая заработная плата, которую Healthfirst может выплатить новому сотруднику, при повышении по службе или переводе на эту должность "добросовестно".
