AI Security Specialist

Название: Специалист по безопасности ИИ Компания: Suno Местоположение: Нью-Йорк

Вознаграждение: 276 960 - 363 510 долларов США в год

О SUNO

Мы создаем первую в мире платформу для творческих развлечений, где каждый человек может испытать радость и удовлетворение от создания музыки. Музыка для всех: среди наших пользователей — от бабушек, создающих песни для своих близких, до победителей Грэмми, использующих Suno Studio, наш мощный инструмент, для создания самых популярных хитов в мире.

Построение будущего индустрии развлечений требует амбиций. Темп работы высокий, задачи сложные, и работа требует ответственности и интенсивности. Для правильных людей это невероятно полезно: шанс сформировать новый медиум, работать в небольшой команде, которая глубоко заботится о качестве, создавать музыку, пить слишком много кофе и строить то, чем пользуются миллионы людей для самовыражения способами, которые ранее были невозможны.

Suno — самая быстрорастущая компания в сфере потребительских развлечений и лидер в области ИИ-музыки. Нас поддерживают ведущие инвесторы, включая Bond Capital, Menlo Ventures, Lightspeed Venture Partners, IVP, Forerunner, Union Square Ventures, Alkeon, Quiet, Matrix Partners, Schroders Capital и NVentures (венчурное подразделение NVIDIA).

О РОЛИ

Мы ищем ведущего инженера по безопасности ИИ, который будет обеспечивать безопасность разработки, обучения и предоставления моделей Suno, а также создавать системы, которые будут поддерживать эту безопасность. Вы будете работать на всех этапах жизненного цикла модели: от конвейеров обучения и вычислительной инфраструктуры до продуктов, которые создают миллионы людей. Вы будете тесно сотрудничать с отделами исследований в области машинного обучения, платформенной и продуктовой инженерии, а также определять техническое направление в области безопасности ИИ по мере роста этого направления. Нам предстоит много чего построить, и вы будете этим заниматься.

Послушайте песню, которую мы об этом написали:

ЧТО ВЫ БУДЕТЕ ДЕЛАТЬ

• Разрабатывать и создавать средства безопасности для инфраструктуры обучения и предоставления моделей, включая кластеры вычислений, конвейеры, доступ к артефактам моделей и программную цепочку поставок, стоящую за ними.
• Разрабатывать системы обнаружения, мониторинга и контроля для входных и выходных данных моделей, а также для использования агентских инструментов в виде производственного кода, а не разовых скриптов.
• Взламывать наши собственные системы посредством тестирования на устойчивость к атакам и красных команд (red-teaming) для моделей, конвейеров и продуктов, а затем добиваться их исправления.
• Сотрудничать с командами исследований в области машинного обучения и платформенной инженерии, чтобы безопасные параметры по умолчанию были простым путем при обучении, оценке и развертывании моделей.
• Сотрудничать с продуктовой инженерией для анализа угроз и проверки ориентированных на клиента ИИ-функций перед запуском, а также создавать общие средства контроля, которые позволят командам безопасно выпускать их по умолчанию.
• Определять техническое направление в области безопасности ИИ в Suno, включая стандарты, эталонные архитектуры и дорожную карту, одновременно повышая планку безопасности во всей инженерии.
• Способствовать тому, чтобы творческое самовыражение стало повседневной реальностью для всех, обеспечивая доверие к платформе на уровне, который привлечет миллионы людей для создания контента.

ЧТО ВАМ ПОТРЕБУЕТСЯ

• 8–10 лет опыта в области инженерии безопасности, включая практическую работу по обеспечению безопасности систем машинного обучения или крупномасштабной инфраструктуры машинного обучения в производственной среде.
• Опыт проектирования и внедрения систем и инструментов безопасности, а не только их оценки.
• Глубокие знания безопасности облачных сред и инфраструктуры: IAM, Kubernetes, сетевая сегментация, управление секретами и инфраструктура как код.
• Глубокое понимание конвейеров обучения и предоставления моделей машинного обучения и их поверхности атаки, включая риски цепочки поставок моделей и защиту весов и артефактов моделей.
• Свободное владение векторами атак и фреймворками для LLM и генеративного ИИ, такими как OWASP Top 10 для LLM и MITRE ATLAS.
• Отличные навыки программирования на Python или Go.
• Опыт определения технического направления и влияния на старших инженеров и руководителей без формальной власти.

Желательно

• Опыт работы в компании, разрабатывающей базовые модели, или в лаборатории исследований ИИ.
• Опыт обеспечения безопасности вычислительных сред GPU или распределенного обучения в большом масштабе.
• Практическое использование инструментов тестирования на устойчивость к атакам, таких как Garak или PyRIT.
• Опыт обеспечения безопасности конвейеров обработки аудио, медиа или другого генеративного контента.

ЛЬГОТЫ И ПРЕИМУЩЕСТВА ДЛЯ ШТАТНЫХ СОТРУДНИКОВ

• Пакет акций компании.
• 401(k) с 3% взносом работодателя и Roth 401(k).
• Медицинское, стоматологическое и офтальмологическое страхование (PPO с опциями HSA и FSA).
• 11 оплачиваемых праздничных дней + неограниченное количество дней отпуска и больничных.
• 16 недель оплачиваемого отпуска по уходу за ребенком.
• Стипендия на творческое образование.
• Щедро финансируемая транспортная карта.
• Обед в офисе (5 дней в неделю).

ВОЗНАГРАЖДЕНИЕ:

• Годовой диапазон заработной платы для этой должности составляет 276 960 - 363 510 долларов США + целевые опционы на акции + льготы (включая медицинское, стоматологическое, офтальмологическое страхование и 401k).

Suno с гордостью является работодателем, предоставляющим равные возможности. Мы рассматриваем квалифицированных кандидатов независимо от расы, цвета кожи, происхождения, религии, пола, национальности, сексуальной ориентации, гендерной идентичности, возраста, семейного положения, инвалидности, генетической информации, статуса ветерана или любой другой законно защищенной категории в соответствии с провинциальными, федеральными, государственными и местными законами, постановлениями или предписаниями. Мы также будем рассматривать квалифицированных кандидатов с судимостями в соответствии с требованиями государственных и местных законов, включая Закон Массачусетса о справедливом трудоустройстве, Закон Нью-Йорка о справедливом трудоустройстве, Постановление Лос-Анджелеса о справедливом трудоустройстве и Постановление Сан-Франциско о справедливом трудоустройстве.