Staff Machine Learning Engineer, AI Security

Вознаграждение (Диапазон базовой зарплаты для этой должности составляет:): 230 000 – 322 000 долларов США в год

Reddit — это сообщество сообществ. Он построен на общих интересах, увлечениях и доверии и является домом для самых открытых и аутентичных бесед в Интернете. Каждый день пользователи Reddit публикуют, оценивают и комментируют темы, которые их больше всего волнуют. Имея более 100 000 активных сообществ и примерно 130 миллионов уникальных посетителей в день, Reddit является одним из крупнейших источников информации в Интернете. Для получения дополнительной информации посетите .

Команда AI Security в рамках организации Reddit’s Security Platform Engineering встраивает безопасность в продукты Reddit, инженерные системы, платформы искусственного интеллекта и операционную инфраструктуру, чтобы безопасный путь был самым простым путем как для людей, так и для агентов. Ключевая часть этой работы заключается в разработке практичных, высококачественных систем машинного обучения, которые обнаруживают и предотвращают риски, такие как инъекции подсказок, «джейлбрейки», раскрытие конфиденциальных данных и небезопасное или несанкционированное поведение ИИ. Опираясь на централизованную платформу Reddit LLM Guardrails, которая обеспечивает общую границу безопасности и защиты для основных продуктов, мы расширяем возможности защиты на основе машинного обучения по мере развития систем ИИ Reddit и ландшафта угроз.

Мы ищем ведущего инженера машинного обучения (Staff Machine Learning Engineer), который возглавит разработку, обучение и оптимизацию моделей для обеспечения безопасности ИИ в Reddit. Это стратегическая и практическая роль индивидуального разработчика, сочетающая глубокое владение архитектурой моделей, обучающими данными и экспериментами с техническим лидерством в различных командах. Вы поможете Reddit обеспечить более надежную защиту ИИ, сохраняя при этом высокое качество пользовательского опыта.

Как вы окажете влияние

Выбирайте, адаптируйте, дообучайте, оценивайте и развертывайте предварительно обученные модели и легковесные классификаторы для решения специфических проблем безопасности Reddit.

Создавайте воспроизводимые конвейеры обучения и оценки на ML-платформе Reddit, сотрудничая с инженерами платформы для улучшения производительности инференса, эффективности использования ресурсов и операционной надежности.

Определяйте техническое видение и дорожную карту моделей на несколько кварталов, сотрудничая с кросс-функциональными командами для сбора требований, определения архитектур моделей и итеративной разработки моделей.

Проводите оценки моделей и анализ производительности для улучшения точности и устойчивости к атакам, а также определяйте критерии запуска, которые балансируют ложные срабатывания, задержку, пропускную способность, надежность и затраты.

Отвечайте за качество обучающих данных и жизненный цикл производственных моделей, используя мониторинг, результаты инцидентов и обратную связь от red-team для улучшения наборов данных, переобучения и безопасного развертывания или отката.

Разрабатывайте лучшие практики для ответственной разработки и развертывания ML, включая воспроизводимые эксперименты, тестирование, отслеживание моделей и данных, а также использование данных с учетом конфиденциальности.

Будьте в курсе исследований в области NLP, больших языковых моделей и соответствующих мультимодальных методов, преобразуя перспективные достижения в измеримые улучшения моделей.

Менторство инженеров и руководство техническими обсуждениями и обзорами, формируя долгосрочные возможности команды в области ML и направление AI Security.

Кто вы можете быть

8+ лет опыта разработки моделей машинного обучения, с существенным практическим опытом обучения моделей, подтвержденным влиянием на производство и опытом руководства сложными инициативами в различных командах.

Сильный опыт программирования на Python, разработки программного обеспечения и фреймворков и библиотек глубокого обучения, таких как TensorFlow, PyTorch или Hugging Face Transformers.

Глубокое понимание архитектур и оптимизации нейронных сетей, с владением предварительной обработкой данных, токенизацией, вложениями, языковым моделированием и калибровкой моделей.

Экспертиза в масштабируемых конвейерах данных и фреймворках распределенного обучения, таких как Ray Train или PyTorch Distributed, с глубоким пониманием аппаратных и системных компромиссов.

Подтвержденная строгость в экспериментальном дизайне и оценке моделей, включая репрезентативные выдержки, абляционные исследования, атаки на устойчивость и анализ ошибок для диагностики проблем обучения, предвзятости и пробелов в обобщении.

Отличные навыки письменного и устного общения, способность объяснять поведение моделей, риски безопасности, неопределенность и компромиссы техническим и нетехническим партнерам.

Предпочтительные квалификации

Опыт применения ML в области безопасности, доверия и безопасности, борьбы с мошенничеством, конфиденциальности или смежных адаптивных областях.

Опыт использования адаптивного обучения, дистилляции моделей, активного обучения или генерации синтетических данных для улучшения качества моделей, их устойчивости и эффективности обучения.

Льготы:

Комплексные медицинские услуги и программы замены дохода

401k с совпадением взносов работодателя

Глобальные программы льгот, соответствующие вашему образу жизни: от рабочего места до профессионального развития и поддержки по уходу за детьми.

Поддержка планирования семьи

Гендерно-аффирмативный уход

Льготы по психическому здоровью и коучингу

Гибкий отпуск и оплачиваемый отпуск за волонтерство

Щедрый оплачиваемый отпуск по уходу за ребенком

Прозрачность оплаты:

Данное объявление о вакансии может охватывать более одного карьерного уровня.

В дополнение к базовой зарплате, эта должность дает право на получение акций в форме ограниченных акций (RSU), а в зависимости от предложенной должности, она также может давать право на получение комиссии. Кроме того, Reddit предлагает широкий спектр льгот для сотрудников из США, включая медицинское, стоматологическое и офтальмологическое страхование, программу 401(k) с совпадением взносов работодателя, щедрый отпуск для отпуска и отпуск по уходу за ребенком. Чтобы узнать больше, посетите .

Чтобы обеспечить большую прозрачность для кандидатов, мы предоставляем диапазоны базовой зарплаты для всех вакансий в США, независимо от штата. Мы устанавливаем стандартные диапазоны базовой оплаты для всех должностей на основе функции, уровня и страны, сравнивая их с аналогичными растущими компаниями. Окончательные суммы предложений определяются множеством факторов, включая навыки, глубину опыта работы и соответствующие лицензии/квалификацию, и могут отличаться от указанных ниже сумм.

Диапазон базовой зарплаты для этой должности: $230 000 — $322 000 USD

В отдельных ролях и локациях собеседования будут записываться, транскрибироваться и суммироваться искусственным интеллектом (ИИ). У вас будет возможность отказаться от записи, транскрипции и суммирования до любых запланированных собеседований.

Во время собеседования мы будем собирать следующие категории персональной информации: идентификаторы, профессиональная информация и информация, связанная с трудоустройством, сенсорная информация (аудио/видео запись) и любые другие категории персональной информации, которой вы решите поделиться с нами. Мы будем использовать эту информацию для оценки вашей заявки на трудоустройство или роль независимого подрядчика, в зависимости от применимости. Мы не будем продавать вашу личную информацию и раскрывать ее третьим лицам в их маркетинговых целях. Мы удалим любую запись вашего собеседования вскоре после принятия решения о найме. Для получения дополнительной информации о том, как мы будем обрабатывать вашу личную информацию, включая ее хранение, пожалуйста, ознакомьтесь с нашей Политикой конфиденциальности кандидатов для потенциальных сотрудников и подрядчиков .

Reddit гордится тем, что является работодателем с равными возможностями, и стремится к построению рабочей силы, репрезентативной для разнообразных сообществ, которым мы служим. Reddit стремится предоставлять разумные приспособления для квалифицированных лиц с ограниченными возможностями и ветеранов с ограниченными возможностями в наших процедурах подачи заявлений на вакансии. Если по причине инвалидности вам требуется помощь в процессе собеседования, пожалуйста, сообщите об этом рекрутеру.