Reinforcement Learning Engineer

Название: Инженер по обучению с подкреплением Компания: Bugcrowd Местоположение: Удаленно США / Удаленно - США

Основанная в 2012 году, Bugcrowd — это превентивная платформа безопасности, которая объединяет обнаружение и оценку уязвимостей, наступательное тестирование и аналитику, основанную на ИИ и человеческом опыте, чтобы помочь организациям избегать, обнаруживать и проверять реальные риски. Bugcrowd помогает командам безопасности работать быстрее, выявляя наиболее важные уязвимости, чтобы они могли действовать первыми и опережать злоумышленников. Объединяя возможности людей и ИИ, команды могут предотвращать пути атак и избегать утечек данных. Bugcrowd, расположенная в Сан-Франциско и Нью-Гэмпшире, поддерживается General Catalyst, Rally Ventures, Costanoa Ventures и другими. Посетите www.bugcrowd.com.

Обзор вакансии

Команда Bugcrowd по обучению с подкреплением и рассуждениям фокусируется на расширении границ автономной кибербезопасности путем создания подлинных, проверяемых сред обучения с подкреплением для ведущих мировых компаний, занимающихся фундаментальным ИИ. В качестве инженера по обучению с подкреплением, специализирующегося на обучении с подкреплением на основе проверяемых вознаграждений (RLVR), вы будете разрабатывать и масштабировать автоматизированные конвейеры верификации, которые преобразуют реальные уязвимости программного обеспечения в детерминированные функции вознаграждения. В этой роли вы будете преодолевать разрыв между низкоуровневым анализом безопасности и современными моделями рассуждений LLM, создавая среды, в которых агенты ИИ учатся обнаруживать, использовать и устранять уязвимости программного обеспечения с математической точностью. Вместо того чтобы полагаться на субъективную обратную связь от человека, ваша работа напрямую обеспечивает строгие, проверяемые сигналы вознаграждения, которые обучают передовые модели ИИ нового поколения осваивать сложную логику домена кибербезопасности. Вы будете работать на стыке фаззинга, динамического анализа программ, эксплуатации систем и масштабируемой ML-инфраструктуры, чтобы формировать безопасность и наступательные/оборонительные возможности будущего искусственного интеллекта.

Основные обязанности и ответственность

• Разработка, создание и развертывание высокопроизводительных сред RLVR (обучение с подкреплением на основе проверяемых вознаграждений), которые оценивают последовательности действий LLM по отношению к детерминированным результатам выполнения.
• Разработка автоматизированных тестовых каркасов, песочниц и механизмов верификации, которые преобразуют сложное исследование уязвимостей (например, ошибки переполнения памяти, веб-безопасность, логические ошибки) в бинарные сигналы вознаграждения "пройдено/не пройдено".
• Интеграция платформы автоматизированного анализа Mayhem от Bugcrowd и каналов реальных уязвимостей в непрерывные, масштабируемые конвейеры генерации сред RL.
• Архитектурное проектирование безопасных, изолированных и высоковоспроизводимых сред выполнения (с использованием Docker, BuildKit или Nix), способных выполнять тысячи одновременных траекторий эксплуатации и исправления, управляемых агентами.
• Прямое сотрудничество с исследователями из передовых лабораторий ИИ, включая Anthropic, OpenAI и Cohere, для определения стандартных форматов бенчмарков, пространств наблюдений и проверяемых метрик оценки для задач кибербезопасности.
• Реализация точной телеметрии, алгоритмов верификации с использованием истинных данных (ground-truth) и журналирования траекторий для анализа путей рассуждений агентов и предотвращения взлома вознаграждения или ложных срабатываний.
• Создание низкоуровневых инструментов инструментовки и отладки для мониторинга состояний памяти, выполнения процессов и сетевого поведения во время циклов взаимодействия агентов.
• Оптимизация производительности инфраструктуры и задержки сброса среды для поддержки параллельной выборки в огромном масштабе и распределенных рабочих процессов обучения RL.
• Бенчмаркинг и оценка производительности передовых моделей ИИ в различных наступательных и оборонительных задачах безопасности, таких как автоматизированный фаззинг, генерация полезной нагрузки эксплойтов и проверка исправлений.

Образование, опыт, знания, навыки и способности

• Понимание рабочих процессов обучения RL, используемых современными системами LLM, в частности, обратной связи на основе выполнения или обучения с подкреплением на основе проверяемых вознаграждений (RLVR).
• Опыт разработки приложений на Python и низкоуровневого системного программирования на C, опыт работы с Rust является большим плюсом.
• Глубокое понимание уязвимостей программного обеспечения, эксплуатации бинарных файлов, методологий фаззинга или анализа программ.
• Опыт работы с DevOps-конвейерами (например, GitHub Actions), воспроизводимыми сборками (Docker, BuildKit, Nix) и комфортная работа с системами Linux и низкоуровневой отладкой.
• Опыт работы или создания бенчмаркинговых сред (например, CTF, SWE-bench, задачи безопасности или песочницы выполнения).

Предпочтительный опыт

• Опыт разработки пользовательских функций вознаграждения, верификаторов истинных данных (ground-truth) или автоматизированных систем оценки для моделей безопасности и рассуждений ИИ.
• Опыт работы с низкоуровневыми инструментами анализа программ, санитайзерами (например, ASan/MSan), инструментированием компилятора или инструментами автоматической генерации эксплойтов.
• Подтвержденный опыт участия или разработки соревновательных бенчмарков по кибербезопасности, CTF или фреймворков оценки ИИ с открытым исходным кодом.

Условия труда и физические требования

Идеальный кандидат должен быть способен выполнять все физические требования работы с разумными или без разумных приспособлений.

• Сидение и / или стояние — Необходимо иметь возможность оставаться в неподвижном положении 50% времени.
• Переноска и / или подъем — Необходимо иметь возможность переносить / перемещать ноутбук по мере необходимости в течение рабочего дня.
• Среда — удаленная работа из дома 100% времени.

Раскрытие информации о диапазоне оплаты

В Bugcrowd мы стремимся к справедливости, равенству и созданию среды, которая позволяет нашим сотрудникам работать наилучшим образом. Наша философия компенсации заключается в содействии развитию сотрудничества, которое вознаграждает, привлекает и удерживает лучшие таланты. Предоставленные сведения о заработной плате основаны на средних показателях по США, и мы сохраняем гибкость для адаптации к потребностям бизнеса.

Национальная оценка текущего базового диапазона для данной должности составляет $176,400 - $242,550.

Эта должность также может давать право на участие в программе дискреционных бонусов или комиссионных планов, в соответствии с правилами, регулирующими программу, при этом присуждение, если таковое имеется, зависит от различных факторов, включая, без ограничений, индивидуальную и организационную производительность.

Культура

В Bugcrowd мы понимаем, что разнообразие на рабочем месте жизненно важно для успеха и роста компании. Мы стремимся к тому, чтобы люди были включены и чувствовали себя частью создания не только отличного продукта Bugcrowd, но и отличного места для работы.

Мы регулярно слышим от клиентов и исследователей, что Bugcrowd ощущается как семья, и мы стремимся поддерживать это и внутри компании.

Наша команда состоит из самых разных людей: музыкантов, любителей экстремальных видов спорта, любителей природы, родителей, энтузиастов хлопьев, полуночников, велосипедистов, художников — вы поняли.

В Bugcrowd мы решаем проблемы безопасности и уязвимости, которые актуальны для всех, поэтому мы считаем, что решение этих проблем требует людей с разным опытом. Мы ценим точки зрения и опыт людей из недостаточно представленных групп.

Отказ от ответственности

Эта должность предполагает доступ к строго конфиденциальной, чувствительной информации, касающейся технологий Bugcrowd. Крайне важно, чтобы заявитель обладал необходимой добросовестностью для сохранения информации в строжайшей тайне.

Компания уполномочена проводить проверки биографических данных в целях трудоустройства в соответствии с законодательством штата и федеральным законодательством. Проверки биографических данных будут проводиться для должностей, связанных с доступом к конфиденциальной или проприетарной информации (включая коммерческую тайну).

Проверки биографических данных могут включать проверку номера социального страхования, проверку предыдущего трудоустройства, личные и профессиональные рекомендации, проверку образования и проверку криминального прошлого. Заявители с судимостью не будут исключены из рассмотрения в той мере, в какой это требуется законом.

Любые личные данные, которые вы предоставляете в связи с вашим заявлением, будут обрабатываться в соответствии с Политикой конфиденциальности Bugcrowd, с которой вы можете ознакомиться здесь:

Равные возможности трудоустройства:

Bugcrowd является работодателем, предоставляющим равные возможности, работодателем для лиц с ограниченными возможностями/по возрасту.

Лица, ищущие работу в Bugcrowd, рассматриваются без учета расы, цвета кожи, религии, национального происхождения, возраста, пола, семейного положения, родословной, физических или умственных недостатков, статуса ветерана, гендерной идентичности или сексуальной ориентации.

Bugcrowd стремится к полному включению всех квалифицированных лиц. В соответствии с нашим обязательством Bugcrowd предпримет шаги для обеспечения разумного приспособления для лиц с ограниченными возможностями. Соответственно, если для полного участия в процессе подачи заявления или собеседования, для выполнения основных функций должности и / или для получения всех других льгот и привилегий занятости требуется разумное приспособление, пожалуйста, свяжитесь с отделом кадров по адресу контакт рекрутера.

Подать заявку: