Data Scientist, Cybersecurity

Вознаграждение: 263 000 — 515 000 долларов США в год

О КОМАНДЕ

Команда прикладных наук о данных OpenAI помогает формировать подходы к созданию, развертыванию и улучшению ИИ-агентов во всех наших продуктах. Мы сотрудничаем с командами по продуктам, инженерии, исследованиям и безопасности, чтобы определить значимые показатели успеха, понять, как наши системы ведут себя в реальном мире, и использовать полученные данные для принятия более обоснованных решений. По мере роста возможностей ИИ-агентов они могут писать и выполнять код, получать доступ к конфиденциальным системам и выполнять все более сложные задачи с большей автономией. Эти возможности создают мощные перспективы для улучшения кибербезопасности, но также создают риски, для которых традиционные инструменты и процессы безопасности не были разработаны. Чтобы справиться с этим моментом, требуются новые способы измерения безопасности, оценки защиты и различения реального снижения рисков от трений, замедляющих работу пользователей.

О РОЛИ

Мы ищем старшего специалиста по данным, который поможет определить, как выглядит эффективная кибербезопасность в эпоху ИИ-агентов. Вы будете работать в рамках организации по безопасности OpenAI и команд по продуктам кибербезопасности, чтобы оценивать возникающие риски, улучшать внутренние средства контроля безопасности и формировать продукты безопасности на базе ИИ. Проблемы носят фундаментальный характер: Откуда мы знаем, эффективны ли средства контроля безопасности агента? Какие меры защиты действительно снижают риски, а какие создают ненужное трение? Когда система ИИ выявляет потенциальную уязвимость, как мы определяем, является ли находка точной, действенной и, в конечном итоге, устраненной? Как мы обнаруживаем аномальное поведение или рискованный доступ, когда сами системы быстро меняются? Вы будете подчиняться отделу Data Science, тесно сотрудничая с отделами Security, Cyber Product, Engineering и Research. Это роль с высокой степенью ответственности для того, кто может создать новую аналитическую дисциплину, работать в различных организационных рамках и превращать неоднозначные проблемы безопасности в измеримые улучшения.

В ЭТОЙ РОЛИ ВЫ БУДЕТЕ

• Определять, как мы измеряем безопасность ИИ-агентов. Разрабатывать метрики и системы оценки для охвата средств контроля безопасности, поведения агентов, конфиденциальных действий, шаблонов доступа, качества обнаружения и возникающих рисков.

• Улучшать средства контроля безопасности, не создавая ненужного трения. Количественно оценивать эффективность и операционные затраты мер защиты, включая ложные срабатывания, заблокированные действия, эскалацию, задержки утверждения и пути восстановления. Помогать командам делать средства контроля более безопасными, точными и простыми в использовании.

• Создавать основу данных для принятия решений в области безопасности. Сотрудничать с инженерными командами и командами по данным для улучшения инструментария, объединения фрагментарных телеметрических данных, создания надежных наборов данных и выявления существенных пробелов в охвате и качестве данных.

• Укреплять обнаружение и реагирование. Выявлять значимые сигналы аномального поведения, рискованного доступа, раскрытия конфиденциальных данных и другой активности, связанной с безопасностью. Оценивать, улучшают ли вмешательства качество обнаружения, время реагирования и реальные результаты безопасности.

• Формировать продукты кибербезопасности на базе ИИ. Сотрудничать с командами по продуктам, инженерии и исследованиям для оценки того, насколько эффективно системы ИИ выявляют проблемы безопасности, поддерживают рабочие процессы разработчиков и предприятий, а также создают измеримую ценность для клиентов.

• Разрабатывать системы оценки для результатов проверок безопасности. Определять меры качества для результатов, включая точность, серьезность, действенность, дублирование, устранение и последующее влияние. Связывать поведение модели и изменения продукта с такими результатами, как триаж, исправление и снижение уязвимостей.

• Понимать полный рабочий процесс безопасности. Измерять, как пользователи обнаруживают, расследуют, проверяют, приоритизируют и устраняют проблемы безопасности. Выявлять возможности для улучшения активации, внедрения, удержания и ценности для бизнеса в продуктах кибербезопасности, ориентированных на клиента.

• Разрабатывать строгие стратегии измерения и экспериментирования. Оценивать новые модели, средства контроля безопасности, функции продукта и рабочие процессы посредством контролируемых экспериментов, поэтапного внедрения, наблюдательных анализов и других методов, подходящих для высокорисковых сред.

• Преобразовывать анализ в стратегию безопасности и продуктовую стратегию. Определять наиболее ценные решения, прояснять компромиссы, рекомендовать, куда командам следует инвестировать, и четко доносить результаты до технических партнеров и старшего руководства.

• Помогать в создании новой возможности в области науки о данных для безопасности. Создавать целенаправленную дорожную карту, устанавливать прочные рабочие ритмы между Data Science и Security, а также помогать формировать развитие этой дисциплины с течением времени.

Вам МОЖЕТ ПОДОЙТИ ЭТА РОЛЬ, ЕСЛИ ВЫ ИМЕЕТЕ

• Более 5 лет опыта в области науки о данных, прикладных исследований, аналитики или смежной количественной области, с опытом решения неоднозначных, высокоэффективных проблем.

• Опыт в области кибербезопасности, доверия и безопасности, предотвращения мошенничества или злоупотреблений, конфиденциальности, целостности платформы или в другой области, связанной с враждебным поведением и трудноизмеримыми рисками.

• Глубокое знание SQL и Python, включая опыт анализа сложных наборов данных, работы с неполным инструментарием и создания воспроизводимых аналитических рабочих процессов.

• Опыт определения значимых метрик и систем оценки, когда отсутствует эталонная база, результаты отложены или важные риски невозможно наблюдать напрямую.

• Сильное понимание экспериментирования, причинно-следственного вывода, наблюдательного анализа и практических ограничений различных подходов к измерению.

• Способность эффективно сотрудничать с инженерами по безопасности, менеджерами по продуктам, инженерами-программистами, исследователями, инженерами по данным и старшими руководителями.

• Подтвержденная способность преобразовывать технический анализ в конкретные улучшения продуктов, систем, средств контроля или организационных приоритетов.

• Уверенность в самостоятельной работе, определении дорожной карты и привнесении структуры в область без установленных процессов или отраслевых стандартов.

ВЫ МОГЛИ БЫ СТАТЬ ОСОБЕННО ОТЛИЧНЫМ КАНДИДАТОМ, ЕСЛИ ВЫ ИМЕЕТЕ

• Опыт в области проектирования систем обнаружения, исследования угроз, операций безопасности, управления рисками инсайдеров, управления идентификацией и доступом или аналитики безопасности, сохраняющей конфиденциальность.

• Знакомство с ИИ-агентами, большими языковыми моделями, оценкой моделей, автоматизированным обзором кода или продуктами кибербезопасности на базе ИИ.

• Опыт оценки результатов проверок безопасности, обнаружения уязвимостей, рабочих процессов исправления или инструментов безопасности для разработчиков.

• Опыт балансировки эффективности безопасности с пользовательским опытом, включая ложные срабатывания, процессы утверждения, операционную нагрузку и поведение при восстановлении.

• Опыт создания систем автоматического мониторинга, обнаружения аномалий, производственных наборов данных или систем, связывающих результаты работы моделей с реальными результатами.

• Опыт создания новых межфункциональных программ измерения или создания аналитических возможностей с нуля.

О OpenAI

OpenAI — это компания, занимающаяся исследованиями и развертыванием в области искусственного интеллекта, целью которой является обеспечение того, чтобы общий искусственный интеллект приносил пользу всему человечеству. Мы расширяем границы возможностей ИИ-систем и стремимся безопасно развертывать их в мире посредством наших продуктов. ИИ — это чрезвычайно мощный инструмент, который должен создаваться с учетом безопасности и потребностей человека в основе, и для достижения нашей миссии мы должны охватывать и ценить множество различных точек зрения, голосов и опыта, составляющих полный спектр человечества.

Мы являемся работодателем, предоставляющим равные возможности, и мы не дискриминируем по признаку расы, религии, цвета кожи, национального происхождения, пола, сексуальной ориентации, возраста, статуса ветерана, инвалидности, генетической информации или других применимых законодательно защищенных характеристик.

Для получения дополнительной информации, пожалуйста, ознакомьтесь с Заявлением о политике утвердительных действий и равных возможностей трудоустройства OpenAI.

Проверка биографических данных кандидатов будет проводиться в соответствии с применимым законодательством, и квалифицированные кандидаты с судимостями или обвинительными приговорами будут рассматриваться на предмет трудоустройства в соответствии с этими законами, включая Ордонанс о добросовестном шансе Сан-Франциско, Ордонанс о добросовестном шансе для работодателей округа Лос-Анджелес и Калифорнийский закон о добросовестном шансе, для кандидатов из США. Для работников округа Лос-Анджелес, не являющихся юридическими лицами: мы разумно полагаем, что криминальное прошлое может иметь прямую, неблагоприятную и негативную связь с выполнением следующих должностных обязанностей, потенциально приводя к отзыву условного предложения о трудоустройстве: защита вверенного вам компьютерного оборудования от кражи, утери или повреждения; возврат всего имеющегося у вас компьютерного оборудования (включая содержащиеся в нем данные) при увольнении или окончании срока действия контракта; и сохранение конфиденциальности проприетарной, конфиденциальной и непубличной информации. Кроме того, должностные обязанности требуют доступа к защищенным информационным технологиям и связанных с ними обязательств по обеспечению безопасности данных.

Чтобы уведомить OpenAI о том, что вы считаете эту вакансию не соответствующей требованиям, пожалуйста, отправьте отчет через эту форму. Ответы на запросы, не связанные с соблюдением требований к вакансиям, не будут предоставлены.

Мы стремимся предоставлять разумные приспособления для кандидатов с ограниченными возможностями, и запросы могут быть сделаны по этой ссылке.

Глобальная политика конфиденциальности OpenAI для соискателей.

В OpenAI мы считаем, что искусственный интеллект обладает потенциалом помочь людям решать огромные глобальные проблемы, и мы хотим, чтобы преимущества ИИ были широко распространены. Присоединяйтесь к нам в формировании будущего технологий.