Название: Ученый-инженер по защите, отдел целостности (Protection Scientist Engineer, Integrity) Компания: OpenAI Местоположение: Лондон, Великобритания

О КОМАНДЕ

Команда по обеспечению целостности (Integrity) отвечает за масштабируемые системы, которые помогают выявлять и реагировать на злоумышленников и вредоносное воздействие на платформах OpenAI. Мы защищаем пользователей и мир в целом, разрабатывая меры реагирования на сложные виды вреда и создавая системы защиты, необходимые для запуска новых продуктов и моделей. Работа команды Integrity охватывает не только передовые угрозы, такие как биологическое оружие и кибербезопасность, но и серьезные злоупотребления, такие как безопасность детей, использование государственными структурами и насилие.

О РОЛИ

Ученые по защите (Protection Scientists) в команде Integrity разрабатывают, оркеструют и совершенствуют системы защиты от вредоносного использования продуктов OpenAI. Мы мыслим системно, сочетая глубокую экспертизу в области вреда с широкими знаниями в области расследований, науки о данных, машинного обучения, политики и операционной деятельности. Наша отличительная сила заключается в понимании того, как эти дисциплины взаимосвязаны, и в переводе между ними для разработки и создания эффективных систем защиты.

Ваша основная техническая ответственность — обнаружение вреда. Вы будете проектировать, создавать, оценивать и поддерживать производственные системы обнаружения, используя опыт расследований, данные и общие инженерные платформы. Вы будете разрабатывать сигналы, классификаторы и системы обнаружения, а также улучшать их способность точно идентифицировать вредоносную активность по мере развития продуктов и поведения.

Вы также будете отвечать за стратегию и кросс-функциональную реализацию мер защиты для определенной области вреда или запуска продукта. Тесно сотрудничая с следователями и другими экспертами в данной области, вы будете основывать дизайн на глубоком понимании того, как возникает вред, и преобразовывать это понимание в систему защиты. Вы будете связывать обнаружение с политикой, проверкой, вмешательством, правоприменением и измерением, постоянно калибруя систему на основе реальных случаев и экспертных суждений по мере ее масштабирования.

Вы будете определять, что необходимо построить или изменить, и добиваться этого. Успех требует постановки четких приоритетов, согласования действий партнеров, разрешения зависимостей и четкой передачи информации о доказательствах, решениях и компромиссах. Он также требует готовности взять на себя прямую работу над всем, что препятствует эффективности системы, используя широкий спектр ваших навыков.

Эта должность предполагает работу в наших офисах в Сан-Франциско, Нью-Йорке или Лондоне и участие во внеплановом дежурстве, которое может включать разрешение срочных эскалаций в нерабочее время. Некоторые расследования могут затрагивать конфиденциальный контент, включая сексуальные, насильственные или иным образом тревожные материалы.

В ЭТОЙ РОЛИ ВЫ БУДЕТЕ:

• Определять и продвигать стратегию защиты для определенной области вреда или запуска. Преобразовывать неоднозначные риски в цели, приоритеты и дорожные карты, а также принимать решения о компромиссах на основе доказательств, рисков и имеющихся возможностей.
• Непосредственно создавать и поддерживать системы обнаружения вреда. Разрабатывать производственные сигналы, классификаторы и конвейеры, используя SQL, Python, машинное обучение и языковые модели, интегрируясь с общими инженерными платформами.
• Руководить кросс-функциональной реализацией. Выступать посредником между специалистами, устанавливать общее понимание и ответственность, разрешать технические и организационные зависимости, а также четко доносить рекомендации и конкретные запросы.
• Исследовать новые виды вреда и паттерны злоупотреблений. Работать с лучшими в своем классе экспертами в данной области, чтобы отличать вредоносную активность от законного использования, разрабатывать критерии обнаружения и информировать партнеров по политике и операционной деятельности о политике и протоколах проверки.
• Оценивать и улучшать полную систему защиты. Измерять остаточный вред, качество обнаружения и эффективность вмешательства, а также сотрудничать с Data Science по более сложным метрикам. Использовать обратную связь от экспертов и операционные результаты для руководства улучшениями.
• Обеспечивать защиту при запуске продуктов и моделей. Определять требования к данным, обнаружению и проверке; устанавливать мониторинг; расследовать пробелы и критические эскалации; а также вносить улучшения на основе результатов после запуска.
• Масштабировать эффективные подходы с помощью языковых моделей, агентов и многоразовых инструментов. Определять, где необходима автоматизация и человеческое суждение, а также создавать документацию и процессы, которые повышают надежность и помогают другим расширять работу.

ВАМ МОЖЕТ ПОДОЙТИ ЭТА РОЛЬ, ЕСЛИ ВЫ:

• Мыслите системно. Обладаете достаточной широтой знаний в технических, аналитических, следственных и операционных дисциплинах, чтобы понимать, как они взаимосвязаны, выявлять пробелы и выступать посредником между различными точками зрения.
• Обладаете глубокой экспертизой как минимум в одной релевантной области вреда, полученной в ходе работы в сфере обеспечения целостности, доверия и безопасности, безопасности, расследований или смежных областях. Вы подходите к незнакомым проблемам с любопытством и уважением к экспертным знаниям, и вас мотивирует снижение вреда.
• Уверенно владеете SQL и Python, а также имеете опыт написания надежного и эффективного производственного кода для обнаружения и обработки данных. Дополнительный опыт в области ML или SWE является преимуществом.
• Можете применять количественный анализ и методы машинного обучения для измерения рисков и оценки эффективности систем. Вы понимаете ограничения ваших данных и можете рассуждать об упущенном вреде, ложных срабатываниях и соответствующих мерах вмешательства. Дополнительный опыт в области DS/измерений является преимуществом.
• Имеете опыт разработки стратегии и реализации сложных, кросс-функциональных технических проектов. Вы можете превратить неоднозначную проблему в план, согласовать действия людей с разными приоритетами и довести работу до завершения.
• Четко и лаконично общаетесь в письменной форме и устно. Вы можете объяснять технические выводы, давать практические рекомендации и четко представлять неопределенность и компромиссы различным аудиториям.
• Можете использовать языковые модели и другую автоматизацию для масштабирования аналитической, следственной или операционной работы, с оценкой и человеческим надзором, соответствующими проблеме.

О OpenAI

OpenAI — это компания, занимающаяся исследованиями и разработкой ИИ, целью которой является обеспечение того, чтобы общий искусственный интеллект приносил пользу всему человечеству. Мы расширяем границы возможностей систем ИИ и стремимся безопасно внедрять их в мир через наши продукты. ИИ — это чрезвычайно мощный инструмент, который должен создаваться с учетом безопасности и человеческих потребностей в его основе, и для достижения нашей миссии мы должны охватывать и ценить множество различных точек зрения, голосов и опыта, составляющих весь спектр человечества.

Мы являемся работодателем, предоставляющим равные возможности, и не дискриминируем по признаку расы, религии, цвета кожи, национального происхождения, пола, сексуальной ориентации, возраста, статуса ветерана, инвалидности, генетической информации или других применимых юридически защищенных характеристик.

Дополнительную информацию можно найти в Заявлении о политике добровольного продвижения по службе и равных возможностей трудоустройства OpenAI.

Проверка биографических данных кандидатов будет проводиться в соответствии с применимым законодательством, а квалифицированные кандидаты с судимостями или обвинительными приговорами будут рассматриваться для трудоустройства в соответствии с этими законами, включая Ордонанс о справедливых шансах Сан-Франциско, Ордонанс о справедливых шансах для работодателей округа Лос-Анджелес и Закон о справедливых шансах Калифорнии для кандидатов из США. Для работников округа Лос-Анджелес, не являющихся корпоративными: мы разумно полагаем, что криминальное прошлое может иметь прямую, неблагоприятную и негативную связь со следующими должностными обязанностями, потенциально приводя к отзыву условного предложения о трудоустройстве: защита компьютерного оборудования, доверенного вам, от кражи, потери или повреждения; возврат всего компьютерного оборудования, находящегося в вашем распоряжении (включая содержащиеся в нем данные), после прекращения трудовых отношений или окончания задания; и поддержание конфиденциальности проприетарной, конфиденциальной и непубличной информации. Кроме того, должностные обязанности требуют доступа к защищенным информационным технологиям и связанных с этим обязательств по безопасности данных.

Чтобы уведомить OpenAI о том, что вы считаете, что это объявление о вакансии не соответствует требованиям, пожалуйста, отправьте отчет через эту форму. Ответы на запросы, не связанные с соответствием объявления о вакансии, предоставляться не будут.

Мы стремимся предоставлять разумные приспособления для кандидатов с ограниченными возможностями, и запросы можно сделать по этой ссылке.

Политика конфиденциальности OpenAI для глобальных кандидатов

В OpenAI мы верим, что искусственный интеллект обладает потенциалом помочь людям решить огромные глобальные проблемы, и мы хотим, чтобы преимущества ИИ были широко распространены. Присоединяйтесь к нам в формировании будущего технологий.