Software Engineer, Ads Integrity

Должность: Инженер-программист, Ads Integrity Компания: OpenAI Местоположение: Сан-Франциско / Гибридный формат

Компенсация: $293K - $385K в год

О команде

Команда Integrity создает системы, которые защищают продукты OpenAI, пользователей и экосистему от злоупотреблений. Мы работаем над инжинирингом продуктов, инфраструктурой, безопасностью и операционной деятельностью, чтобы выявлять и предотвращать вредоносную, мошенническую, обманную и враждебную деятельность в глобальном масштабе.

По мере того, как OpenAI разрабатывает новые рекламные решения, мы закладываем фундамент целостности, который с самого начала обеспечит безопасность и надежность рекламной экосистемы. Это включает защиту процесса привлечения рекламодателей, выявление небезопасного или нарушающего правила рекламного контента, предотвращение мошеннического и злонамеренного поведения рекламодателей, а также защиту рекламной экосистемы от спама, манипуляций и других форм злоупотреблений.

Ads Integrity — это новая и очень кросс-функциональная область. Команда тесно сотрудничает с командами Ads, Product, Safety, Policy, ML, Privacy, Security и Operations для создания механизмов защиты непосредственно в рекламной платформе, а не поверхностно. Это возможность определить, как целостность работает для новой рекламной экосистемы, исходя из фундаментальных принципов.

О вакансии

Мы ищем опытного инженера-программиста для создания бэкенд-систем и инфраструктуры, которые обеспечат безопасность, надежность и устойчивость рекламных продуктов OpenAI к злоупотреблениям.

В этой основополагающей роли вы будете проектировать системы для обнаружения, предотвращения и реагирования на вредоносную, обманную, мошенническую деятельность или деятельность, нарушающую правила, на протяжении всего жизненного цикла рекламы. Проблемы охватывают привлечение и проверку рекламодателей, управление рисками аккаунтов и поведения, безопасность контента, спам и мошеннические взаимодействия, инфраструктуру обнаружения и принудительного исполнения, а также системы, которые связывают сигналы целостности и модели с решениями по продуктам в реальном времени.

Эта роль не является узкоспециализированной по ML, но знакомство с ML для обеспечения целостности рекламы всегда приветствуется. Вы будете тесно сотрудничать с инженерами и исследователями ML и создавать системы, которые потребляют и операционализируют сигналы на основе ML, но основное внимание будет уделяться проектированию и эксплуатации надежных бэкенд-систем и распределенных систем. Вы поможете определить, как сигналы, правила, модели и человеческая проверка объединяются в надежные механизмы защиты рекламы, способные работать в масштабах OpenAI.

Эта роль особенно подходит инженерам, которые создавали крупномасштабные системы в области целостности, доверия и безопасности, борьбы с злоупотреблениями, мошенничеством, управления рисками, безопасности или в смежных враждебных доменах.

Вы будете нести значительную ответственность за то, что мы создаем и как мы это делаем, сотрудничая с командами Integrity и Ads для создания архитектуры и технических основ, которые будут защищать рекламную экосистему OpenAI по мере ее роста.

Эта роль предполагает работу в Сан-Франциско. Мы предлагаем помощь в релокации для новых сотрудников.

В этой роли вы будете:

• Проектировать и создавать крупномасштабные бэкенд-системы для обнаружения и предотвращения вредоносной, обманной, мошеннической деятельности или деятельности, нарушающей правила, во всей рекламной экосистеме.

• Создавать низколатентную инфраструктуру целостности, способную оценивать сигналы риска и принимать решения в режиме реального времени или близком к нему.

• Разрабатывать масштабируемые конвейеры сигналов риска, системы принятия решений, правила и инфраструктуру принудительного исполнения на протяжении всего жизненного цикла рекламодателя и рекламы.

• Создавать возможности для привлечения рекламодателей, проверки бизнеса, оценки рисков аккаунтов, обнаружения мошенничества и предотвращения злоупотреблений, которые затруднят злоумышленникам вход в экосистему или ее эксплуатацию.

• Разрабатывать системы, поддерживающие безопасность рекламного контента и обеспечивающие обнаружение и принудительное исполнение в отношении небезопасной, вводящей в заблуждение, обманчивой или нарушающей правила рекламы.

• Создавать механизмы защиты от спама, мошеннических взаимодействий, манипуляций и другого враждебного поведения, которое угрожает здоровью рекламной экосистемы.

• Сотрудничать с командами ML для интеграции классификаторов и сигналов на основе моделей в производственные системы целостности, включая как легкие механизмы защиты в реальном времени, так и более сложные асинхронные системы обнаружения.

• Создавать циклы обратной связи, системы проверки и метрики целостности, которые повышают качество обнаружения, одновременно тщательно управляя ложными срабатываниями и их воздействием на законных рекламодателей и пользователей.

• Создавать инструменты и инфраструктуру, позволяющие командам по эксплуатации и политике расследовать злоупотребления и принимать быстрые, последовательные и объяснимые решения.

• Разрабатывать системы, которые адаптируются по мере изменения тактики противников и поддерживают эффективное экспериментирование, мониторинг и реагирование на инциденты.

• Тесно сотрудничать с командой Ads Engineering для интеграции механизмов защиты целостности во всю рекламную платформу без ущерба для надежности, задержки или качества продукта.

• Помогать определять техническую стратегию и архитектуру для Ads Integrity по мере развития как продукта, так и связанного с ним ландшафта угроз.

Вы можете преуспеть в этой роли, если вы:

• Имеете значительный опыт создания и эксплуатации крупномасштабных бэкенд-систем или распределенных систем.

• Работали в области целостности, доверия и безопасности, борьбы с злоупотреблениями, мошенничеством, управления рисками, безопасности, проверки бизнеса или в другой области, где системы должны работать против сложных или меняющихся противников.

• Создавали в производственной среде инфраструктуру для обнаружения, принятия решений, принудительного исполнения, проверки, расследования или управления рисками.

• Понимаете, как правила, эвристики, сигналы риска, сигналы на основе ML и человеческая проверка могут работать вместе в рамках надежной производственной системы.

• Комфортно себя чувствуете при создании инфраструктуры, смежной с ML, и тесном сотрудничестве с командами ML, не будучи экспертом в области ML.

• Создавали низколатентные, высокопроизводительные сервисы или конвейеры данных с высокими требованиями к надежности, корректности, конфиденциальности и безопасности.

• Можете рассуждать о ложных срабатываниях, враждебном поведении, объяснимости, проверяемости и операционном воздействии автоматизированного принудительного исполнения.

• Целостно подходите к моделям угроз, архитектуре систем, качеству данных, наблюдаемости, влиянию на пользователей и состоянию экосистемы.

• Способны определять техническое направление в неопределенной среде 0→1 и самостоятельно управлять сложной работой в разных командах.

• Четко общаетесь и эффективно работаете с командами инженеров, продуктологов, политиков, специалистов по безопасности, операционной деятельности и машинного обучения.

• Имеете опыт работы с рекламой, рекламной целостностью, системами для рекламодателей или мошенничеством в рекламе. Это плюс, но не требование.

• С энтузиазмом относитесь к созданию фундаментальной системы целостности для новой продуктовой области, а не к унаследованию зрелой системы.

О OpenAI

OpenAI — это компания, занимающаяся исследованиями и внедрением ИИ, призванная обеспечить, чтобы общий искусственный интеллект приносил пользу всему человечеству. Мы расширяем границы возможностей систем ИИ и стремимся безопасно внедрять их в мир посредством наших продуктов. ИИ — чрезвычайно мощный инструмент, который должен создаваться с учетом безопасности и потребностей человека в его основе, и для достижения нашей миссии мы должны охватывать и ценить множество различных точек зрения, голосов и опыта, которые составляют полный спектр человечества.

Мы являемся работодателем, предоставляющим равные возможности, и не дискриминируем по признакам расы, религии, цвета кожи, национального происхождения, пола, сексуальной ориентации, возраста, статуса ветерана, инвалидности, генетической информации или других применимых юридически защищенных характеристик.

Для получения дополнительной информации, пожалуйста, ознакомьтесь с Заявлением о политике позитивных действий и равных возможностей трудоустройства OpenAI.

Проверки биографических данных кандидатов будут проводиться в соответствии с применимым законодательством, а квалифицированные кандидаты с историей арестов или судимостей будут рассматриваться для трудоустройства в соответствии с этими законами, включая Ордонанс о справедливых шансах Сан-Франциско, Ордонанс о справедливых шансах округа Лос-Анджелес для работодателей и Калифорнийский закон о справедливых шансах для кандидатов из США. Для работников округа Лос-Анджелес, не являющихся юридическими лицами: мы разумно полагаем, что криминальная история может иметь прямую, неблагоприятную и негативную связь с выполнением следующих должностных обязанностей, что потенциально может привести к отзыву условного предложения о трудоустройстве: защита компьютерного оборудования, доверенного вам, от кражи, потери или повреждения; возврат всего компьютерного оборудования, находящегося в вашем распоряжении (включая содержащиеся в нем данные), по окончании трудоустройства или завершении задания; и сохранение конфиденциальности проприетарной, конфиденциальной и непубличной информации. Кроме того, должностные обязанности требуют доступа к защищенным информационным технологическим системам и связанных с ними обязательств по обеспечению безопасности данных.

Чтобы уведомить OpenAI о том, что, по вашему мнению, это объявление о вакансии не соответствует требованиям, пожалуйста, отправьте отчет через эту форму. Ответы на запросы, не связанные с соответствием объявления о вакансии требованиям, не будут предоставляться.

Мы стремимся предоставлять разумные условия для кандидатов с ограниченными возможностями, и заявки могут быть поданы по этой ссылке.

Политика конфиденциальности OpenAI для глобальных кандидатов

В OpenAI мы считаем, что искусственный интеллект обладает потенциалом помочь людям решить огромные глобальные проблемы, и мы хотим, чтобы преимущества ИИ были широко распространены. Присоединяйтесь к нам в формировании будущего технологий.