Software Engineer, Safety Engineering

Компенсация: $207 000 - $385 000 в год

О команде

Организация Safety Systems отвечает за различные работы по обеспечению безопасности, чтобы наши лучшие модели могли безопасно применяться в реальном мире на благо общества, и находится на переднем крае миссии OpenAI по созданию и развертыванию безопасного ИИ общего назначения (AGI), продвигая нашу приверженность безопасности ИИ и развивая культуру доверия и прозрачности.

Команда Safety Engineering создает платформы и инструменты, которые делают модели OpenAI безопасными для использования в реальном мире. Мы тесно сотрудничаем с исследователями, продуктовыми командами и отделами политики для воплощения идей по обеспечению безопасности в надежные, масштабируемые системы: измерение рисков, обеспечение защиты и постоянное улучшение поведения моделей в производственной среде. Наша работа находится на стыке продуктовой инженерии, данных и ИИ, и напрямую формирует опыт миллионов людей при взаимодействии с технологиями OpenAI.

О роли

Мы ищем самостоятельного инженера, который любит создавать продукты в итеративной, быстро меняющейся среде — особенно внутренние инструменты, которые приносят реальную пользу. В этой роли вы будете создавать полнофункциональные инструменты для наших команд Safety Systems, которые напрямую повышают безопасность и надежность моделей OpenAI, в том числе в таких чувствительных областях, как психическое здоровье и защита других уязвимых пользователей. Ваша работа повысит скорость команды в выявлении и устранении проблем безопасности и поможет сузить цикл обратной связи между политикой, данными и процессом обучения моделей.

В этой роли вы будете:

• Отвечать за полный цикл разработки внутренних инструментов, которые помогают повысить безопасность моделей OpenAI (с акцентом на такие области, как психическое здоровье и защита других уязвимых пользователей).
• Тесно сотрудничать с исследователями, инженерами и создателями политики безопасности для понимания рабочих процессов, проблем и требований — и преобразовывать их в надежные продуктовые решения.
• Создавать полнофункциональные интерфейсы для поддержки основных рабочих процессов политики моделей, таких как маркировка и проверка данных, анализ и обзор случаев сбоев, а также предоставление аналитических данных для итераций.
• Оптимизировать внутренние приложения для удобства использования, скорости и масштабируемости, чтобы повысить скорость работы команды и сократить время устранения проблем безопасности.
• Преобразовывать успешные рабочие процессы обеспечения безопасности с помощью ИИ во внешние продукты безопасности, которые позволят разработчикам создавать более безопасный ИИ, повысят отраслевой стандарт безопасности ИИ и подготовят мир к более мощному AGI.

Вам может подойти эта роль, если вы:

• Имеете 5+ лет соответствующего опыта работы инженером в технологических компаниях, ориентированных на продукт.
• Уверенно владеете JavaScript, React и другими веб-технологиями.
• Уверенно владеете как минимум одним языком бэкенда (мы используем Python).
• Имеете опыт работы с реляционными базами данных, такими как Postgres/MySQL.
• Имеете интерес к AI/ML (прямой опыт не требуется).
• Готовы тесно сотрудничать с исследователями и авторами политики для выпуска инструментов, которые напрямую повышают безопасность моделей OpenAI.

О OpenAI

OpenAI — это компания, занимающаяся исследованиями и внедрением ИИ, призванная обеспечить, чтобы общий искусственный интеллект приносил пользу всему человечеству. Мы расширяем границы возможностей систем ИИ и стремимся безопасно внедрять их в мир через наши продукты. ИИ — это чрезвычайно мощный инструмент, который должен создаваться с учетом безопасности и потребностей человека в его основе, и для достижения нашей миссии мы должны охватывать и ценить множество различных точек зрения, голосов и опыта, которые составляют полный спектр человечества.

Мы являемся работодателем, предоставляющим равные возможности, и не дискриминируем по признаку расы, религии, цвета кожи, национального происхождения, пола, сексуальной ориентации, возраста, статуса ветерана, инвалидности, генетической информации или других применимых юридически защищенных характеристик.

Дополнительную информацию можно найти в Заявлении о политике позитивных действий и равных возможностей трудоустройства OpenAI.

Проверка биографии кандидатов будет проводиться в соответствии с применимым законодательством, а квалифицированные кандидаты с записями об арестах или судимостях будут рассматриваться для трудоустройства в соответствии с этими законами, включая Закон о справедливых возможностях Сан-Франциско, Закон о справедливых возможностях для работодателей округа Лос-Анджелес и Калифорнийский закон о справедливых возможностях для кандидатов из США. Для работников, не входящих в корпорацию округа Лос-Анджелес: мы разумно полагаем, что криминальная история может иметь прямую, неблагоприятную и негативную связь с указанными должностными обязанностями, что потенциально может привести к отзыву условного предложения о трудоустройстве: защита доверенного вам компьютерного оборудования от кражи, утери или повреждения; возврат всего имеющегося у вас компьютерного оборудования (включая содержащиеся в нем данные) при увольнении или окончании срока задания; и сохранение конфиденциальности проприетарной, конфиденциальной и непубличной информации. Кроме того, должностные обязанности требуют доступа к защищенным и охраняемым информационно-технологическим системам и связанных с ними обязательств по обеспечению безопасности данных.

Чтобы уведомить OpenAI о том, что вы считаете данное объявление о вакансии не соответствующим требованиям, пожалуйста, отправьте отчет через эту форму. Ответы на запросы, не связанные с соответствием объявления о вакансии, предоставлены не будут.

Мы стремимся предоставлять разумные приспособления для кандидатов с ограниченными возможностями, и запросы можно сделать по этой ссылке.

Политика конфиденциальности OpenAI Global Applicant Privacy Policy.

В OpenAI мы верим, что искусственный интеллект обладает потенциалом помочь людям решить огромные глобальные проблемы, и мы хотим, чтобы преимущества ИИ были широко распространены. Присоединяйтесь к нам в формировании будущего технологий.