Researcher, Safety Training, National Security

Компенсация: 380 000 - 500 000 долларов США в год

О КОМАНДЕ

Команда исследователей в области обучения безопасности стремится фундаментально расширить наши возможности для точного внедрения безопасного поведения в моделях ИИ и использовать эти достижения для обеспечения безопасности и пользы развернутых моделей OpenAI. Это требует широкого спектра новых ML-исследований для решения растущего числа задач безопасности по мере того, как ИИ становится все более мощным и используется в большем числе сценариев. Основные направления включают: как обучать тонкому безопасному поведению, как сделать модель устойчивой к злоумышленникам, как решать проблемы конфиденциальности и безопасности, и как сделать модель надежной в критически важных для безопасности ситуациях.

Мы стремимся учиться на основе развертывания и распространять преимущества ИИ, обеспечивая при этом ответственное и безопасное использование этого мощного инструмента.

О РОЛИ

Мы ищем исследователя для обучения и оценки моделей для использования правительством США, с акцентом на применение в области национальной безопасности. Вы будете заниматься повышением безопасности после обучения и устойчивости, помогая моделям следовать тонкой политике, сохраняя при этом их полезность и возможности.

В ЭТОЙ РОЛИ ВЫ БУДЕТЕ:

• Исследовать и внедрять методы обучения безопасности, обучения с подкреплением и устойчивости к атакам.

• Разрабатывать оценки, выявлять режимы сбоев моделей и использовать результаты для улучшения обучения.

• Работать с партнерами из сферы исследований, инженерии, безопасности и политики для поддержки безопасного и надежного развертывания.

ВЫ МОЖЕТЕ ПРЕУСПЕТЬ В ЭТОЙ РОЛИ, ЕСЛИ ВЫ:

• Имеете 4+ года релевантного опыта исследований в области безопасности ИИ, включая RLHF, обучение с подкреплением или устойчивость.

• Имеете степень в области компьютерных наук, машинного обучения или смежной области, а также сильные навыки исследований или инженерии в области глубокого обучения.

• Имеете опыт улучшения безопасности моделей для развертывания и вам нравится совместная исследовательская работа.

• Мотивированы миссией OpenAI и ответственным использованием ИИ в критически важных для безопасности ситуациях.

ТРЕБОВАНИЯ К БЕЗОПАСНОСТИ

• Действующее разрешение TS/SCI или эквивалентное.

О OpenAI

OpenAI — это компания, занимающаяся исследованиями и развертыванием ИИ, целью которой является обеспечение того, чтобы общий искусственный интеллект приносил пользу всему человечеству. Мы расширяем границы возможностей систем ИИ и стремимся безопасно развертывать их в мире через наши продукты. ИИ — это чрезвычайно мощный инструмент, который должен создаваться с акцентом на безопасность и потребности человека, и для достижения нашей миссии мы должны охватывать и ценить множество различных точек зрения, голосов и опыта, составляющих полный спектр человечества.

Мы являемся работодателем, предоставляющим равные возможности, и не дискриминируем по признаку расы, религии, цвета кожи, национального происхождения, пола, сексуальной ориентации, возраста, статуса ветерана, инвалидности, генетической информации или других применимых юридически защищенных характеристик.

Дополнительную информацию см. в Политике OpenAI в отношении позитивных действий и равных возможностей трудоустройства.

Проверка кандидатов будет проводиться в соответствии с применимым законодательством, а подходящие кандидаты с историей арестов или судимостей будут рассматриваться для трудоустройства в соответствии с этими законами, включая Ордонанс о справедливых шансах Сан-Франциско, Ордонанс округа Лос-Анджелес для работодателей о справедливых шансах и Закон Калифорнии о справедливых шансах для кандидатов из США. Для работников, не входящих в состав округа Лос-Анджелес: мы разумно полагаем, что криминальная история может иметь прямую, неблагоприятную и негативную связь с указанными должностными обязанностями, потенциально приводя к отзыву условного предложения о работе: защита компьютерного оборудования, доверенного вам, от кражи, утери или повреждения; возврат всего компьютерного оборудования, находящегося в вашем распоряжении (включая содержащиеся в нем данные), после прекращения трудовых отношений или окончания поручения; и сохранение конфиденциальности проприетарной, конфиденциальной и непубличной информации. Кроме того, должностные обязанности требуют доступа к безопасным и защищенным информационным технологическим системам и связанных с ними обязательств по безопасности данных.

Чтобы уведомить OpenAI о том, что вы считаете эту вакансию не соответствующей требованиям, пожалуйста, отправьте отчет через специальную форму для сообщений о несоответствии. Ответы на запросы, не связанные с соответствием вакансии, предоставляться не будут.

Мы стремимся предоставлять разумные приспособления для кандидатов с ограниченными возможностями, запросы могут быть направлены через специальную форму запроса на приспособление.

Политика OpenAI в отношении конфиденциальности глобальных данных заявителей

В OpenAI мы считаем, что искусственный интеллект обладает потенциалом помочь людям решать огромные глобальные проблемы, и мы хотим, чтобы преимущества ИИ были широко распространены. Присоединяйтесь к нам в формировании будущего технологий.