Research Engineer / Research Scientist, Human Flourishing

Миссия команды Human Flourishing заключается в том, чтобы системы ИИ понимали и способствовали процветанию человека. Поскольку ИИ становится всё более способным и играет всё большую роль в жизни людей, мы хотим, чтобы его преимущества для человека росли вместе с его возможностями. Команда Human Flourishing является частью более крупной организации Personal AGI.

Наш подход состоит из двух частей. Во-первых, мы измеряем и улучшаем понимание, возможности и склонность моделей действовать в соответствии с ценностями людей и помогать им достигать долгосрочных целей. Во-вторых, мы напрямую масштабируем ощутимое влияние для пользователей в таких областях человеческой деятельности, как образование и психическое здоровье, работая над исследованиями, продуктами и партнерствами, чтобы увеличить пользу, которую еженедельно получают более миллиарда человек при использовании ChatGPT.

Наша недавняя работа включает Beneficial RL, в рамках которой исследуется, как обучение благоприятному поведению обобщается в различных условиях, и MentalHealthBench — эталон для оценки реалистичных бесед, разработанный совместно с экспертами в области психического здоровья.

Мы ищем исключительного, практичного исследователя, который сможет превратить трудноопределимые сигналы долгосрочного процветания в измеримые улучшения поведения моделей. Вы будете помогать определять направление исследований, создавать инструменты для проверки своих идей и внедрять успешные наработки в модели и продукты, которые мы выпускаем.

OpenAI — это компания, занимающаяся исследованиями и внедрением ИИ, призванная обеспечить, чтобы общий искусственный интеллект приносил пользу всему человечеству. Мы раздвигаем границы возможностей систем ИИ и стремимся безопасно внедрять их в мир посредством наших продуктов. ИИ — это чрезвычайно мощный инструмент, который должен создаваться с учетом безопасности и потребностей человека в его основе, и для достижения нашей миссии мы должны охватывать и ценить множество различных точек зрения, голосов и опыта, которые составляют полный спектр человечества.

В OpenAI мы верим, что искусственный интеллект имеет потенциал помочь людям решить огромные глобальные проблемы, и мы хотим, чтобы преимущества ИИ были широко распространены. Присоединяйтесь к нам в формировании будущего технологий.

• Разрабатывать масштабируемые методы обучения по всему стеку обучения, которые улучшают понимание моделями ценностей людей, поддерживают их свободу воли и помогают им достигать долгосрочных целей
• Руководить высокоэффективными исследованиями от открытого вопроса до внедренного улучшения: выбирать трудноопределимую проблему, итеративно определять критерии успеха, проводить эксперименты и интегрировать результаты в передовые модели
• Создавать среды RL для труднопроверяемых результатов и изучать, обобщается ли благоприятное поведение в различных условиях
• Создавать оценки, основанные на экспертных знаниях и обратной связи от людей, которые выявляют пробелы в возможностях, непреднамеренные стимулы в RL и сбои, которые могут быть упущены при агрегировании показателей
• Проверять, предсказывают ли меры поведения модели лучшее обучение, благополучие и другие долгосрочные результаты, и использовать эти выводы для руководства процессом обучения
• Создавать новые возможности «с нуля» в областях человеческой деятельности, которые могут оказывать возрастающее влияние с учетом грядущего повышения интеллекта моделей и вычислительных ресурсов во время тестирования
• Сотрудничать с командами по продуктам, инженерами, командами по партнерству и экспертами в предметных областях для развертывания перспективных методов, измерения их эффектов в реальном использовании и преобразования полученных знаний в дальнейшие улучшения
• Оценивать влияние ИИ на процветание человека в масштабе более миллиарда пользователей

Особый интерес для нас представляют исследователи с глубоким опытом улучшения передовых моделей посредством предварительного обучения или обучения с подкреплением (RL) / постобучения, особенно в менее проверяемых задачах, или исследователи, сочетающие сильные навыки LLM с глубокой экспертизой в таких областях, как образование или психическое здоровье. Предыдущий опыт в этих областях не требуется.

• Глубоко заботитесь о том, чтобы ИИ улучшал жизнь людей, и чувствуете, что это ответственность, связанная с растущими возможностями моделей
• Имеете необычайно сильную историю исследований в области предварительного обучения или RL / постобучения, особенно в труднопроверяемой области; или сочетаете сильные навыки исследований LLM с глубокой экспертизой в области образования, психического здоровья или смежной области пользы для человека
• Являетесь практичным разработчиком, который может превращать идеи в строгие эксперименты, писать и отлаживать код, а также напрямую работать с данными и инфраструктурой обучения
• Обладаете вкусом к выбору значимых проблем и действенных шагов на пути к их решению
• Берете на себя ответственность за неоднозначные проблемы и выбираете методы, исходя из потенциального воздействия, включая случаи, когда наиболее полезная работа не является гламурной
• Заботитесь о том, будет ли возможность масштабироваться, обобщаться и внедряться в реальный мир — а не только о том, можно ли ее представить в статье или прототипе
• Хорошо работаете в междисциплинарных командах и можете уловить наиболее важные узкие места для масштабирования нашего влияния в междисциплинарной проблеме