Инженер-исследователь, Наука масштабирования RL

Компания: Anthropic
Местоположение: Лондон, Великобритания

О компании Anthropic

Миссия Anthropic — создавать надежные, интерпретируемые и управляемые системы искусственного интеллекта. Мы хотим, чтобы ИИ был безопасным и полезным для наших пользователей и для общества в целом. Наша команда — это быстрорастущая группа преданных своему делу исследователей, инженеров, экспертов по политике и бизнес-лидеров, работающих вместе над созданием полезных систем ИИ.

О роли

Команда Anthropic по науке масштабирования RL изучает, как ведет себя обучение с подкреплением при масштабировании (по размеру модели, вычислительным ресурсам и горизонту задач), и использует это понимание для создания рецептов обучения наших передовых моделей. В роли инженера-исследователя в этой команде вы будете разрабатывать и проводить масштабные эксперименты для понимания и устранения узких мест, создавать эталоны, которые делают возможным измерение прогресса на дальних горизонтах, и внедрять проверенные результаты непосредственно в производственное обучение.

Эта роль находится на стыке исследований и инженерии. Проблемы открыты, эксперименты проводятся на передовом уровне, а путь от надежного результата до внедрения в производство короток.

Ключевые обязанности

• Разработка, проведение и интерпретация масштабных экспериментов по обучению с подкреплением, строго рассуждая о том, что показывают данные, а что нет.
• Исследование того, как улучшается обучение с подкреплением с ростом горизонта, вычислительных ресурсов и размера модели.
• Создание и поддержка эталонов для обучения с подкреплением на дальних горизонтах, чтобы прогресс был измеримым и воспроизводимым.
• Преобразование проверенных результатов в рецепты производственного обучения, проявляя суждение о том, когда результат достаточно надежен для внедрения.
• Отладка сложных проблем на стыке исследований и инфраструктуры — сбоев, которые проявляются только при масштабировании.
• Тесное сотрудничество со смежными командами RL в области исследований и инженерии и развитие нашего общего стека RL.

Минимальные требования

• Сильные навыки эмпирических исследований в области обучения с подкреплением, масштабного обучения ML или смежной области.
• Подтвержденная способность управлять крупномасштабными экспериментами от начала до конца, от проектирования до интерпретации.
• Владение Python и опыт работы с крупномасштабными или распределенными системами ML.
• Комфортное взаимодействие на границе исследований и систем, включая отладку в местах их пересечения.
• Забота о социальном влиянии ИИ и ответственном масштабировании.

Предпочтительные квалификации

• Опубликованные или внедренные работы в области обучения с подкреплением на дальних горизонтах или основ обучения с подкреплением.
• Опыт преобразования результатов исследований в рецепты производственного обучения.
• Подтвержденное крупномасштабное отраслевое влияние посредством вмешательств RL.
• Опыт работы с крупномасштабными тренировками на передовом уровне с длинными траекториями.

Типовые проекты

• Разработка набора эталонов для обучения с подкреплением на дальних горизонтах, который отличает реальное повышение возможностей от артефактов настройки оценки.
• Использование многообещающего экспериментального результата, тестирование его в различных масштабах моделей и работа с командами по обучению для внедрения его в производственный рецепт.
• Исследование неожиданной тенденции масштабирования в запуске RL и определение ее первопричины, охватывающей алгоритм, данные и инфраструктуру.

Годовой диапазон компенсации для этой роли указан ниже. Для должностей, связанных с продажами, указанный диапазон — это диапазон целевого заработка («OTE»), что означает, что диапазон включает как целевые комиссионные/бонусы по продажам, так и годовой базовый оклад для данной должности.

Годовая зарплата: £375 000 — £640 000 GBP

Логистика

• Минимальное образование: Степень бакалавра или эквивалентное сочетание образования, обучения и/или опыта.
• Требуемая область обучения: Область, относящаяся к роли, подтвержденная курсовой работой, обучением или профессиональным опытом.
• Минимальное количество лет опыта: Требуемое количество лет опыта будет коррелировать с требованиями к внутреннему уровню должности.
• Гибридная политика на основе местоположения: В настоящее время мы ожидаем, что все сотрудники будут находиться в одном из наших офисов не менее 25% времени. Однако некоторые должности могут требовать большего времени пребывания в наших офисах.
• Визовая поддержка: Мы спонсируем визы! Однако мы не можем успешно спонсировать визы для каждой должности и каждого кандидата. Но если мы сделаем вам предложение, мы приложим все разумные усилия, чтобы получить для вас визу, и мы привлекаем иммиграционного юриста для помощи в этом.

Мы призываем вас подать заявку, даже если вы считаете, что не соответствуете всем перечисленным требованиям. Не все сильные кандидаты соответствуют всем перечисленным требованиям. Исследования показывают, что люди, принадлежащие к недопредставленным группам, более склонны испытывать синдром самозванца и сомневаться в силе своей кандидатуры, поэтому мы настоятельно призываем вас не исключать себя преждевременно и подать заявку, если вы заинтересованы в этой работе. Мы считаем, что системы ИИ, подобные тем, которые мы создаем, имеют огромные социальные и этические последствия. Мы считаем, что это делает представительство еще более важным, и мы стремимся включать в нашу команду разнообразные точки зрения.

В чем мы отличаемся

Мы считаем, что наиболее значимые исследования в области ИИ будут крупными научными проектами. В Anthropic мы работаем как единая сплоченная команда над несколькими крупномасштабными исследовательскими проектами. И мы ценим влияние — продвижение наших долгосрочных целей по созданию управляемого, надежного ИИ — а не работу над более мелкими и конкретными задачами. Мы рассматриваем исследования ИИ как эмпирическую науку, которая имеет столько же общего с физикой и биологией, сколько с традиционными компьютерными науками. Мы чрезвычайно ориентированная на сотрудничество группа, и мы проводим частые исследовательские дискуссии, чтобы гарантировать, что мы занимаемся наиболее влиятельной работой в данный момент. Как таковые, мы высоко ценим коммуникативные навыки.

Самый простой способ понять наши исследовательские направления — прочитать наши последние исследования. Эти исследования продолжают многие направления, над которыми наша команда работала до Anthropic, в том числе: GPT-3, интерпретируемость на основе схем, мультимодальные нейроны, законы масштабирования, ИИ и вычисления, конкретные проблемы в области безопасности ИИ и обучение на основе предпочтений человека.

Присоединяйтесь к нам!

Anthropic — это корпорация, действующая в общественных интересах, со штаб-квартирой в Сан-Франциско. Мы предлагаем конкурентоспособную компенсацию и льготы, возможность пожертвования акций с подбором, щедрый отпуск и отпуск по уходу за ребенком, гибкий график работы и приятное офисное пространство для сотрудничества с коллегами. Руководство по использованию ИИ кандидатами: Узнайте о нашей политике использования ИИ в процессе подачи заявки.