Research Engineer / Performance Engineer, RL Distributed Systems

Вознаграждение (годовой оклад): 500 000 – 850 000 долларов США в год

О Anthropic Миссия Anthropic — создавать надежные, интерпретируемые и управляемые системы ИИ. Мы хотим, чтобы ИИ был безопасным и полезным для наших пользователей и для общества в целом. Наша команда — это быстрорастущая группа преданных своему делу исследователей, инженеров, экспертов по политике и бизнес-лидеров, работающих вместе над созданием полезных систем ИИ. О роли Обучение с подкреплением (RL) — это то, как Claude учится рассуждать, писать код и действовать автономно в течение длительного времени. В масштабе передовых технологий выполнение RL-запуска — это необычайно требовательная распределенная система. Обучение, выборка и выполнение среды выполняются одновременно на большом парке ускорителей и хостов, непрерывно обмениваются данными и должны добиваться прогресса, пока аппаратное обеспечение выходит из строя, меняется нагрузка и меняются исследования. То, насколько хорошо эта система работает, определяет, сколько нашего вычислительного времени превращается в обучение и как быстро команда сможет попробовать следующую идею. В качестве инженера-исследователя в команде распределенных систем отдела RL Engineering вы будете работать над той частью этой системы, которая в данный момент является ограничивающим фактором. Это может быть планирование и размещение, перемещение данных между компонентами, запуск большого количества изолированных сред, хранение и контрольные точки, сети, отказоустойчивость, автоматическое масштабирование или наблюдаемость, которая сообщает нам, что на самом деле делает запуск. Мы ищем универсальных специалистов: инженеров, которые могут перемещаться между этими уровнями, рассуждать по основным принципам о системе, которую они никогда раньше не видели, и выбирать наиболее важную проблему, а не ту, которая ближе к их предыдущему опыту. Наша система меняется так же быстро, как и исследования, корректность при сбоях так же важна, как и пропускная способность, а лучшие решения часто возникают благодаря достаточному пониманию рабочей нагрузки машинного обучения, чтобы знать, какие гарантии ей действительно необходимы. Сильные кандидаты создавали и эксплуатировали большие распределенные системы, заботятся о точности деталей и хотят применить этот опыт к рабочей нагрузке, которая очень велика, очень гетерогенна и быстро меняется. Ключевые обязанности Проектирование, создание и эксплуатация распределенных систем, которые выполняют RL в масштабе, включая обучение, выборку и выполнение среды. Поиск и устранение всего, что в данный момент ограничивает систему, будь то планирование, перемещение данных, хранение, сети или координация. Внедрение отказоустойчивости на каждом уровне: обнаружение сбоев, изоляция и восстановление, которые позволяют долгосрочным заданиям добиваться прогресса без вмешательства человека. Проектирование управления ресурсами и автоматического масштабирования, чтобы вычислительные ресурсы соответствовали спросу по мере изменения потребностей запуска. Создание наблюдаемости, позволяющей понять, что делает запуск, и почему он замедлился, застопорился или дал неожиданные результаты. Создание автоматизации, которая обнаруживает и устраняет распространенные проблемы, и проектирование интерфейсов, которые позволяют инженерам и автоматизированным инструментам безопасно управлять запусками. Работа с исследователями и инженерами по производительности, чтобы гарантировать, что изменения в системах сохраняют корректность обучения и не вносят тонкий недетерминизм. Устранение классов сбоев у их источника посредством анализа инцидентов, тестирования и редизайна, а также написание четких проектных документов для создаваемых вами решений. Минимальные требования Сильные навыки разработки программного обеспечения на Python и как минимум на одном системном языке, таком как Rust, C++ или Go. Опыт проектирования, создания и эксплуатации крупномасштабных распределенных систем в производственной среде. Глубокое понимание основ распределенных систем, включая согласованность, координацию, консенсус, режимы сбоев и восстановление. Способность количественно оценивать пропускную способность, задержку и затраты на ресурсы в вычислительной технике, памяти, хранилище и сети. Опыт отладки сложных сбоев на многих хостах и ​​службах, включая сбои, которые невозможно воспроизвести локально. Отличные навыки письменного общения, включая проектные документы и отчеты об инцидентах. Предпочтительные квалификации Опыт эксплуатации инфраструктуры обучения или инференса машинного обучения в масштабе. Опыт работы на нескольких уровнях стека, таких как планирование, хранение, сети и оркестрация. Опыт создания планировщиков, систем автоматического масштабирования или управления ресурсами. Опыт работы с оркестрацией контейнеров, такой как Kubernetes, и с выполнением изолированного или виртуализированного кода в масштабе. Опыт работы с высокопроизводительными сетями, RDMA или библиотеками коллективных коммуникаций. Опыт создания систем наблюдаемости или автоматического устранения неполадок для больших парков. Опыт работы с асинхронными фреймворками Python, такими как Trio или asyncio. Знакомство с рабочими нагрузками обучения с подкреплением или больших языковых моделей. Примеры проектов Разработка планировщика, который размещает задачи обучения, выборки и выполнения среды в гетерогенном кластере, учитывая топологию сети и домены сбоев. Создание системы обнаружения и восстановления сбоев, которая позволяет долгосрочному заданию пережить сбои хоста и сети с минимальными потерями работы. Существенное масштабирование выполнения среды без увеличения хвостовой задержки для этапа обучения. Разработка политики автоматического масштабирования, которая перераспределяет вычислительные ресурсы между компонентами по мере смещения узкого места в запуске. Создание системы диагностики, объясняющей, почему пропускная способность запуска снизилась, и предлагающей исправление. Отслеживание редкой ошибки повреждения данных в нескольких службах до состояния гонки в пути восстановления и редизайн пути, чтобы такой класс ошибок не мог повториться. Проектирование операционного интерфейса для запуска, чтобы автоматизированные инструменты могли безопасно диагностировать и настраивать его под наблюдением человека. Годовой диапазон компенсации для этой роли указан ниже. Для ролей в продажах указанный диапазон — это диапазон «Целевого дохода» («OTE») для данной роли, что означает, что диапазон включает как целевые комиссионные/бонусы по продажам, так и годовой базовый оклад для этой роли. Годовой оклад: 500 000 — 850 000 долларов США Логистика Минимальное образование: Степень бакалавра или эквивалентное сочетание образования, обучения и/или опыта. Требуемая область обучения: Область, релевантная роли, подтвержденная курсовой работой, обучением или профессиональным опытом. Минимальный стаж: Количество лет опыта, необходимых для позиции, будет коррелировать с требованиями к внутреннему уровню должности. Гибридная политика на основе местоположения: в настоящее время мы ожидаем, что все сотрудники будут находиться в одном из наших офисов не менее 25% времени. Однако некоторые роли могут требовать больше времени в наших офисах. Визовая поддержка: Мы предоставляем визовую поддержку! Однако мы не можем успешно оказывать визовую поддержку для каждой роли и каждого кандидата. Но если мы сделаем вам предложение, мы приложим все разумные усилия, чтобы получить для вас визу, и мы привлекаем иммиграционного адвоката для помощи в этом. Мы призываем вас подавать заявку, даже если вы считаете, что не соответствуете каждому требованию. Не все сильные кандидаты будут соответствовать каждому перечисленному требованию. Исследования показывают, что люди, которые идентифицируют себя как принадлежащие к недопредставленным группам, более склонны испытывать синдром самозванца и сомневаться в своей кандидатуре, поэтому мы настоятельно призываем вас не исключать себя преждевременно и подавать заявку, если вас интересует эта работа. Мы считаем, что системы ИИ, подобные тем, которые мы создаем, имеют огромные социальные и этические последствия. Мы считаем, что это делает представительство еще более важным, и мы стремимся включать в нашу команду разнообразный спектр точек зрения. Ваша безопасность имеет для нас значение. Чтобы защитить себя от возможных мошеннических действий, помните, что рекрутеры Anthropic связываются с вами только с адресов электронной почты @anthropic.com. В некоторых случаях мы можем сотрудничать с проверенными рекрутинговыми агентствами, которые будут представляться как работающие от имени Anthropic. Будьте осторожны с письмами с других доменов. Легитимные рекрутеры Anthropic никогда не будут запрашивать деньги, сборы или банковскую информацию до вашего первого рабочего дня. Если вы когда-либо сомневаетесь в сообщении, не нажимайте никаких ссылок — перейдите непосредственно на anthropic.com/careers, чтобы узнать об открытых вакансиях. Чем мы отличаемся Мы считаем, что исследования ИИ с наибольшим влиянием будут относиться к «большой науке». В Anthropic мы работаем как единая сплоченная команда над несколькими крупномасштабными исследовательскими проектами. И мы ценим влияние — продвижение наших долгосрочных целей по созданию управляемого, заслуживающего доверия ИИ, — а не работу над мелкими и более специфическими задачами. Мы рассматриваем исследования ИИ как эмпирическую науку, которая имеет столько же общего с физикой и биологией, сколько и с традиционными направлениями в области компьютерных наук. Мы чрезвычайно совместная группа, и мы часто проводим исследовательские дискуссии, чтобы гарантировать, что мы занимаемся работой с наибольшим влиянием в данный момент. Таким образом, мы высоко ценим коммуникативные навыки. Самый простой способ понять наши исследовательские направления — прочитать наши последние исследования. Эти исследования продолжают многие направления, над которыми работала наша команда до Anthropic, включая: GPT-3, Circuit-Based Interpretability, Multimodal Neurons, Scaling Laws, AI & Compute, Concrete Problems in AI Safety и Learning from Human Preferences. Присоединяйтесь к нам! Anthropic — это общественная корпорация с ограниченной ответственностью, расположенная в Сан-Франциско. Мы предлагаем конкурентоспособную компенсацию и льготы, добровольное пожертвование акций с соответствующим совпадением, щедрый отпуск и отпуск по уходу за ребенком, гибкий график работы и прекрасное офисное пространство для совместной работы с коллегами. Руководство по использованию ИИ кандидатами: Узнайте о нашей политике использования ИИ в процессе подачи заявления.