Security Engineer / Research Engineer, RL Security

Вознаграждение (Годовой оклад:): 320 000 – 405 000 долларов США в год

О Anthropic

Миссия Anthropic — создавать надежные, интерпретируемые и управляемые системы ИИ. Мы хотим, чтобы ИИ был безопасным и полезным для наших пользователей и для общества в целом. Наша команда — это быстрорастущая группа преданных своему делу исследователей, инженеров, экспертов по политике и бизнес-лидеров, работающих вместе над созданием полезных систем ИИ.

О роли

Обучение с подкреплением (Reinforcement learning — RL) — это то, как Claude учится рассуждать, писать код и действовать автономно в течение длительных периодов времени. В передовом масштабе запуск RL представляет собой большую распределенную систему: обучение, выборка и выполнение среды выполняются одновременно на большом парке ускорителей и хостов. В качестве инженера в RL Engineering вы будете работать над обеспечением безопасности этой системы по мере ее масштабирования.

Это практическая инженерная роль. Вы будете работать с кодовой базой RL и инфраструктурой под ней вместе с инженерами и исследователями, которые ее создают и используют. Система велика и меняется так же быстро, как и исследования, поэтому работа по обеспечению безопасности должна идти в ногу с этим темпом, не снижая производительности или скорости.

Мы нанимаем специалистов двух профилей: инженеров по безопасности, которые хотят работать над крупномасштабными системами машинного обучения, и инженеров систем машинного обучения или исследователей, которые хотят работать над безопасностью. Сильные кандидаты обладают глубокими знаниями в одной области и реальным интересом к другой.

Ключевые обязанности

• Проектирование, создание и эксплуатация средств контроля безопасности для систем обучения RL и инфраструктуры, на которой они работают
• Работа по всему стеку (оркестрация, среды, обучение, инференс) в зависимости от необходимости
• Обзор дизайнов и кода по всему стеку RL, выявление и исправление проблем безопасности
• Создание общих библиотек и инструментов, на основе которых работают другие инженеры и исследователи RL
• Создание средств наблюдения, необходимых для понимания того, что делают эти системы
• Взаимодействие с исследователями и инженерами по производительности для обеспечения того, чтобы изменения в области безопасности сохраняли корректность и производительность обучения
• Написание четких проектных документов для того, что вы создаете

Минимальные требования

• Сильные навыки разработки программного обеспечения на Python и как минимум на одном системном языке, таком как Rust, C++ или Go
• Опыт проектирования, создания и эксплуатации крупномасштабных распределенных систем или систем безопасности в производственной среде
• Глубокое понимание основ безопасности
• Рабочее знание Linux, контейнеров и облачной инфраструктуры
• Опыт отладки сложных проблем на множестве хостов и сервисов
• Способность анализировать компромиссы между безопасностью, производительностью и надежностью
• Сильные навыки письменного общения, включая написание проектных документов

Предпочтительные квалификации

• Опыт эксплуатации инфраструктуры обучения или инференса машинного обучения в больших масштабах
• Опыт в области безопасности инфраструктуры, такой как изоляция, контроль доступа, сети или идентификация
• Опыт работы с оркестрацией контейнеров, такой как Kubernetes, а также с изолированным или виртуализированным выполнением кода в больших масштабах
• Опыт создания средств наблюдения для больших парков машин
• Опыт поддержки исследовательских групп или других быстро развивающихся внутренних пользователей
• Знакомство с обучением с подкреплением или рабочими нагрузками обучения больших языковых моделей

Годовой диапазон вознаграждения для этой должности указан ниже.

Для должностей, связанных с продажами, указанный диапазон — это диапазон целевого заработка ("OTE") для данной должности, что означает, что диапазон включает как целевые комиссионные/бонусы по продажам, так и годовой базовый оклад для должности.

Годовой оклад: 320 000 – 405 000 долларов США

Логистика

Минимальное образование: Степень бакалавра или эквивалентное сочетание образования, обучения и/или опыта

Требуемая область обучения: Область, соответствующая должности, подтвержденная курсовой работой, обучением или профессиональным опытом

Минимальное количество лет опыта: Требуемое количество лет опыта будет коррелировать с требованиями к внутреннему уровню должности.

Гибридная политика на основе местоположения: В настоящее время мы ожидаем, что все сотрудники будут находиться в одном из наших офисов не менее 25% времени. Однако некоторые должности могут требовать больше времени в наших офисах.

Визовая поддержка: Мы предоставляем визовую поддержку! Однако мы не можем успешно оказывать визовую поддержку для каждой должности и каждого кандидата. Но если мы сделаем вам предложение, мы приложим все разумные усилия для получения для вас визы, и для этого мы привлекаем юриста по иммиграционным вопросам.

Мы призываем вас подавать заявку, даже если вы считаете, что не соответствуете всем требованиям. Не все сильные кандидаты соответствуют всем перечисленным требованиям. Исследования показывают, что люди, идентифицирующие себя как принадлежащие к недопредставленным группам, более склонны испытывать синдром самозванца и сомневаться в своей кандидатуре, поэтому мы настоятельно призываем вас не исключать себя преждевременно и подавать заявку, если вас интересует эта работа. Мы считаем, что системы ИИ, подобные тем, которые мы создаем, имеют огромные социальные и этические последствия. Мы считаем, что это делает представительство еще более важным, и мы стремимся включать в нашу команду разнообразные точки зрения.

Ваша безопасность имеет для нас значение. Чтобы защитить себя от возможных мошенничеств, помните, что рекрутеры Anthropic связываются с вами только с адресов электронной почты @anthropic.com. В некоторых случаях мы можем сотрудничать с проверенными рекрутинговыми агентствами, которые будут представляться как работающие от имени Anthropic. Будьте осторожны с письмами с других доменов. Легитимные рекрутеры Anthropic никогда не будут просить деньги, плату или банковскую информацию до вашего первого дня. Если вы когда-либо будете сомневаться в каком-либо сообщении, не переходите по ссылкам — посетите anthropic.com/careers напрямую, чтобы узнать об открытых вакансиях.

Чем мы отличаемся

Мы считаем, что самые влиятельные исследования в области ИИ будут проводиться в рамках "большой науки". В Anthropic мы работаем как единая сплоченная команда над несколькими крупномасштабными исследовательскими проектами. И мы ценим влияние — продвижение наших долгосрочных целей по созданию управляемого, надежного ИИ — а не работу над более мелкими и специфическими задачами. Мы рассматриваем исследования в области ИИ как эмпирическую науку, которая имеет столько же общего с физикой и биологией, сколько и с традиционными усилиями в области информатики. Мы чрезвычайно сплоченная группа, и мы проводим частые исследовательские дискуссии, чтобы гарантировать, что мы занимаемся самой влиятельной работой в любой данный момент. Поэтому мы высоко ценим коммуникативные навыки.

Самый простой способ понять наши исследовательские направления — прочитать наши последние исследования. Эти исследования продолжают многие из направлений, над которыми наша команда работала до Anthropic, в том числе: GPT-3, Circuit-Based Interpretability, Multimodal Neurons, Scaling Laws, AI & Compute, Concrete Problems in AI Safety и Learning from Human Preferences.

Присоединяйтесь к нам!

Anthropic — это корпорация, приносящая общественную пользу, со штаб-квартирой в Сан-Франциско. Мы предлагаем конкурентоспособное вознаграждение и льготы, опциональное пожертвование акций, щедрый отпуск и отпуск по уходу за ребенком, гибкий график работы и прекрасное офисное пространство для сотрудничества с коллегами. Руководство по использованию кандидатами ИИ: Узнайте о нашей политике использования ИИ в процессе подачи заявки.