Policy Program Manager, Safeguards Regulatory

Миссия Anthropic — создавать надежные, интерпретируемые и управляемые системы ИИ. Мы хотим, чтобы ИИ был безопасным и полезным для наших пользователей и для общества в целом. Наша команда — это быстрорастущая группа преданных своему делу исследователей, инженеров, экспертов по политике и бизнес-лидеров, работающих вместе над созданием полезных систем ИИ.

В качестве менеджера программ в команде Safeguards (меры безопасности) Anthropic вы будете помогать нам соблюдать наши обязательства в соответствии с законами и нормативными актами в области безопасности ИИ по всему миру. Работая в тесном сотрудничестве с юридическим отделом, вы будете превращать новые и возникающие требования в программы, контроли и результаты. Это требует детального понимания того, как создаются, оцениваются и защищаются наши модели и продукты. Ваша работа будет поддерживать приверженность Anthropic безопасной и полезной разработке ИИ по мере развития нормативно-правовой базы.

Перечисленные ниже обязанности — это лишь примеры областей, за которые человек на этой должности может отвечать, в зависимости от его опыта и потребностей команды.

Мы считаем, что наиболее влиятельные исследования в области ИИ будут относиться к "большой науке". В Anthropic мы работаем как единая слаженная команда над несколькими крупномасштабными исследовательскими проектами. И мы ценим влияние — продвижение наших долгосрочных целей по созданию управляемого, надежного ИИ — а не работу над мелкими и более специфическими задачами. Мы рассматриваем исследования ИИ как эмпирическую науку, которая имеет столько же общего с физикой и биологией, сколько с традиционными усилиями в области компьютерных наук. Мы являемся чрезвычайно совместной группой и часто проводим исследовательские дискуссии, чтобы гарантировать, что мы занимаемся самой влиятельной работой в любой данный момент. Таким образом, мы высоко ценим коммуникативные навыки.

Самый простой способ понять наши исследовательские направления — прочитать наши последние исследования. Эти исследования продолжают многие из направлений, над которыми наша команда работала до Anthropic, в том числе: GPT-3, Circuit-Based Interpretability, Multimodal Neurons, Scaling Laws, AI & Compute, Concrete Problems in AI Safety, и Learning from Human Preferences.

Присоединяйтесь к нам!

Anthropic — это корпорация, приносящая общественную пользу, со штаб-квартирой в Сан-Франциско. Мы предлагаем конкурентоспособную компенсацию и льготы, добровольное софинансирование акционерного капитала, щедрый отпуск и отпуск по уходу за ребенком, гибкий рабочий график и прекрасное офисное пространство для сотрудничества с коллегами. Руководство по использованию ИИ кандидатами: Узнайте о нашей политике использования ИИ в процессе подачи заявки.

• Управлять и продвигать сложные инициативы по обеспечению безопасности, которые выявляют, оценивают и снижают риски от передовых моделей, от первоначальной оценки рисков до внедрения мер безопасности
• Сотрудничать с командой по управлению инцидентами Safeguards для улучшения процессов реагирования на инциденты и отчетности, включая политики, определяющие, как эскалируются инциденты и когда о них необходимо сообщать внешним сторонам
• Проводить post-incident reviews (обзоры после инцидентов) и работать с экспертами по каждой области вреда, чтобы включить полученные результаты в меры безопасности моделей и продуктов
• Разрабатывать стратегию безопасности и результаты для систем ИИ, используемых в условиях высокого риска, включая оценку рисков, техническую документацию и информацию, необходимую развертывающим клиентам для безопасного использования этих систем
• Определять меры безопасности и контроля рисков, которые требуются нашим моделям и продуктам, обеспечивать, чтобы у каждой меры был владелец и документированная процедура, и подтверждать, что она работает должным образом
• Тесно сотрудничать с владельцами каждой области риска для глубокого понимания рисков ИИ, оценок безопасности и стратегий смягчения последствий, а также использовать это понимание для подготовки документации по безопасности, отчетов о прозрачности и нормативных представлений

• Опыт работы в области доверия и безопасности (trust and safety), безопасности ИИ (AI safety) или смежных областях, включая разработку и внедрение мер безопасности против злоупотреблений или вреда
• Понимание безопасности ИИ, включая основные области риска, а также используемые для их устранения оценки и меры безопасности, достаточное для содержательного взаимодействия с техническими экспертами, отвечающими за них
• Опыт управления программами оценки рисков или смягчения вреда от выявления до устранения
• Опыт преобразования требований политики или нормативных актов в практические операционные процессы
• Способность доводить сложные, межфункциональные программы до завершения в быстро меняющейся среде, в том числе с техническими командами за пределами вашей собственной дисциплины
• Четкая письменная коммуникация, включая документацию для технической, юридической и внешней аудитории
• Высокое внимание к деталям и умение распознавать, когда работа находится под угрозой, и своевременно сообщать об этом
• Приверженность безопасной разработке и развертыванию ИИ

Вознаграждение (годовой оклад): 245 000 – 285 000 долларов США в год

Годовой диапазон компенсации для этой должности указан ниже.

Для должностей, связанных с продажами, указанный диапазон является диапазоном "On Target Earnings" ("OTE") для данной должности, что означает, что диапазон включает как целевые комиссионные/бонусы по продажам, так и годовой базовый оклад для данной должности.

Годовой оклад:

245 000 — 285 000 долларов США

Логистика

Минимальное образование: Степень бакалавра или эквивалентная комбинация образования, обучения и/или опыта.

Требуемая область обучения: Область, релевантная для данной должности, подтвержденная курсовыми работами, обучением или профессиональным опытом.

Минимальное количество лет опыта: Требуемое количество лет опыта будет коррелировать с внутренними требованиями к уровню должности для данной позиции.

Политика гибридной работы на основе местоположения: В настоящее время мы ожидаем, что все сотрудники будут находиться в одном из наших офисов не менее 25% времени. Однако некоторые должности могут требовать больше времени в наших офисах.

Визовая поддержка: Мы предоставляем визовую поддержку! Однако мы не можем успешно оказывать визовую поддержку для каждой должности и каждого кандидата. Но если мы сделаем вам предложение, мы приложим все разумные усилия, чтобы получить для вас визу, и для этого мы привлекаем иммиграционного юриста.

Мы призываем вас подавать заявку, даже если вы не соответствуете каждому отдельному требованию. Не все сильные кандидаты соответствуют каждому отдельному требованию, указанному здесь. Исследования показывают, что люди, идентифицирующие себя как принадлежащие к недопредставленным группам, более склонны испытывать синдром самозванца и сомневаться в своей кандидатуре, поэтому мы настоятельно призываем вас не исключать себя преждевременно и подавать заявку, если вас интересует эта работа. Мы считаем, что системы ИИ, подобные тем, которые мы создаем, имеют огромные социальные и этические последствия. Мы считаем, что это делает представительство еще более важным, и мы стремимся включить в нашу команду разнообразные точки зрения.

Ваша безопасность важна для нас. Чтобы защитить себя от возможных мошенничеств, помните, что рекрутеры Anthropic связываются с вами только с электронных адресов @anthropic.com. В некоторых случаях мы можем сотрудничать с проверенными рекрутинговыми агентствами, которые заявят, что работают от имени Anthropic. Будьте осторожны с письмами с других доменов. Законные рекрутеры Anthropic никогда не будут запрашивать деньги, сборы или банковскую информацию до вашего первого рабочего дня. Если вы когда-либо будете сомневаться в полученном сообщении, не переходите по ссылкам — посетите anthropic.com/careers напрямую, чтобы узнать о подтвержденных вакансиях.