Security Risk & Compliance, Agent Security

Вознаграждение (годовой оклад): 255 000 – 345 000 USD в год

О Anthropic Mission Anthropic — создание надежных, интерпретируемых и управляемых систем ИИ. Мы хотим, чтобы ИИ был безопасным и приносил пользу нашим пользователям и обществу в целом. Наша команда — это быстрорастущая группа преданных своему делу исследователей, инженеров, экспертов по политике и бизнес-лидеров, работающих вместе над созданием полезных систем ИИ.

О команде Команда Anthropic по управлению безопасностью, рисками и соответствием (GRC) — это связующее звено, которое обеспечивает ответственность компании за ее обязательства в области безопасности. Мы преобразуем нормативные, клиентские и добровольные обязательства в контроли, которые выполняют команды, и предоставляем руководству обзор того, насколько хорошо мы их выполняем. Мы стремимся создать принципиально иной вид GRC: тот, который направляет Claude с участием нужных людей для постоянной проверки и подтверждения эффективности контролей, а не посредством периодических аудитов.

Обязанности:

• Выступать в качестве партнера по политике безопасности для управления ИИ-агентами, разрабатывая политики и стандарты того, как агенты создаются, развертываются и эксплуатируются.
• Определять критерии проверки и утверждения, когда агент может взаимодействовать с конфиденциальными или регулируемыми данными, а также какие действия требуют одобрения человека в отношении соответствия нормативным требованиям.
• Выступать в качестве рецензента GRC в рамках существующих рабочих процессов утверждения инженерных решений.
• Определять требования к управлению данными для агентов, включая доступ по принципу наименьших привилегий, проверки доступа и обработку регулируемых и конфиденциальных данных.
• Отслеживать поведение агентов с течением времени и адаптировать требования к управлению совместно с кросс-функциональными командами по безопасности, исследованиям и инженерии.
• Сопоставлять средства контроля безопасности и данных агентов с фреймворками управления ИИ (например, ISO 27001, ISO 42001, EU AI Act), укрепляя усилия Anthropic по сертификации, обеспечивая возможность аудита безопасности агентов.
• Оценивать и документировать риски безопасности и соответствия, связанные с агентами, и добиваться их устранения совместно с владельцами инженерных решений.
• Отвечать за политику принятия рисков и исключений, связанных с агентами, включая полномочия на утверждение, продолжительность и повторную проверку.

Вы можете нам подойти, если:

• У вас есть 8+ лет опыта в области управления безопасностью, рисками и соответствием, включая владение политиками безопасности и стандартами контроля в технологической компании.
• Вы отвечали или в значительной степени поддерживали усилия по сегментации конфиденциальных данных, PII или интеллектуальной собственности и понимаете, как механизмы идентификации и доступа обеспечивают или подрывают границы защиты.
• Вы рассматриваете нечеловеческие идентификационные данные как отдельную категорию рисков и контролей и можете разработать контроль доступа по принципу наименьших привилегий и подотчетности для систем, действующих от имени человека.
• Вы можете перейти от модели угроз к контролю и объяснить компромиссы как инженеру, так и аудитору.
• Вы определяли основанные на рисках критерии проверки или утверждения в рамках инженерных рабочих процессов и поддерживали их эффективность при высокой скорости изменений.
• Вы составляете четкие, точные письменные материалы как для технической, так и для нетехнической аудитории.
• Вы преуспеваете в неопределенных условиях без устоявшегося отраслевого руководства, где от вас ожидается предложение стандарта, а не ожидание его появления.
• Вы чувствуете себя уверенно, будучи авторитетом в области безопасности и рисков, который обучает и влияет на результаты, а не только консультирует.

Сильные кандидаты также могут:

• Понимать свойства безопасности LLM-агентов, будь то из компании, занимающейся ИИ, разработкой платформ или инструментами для агентов, или благодаря сопоставимому опыту.
• Обладать знакомством с фреймворками управления ИИ наряду с традиционными фреймворками безопасности.
• Адаптировать контроли из регулируемых или высококонфиденциальных сред к открытой, высокодоверительной инженерной культуре.
• Иметь соответствующие сертификаты (CISSP, CISM, CRISC, CISA, CCSP, ISO 27001 или ISO 42001 Lead Implementer/Auditor).

Кандидатам не обязательно:

• Иметь опыт выполнения всего перечисленного ранее. Очень немногие люди управляли ИИ-агентами в больших масштабах — нас больше волнует, как вы рассуждаете о доступе, подотчетности и радиусе поражения, чем о предыдущей должности.

Срок подачи заявок: Нет. Заявки принимаются на постоянной основе.

Ниже указан годовой диапазон вознаграждения для этой должности. Для должностей, связанных с продажами, указанный диапазон — это диапазон целевого заработка ("OTE") для должности, что означает, что диапазон включает как целевые комиссионные/бонусы за продажи, так и годовой базовый оклад для этой должности.

Годовой оклад: 255 000 – 345 000 USD

Логистика Минимальное образование: Степень бакалавра или эквивалентная комбинация образования, обучения и/или опыта. Требуемая область обучения: Область, релевантная для данной должности, подтвержденная курсовой работой, обучением или профессиональным опытом. Минимальный опыт работы: Требуемый опыт работы будет коррелировать с требованиями к внутреннему уровню должности.

Политика гибридной работы по месту расположения: В настоящее время мы ожидаем, что все сотрудники будут находиться в одном из наших офисов не менее 25% времени. Однако некоторые должности могут требовать больше времени в наших офисах.

Визовая поддержка: Мы предоставляем визовую поддержку! Однако мы не всегда можем успешно спонсировать визы для каждой должности и каждого кандидата. Но если мы сделаем вам предложение, мы приложим все разумные усилия, чтобы получить для вас визу, и для этого у нас есть иммиграционный юрист.

Мы призываем вас подать заявку, даже если вы считаете, что не соответствуете всем квалификационным требованиям. Не все сильные кандидаты соответствуют всем перечисленным квалификационным требованиям. Исследования показывают, что люди, идентифицирующие себя как принадлежащие к недостаточно представленным группам, чаще испытывают синдром самозванца и сомневаются в своей кандидатуре, поэтому мы настоятельно призываем вас не исключать себя преждевременно и подавать заявку, если вас интересует эта работа. Мы считаем, что системы ИИ, подобные тем, которые мы создаем, имеют огромные социальные и этические последствия. Мы считаем, что это делает представительство еще более важным, и мы стремимся включать разнообразные точки зрения в нашу команду.

Ваша безопасность важна для нас. Чтобы защитить себя от возможных мошенничеств, помните, что рекрутеры Anthropic связываются с вами только с электронных адресов @anthropic.com. В некоторых случаях мы можем сотрудничать с проверенными рекрутинговыми агентствами, которые представятся как работающие от имени Anthropic. Будьте осторожны с письмами с других доменов. Легитимные рекрутеры Anthropic никогда не будут запрашивать деньги, сборы или банковскую информацию до вашего первого рабочего дня. Если вы когда-либо сомневаетесь в сообщении, не переходите по ссылкам — посетите anthropic.com/careers напрямую, чтобы узнать о подтвержденных вакансиях.

Чем мы отличаемся Мы считаем, что наиболее влиятельные исследования в области ИИ будут масштабными. В Anthropic мы работаем как единая сплоченная команда над несколькими крупномасштабными исследовательскими проектами. И мы ценим влияние — продвижение наших долгосрочных целей по созданию управляемого, надежного ИИ — а не работу над более мелкими и специфическими задачами. Мы рассматриваем исследования ИИ как эмпирическую науку, которая имеет столько же общего с физикой и биологией, сколько с традиционными усилиями в области информатики. Мы очень совместная группа, и мы проводим частые исследовательские дискуссии, чтобы гарантировать, что мы занимаемся самой влиятельной работой в любой данный момент. Поэтому мы очень ценим коммуникативные навыки.

Самый простой способ понять наши исследовательские направления — это ознакомиться с нашими недавними исследованиями. Эти исследования продолжают многие направления, над которыми работала наша команда до Anthropic, включая: GPT-3, Circuit-Based Interpretability, Multimodal Neurons, Scaling Laws, AI & Compute, Concrete Problems in AI Safety и Learning from Human Preferences.

Присоединяйтесь к нам! Anthropic — это общественная корпорация с ограниченной ответственностью, расположенная в Сан-Франциско. Мы предлагаем конкурентоспособное вознаграждение и льготы, добровольное сопоставление пожертвований акциями, щедрый отпуск и отпуск по уходу за ребенком, гибкий график работы и прекрасное офисное пространство для сотрудничества с коллегами. Руководство по использованию ИИ кандидатами: Узнайте о нашей политике использования ИИ в процессе подачи заявления.