Staff+ Fullstack Software Engineer, Safeguards Engineering

Компенсация (годовой оклад): 405 000 – 485 000 долларов США в год

О Anthropic

Миссия Anthropic — создавать надежные, интерпретируемые и управляемые системы ИИ. Мы хотим, чтобы ИИ был безопасным и полезным для наших пользователей и для общества в целом. Наша команда — это быстрорастущая группа преданных своему делу исследователей, инженеров, экспертов по политике и руководителей бизнеса, которые вместе работают над созданием полезных систем ИИ.

Примечание: эта вакансия только для инженеров полного цикла (Fullstack Software Engineers). Если вы являетесь инженером бэкенда (Backend Engineer), ознакомьтесь с нашей вакансией инженера бэкенда здесь.

О роли

Мы ищем инженеров полного цикла для разработки механизмов безопасности и контроля для наших систем ИИ. В качестве инженера-программиста в команде Safeguards вы будете работать над мониторингом моделей, предотвращением злоупотреблений и обеспечением благополучия пользователей. Эта роль будет сосредоточена на создании систем для обнаружения нежелательного поведения моделей и предотвращения запрещенного использования моделей. Вы будете применять свои технические навыки для соблюдения наших принципов безопасности, прозрачности и контроля, одновременно обеспечивая соблюдение наших условий обслуживания и политик допустимого использования.

У нас есть несколько команд, которые в настоящее время открыты в Safeguards. Распределение по командам происходит после процесса собеседования, с учетом ваших интересов и опыта, а также потребностей организации. Такой гибкий подход позволяет нам подбирать талантливых инженеров там, где они смогут оказать наибольшее влияние и добиться наибольшего роста.

Обязанности

• Разрабатывать и создавать внутренние инструменты обзора, которые аналитики используют для расследования злоупотреблений — панели мониторинга, очереди задач и средства просмотра доказательств, которые позволяют быстро и точно принимать решения при большом объеме и высокой ставке.
• Создавать интерфейсы, где люди контролируют агентов: потоковую передачу вывода, прерывания и утверждения, а также четкое отслеживание каждого действия, предпринятого агентом.
• Предоставлять нашим исследовательским группам информацию о закономерностях злоупотреблений с помощью визуализаций и инструментов исследования, которые делают возникающие закономерности понятными.
• Отвечать за фронтенд-архитектуру инструментов, работающих с конфиденциальными данными в больших объемах — производительность при работе с большими наборами данных, корректность при обновлениях в режиме реального времени и сквозное применение контроля доступа.

Вы можете нам подойти, если у вас есть

• Степень бакалавра в области компьютерных наук, инженерии программного обеспечения или сопоставимый опыт.
• Опыт работы с TypeScript и современным React; уверенное владение Python для бэкенд-разработки.
• Способность работать по всему стеку.
• Отличные коммуникативные навыки и способность объяснять сложные технические концепции нетехническим заинтересованным сторонам.

Сильные кандидаты также могут иметь

• 8+ лет опыта работы в должности инженера-программиста (не включая стажировки).
• Опыт создания внутренних инструментов с большим объемом данных или интерфейсов оператора, а не только маркетинговых или потребительских поверхностей.
• Опыт работы с механизмами обнаружения и смягчения последствий нарушений, спама, мошенничества или злоупотреблений.
• Опыт создания механизмов обнаружения и вмешательства для систем ИИ/МО, направленных на укрепление доверия и безопасности.
• Опыт работы с инженерией подсказок (prompt engineering), атаками на взлом (jailbreak attacks) и другими враждебными входными данными.
• Тесное сотрудничество с оперативными командами для создания настраиваемых внутренних инструментов.

Годовой диапазон компенсации для этой роли указан ниже.

Для должностей, связанных с продажами, указанный диапазон представляет собой диапазон "целевого заработка" (On Target Earnings, "OTE"), что означает, что диапазон включает как целевые комиссии/бонусы по продажам, так и годовой базовый оклад для данной должности.

Годовой оклад

$405 000 — $485 000 USD

Логистика

Минимальное образование: степень бакалавра или эквивалентное сочетание образования, обучения и/или опыта.

Требуемая область обучения: область, соответствующая роли, подтвержденная курсовой работой, обучением или профессиональным опытом.

Минимальный стаж работы: требуемый стаж работы будет соответствовать требованиям к внутреннему уровню должности.

Политика гибридной работы на основе местоположения: в настоящее время мы ожидаем, что все сотрудники будут находиться в одном из наших офисов не менее 25% времени. Однако некоторые должности могут требовать большего времени, проведенного в наших офисах.

Визовая поддержка: мы предоставляем визовую поддержку! Однако мы не всегда можем успешно оказать визовую поддержку для каждой должности и каждого кандидата. Но если мы сделаем вам предложение, мы приложим все разумные усилия для получения визы, и для этого у нас есть иммиграционный юрист.

Мы призываем вас подать заявку, даже если вы не соответствуете каждому из перечисленных квалификационных требований. Не все сильные кандидаты соответствуют каждому из перечисленных квалификационных требований. Исследования показывают, что люди, идентифицирующие себя как представители недостаточно представленных групп, чаще испытывают синдром самозванца и сомневаются в своей кандидатуре, поэтому мы призываем вас не исключать себя преждевременно и подать заявку, если вас интересует эта работа. Мы считаем, что системы ИИ, подобные тем, которые мы строим, имеют огромные социальные и этические последствия. Мы думаем, что это делает представительство еще более важным, и мы стремимся включить в нашу команду разнообразные точки зрения.

Ваша безопасность важна для нас. Чтобы защитить себя от возможных мошенничеств, помните, что рекрутеры Anthropic связываются с вами только с адресов электронной почты @anthropic.com. В некоторых случаях мы можем сотрудничать с проверенными рекрутинговыми агентствами, которые представятся как работающие от имени Anthropic. Будьте осторожны с письмами с других доменов. Законные рекрутеры Anthropic никогда не будут запрашивать деньги, сборы или банковскую информацию до вашего первого рабочего дня. Если вы когда-либо будете сомневаться в сообщении, не переходите по ссылкам — посетите страницу вакансий Anthropic напрямую, чтобы получить подтверждение открытых вакансий.

Чем мы отличаемся

Мы считаем, что наиболее значимые исследования в области ИИ будут относиться к "большой науке". В Anthropic мы работаем как единая сплоченная команда над несколькими крупномасштабными исследовательскими проектами. И мы ценим влияние — продвижение наших долгосрочных целей по созданию управляемого, надежного ИИ — а не работу над мелкими и более конкретными задачами. Мы рассматриваем исследования ИИ как эмпирическую науку, которая имеет столько же общего с физикой и биологией, сколько и с традиционными компьютерными науками. Мы очень совместная группа, и мы проводим частые исследовательские дискуссии, чтобы обеспечить реализацию наиболее влиятельной работы в любой данный момент. В связи с этим мы высоко ценим коммуникативные навыки.

Самый простой способ понять наши исследовательские направления — это ознакомиться с нашими последними исследованиями. Эти исследования продолжают многие направления, над которыми наша команда работала до Anthropic, включая: GPT-3, Circuit-Based Interpretability, Multimodal Neurons, Scaling Laws, AI & Compute, Concrete Problems in AI Safety, и Learning from Human Preferences.

Присоединяйтесь к нам!

Anthropic — это общественная корпорация (public benefit corporation), расположенная в Сан-Франциско. Мы предлагаем конкурентоспособную компенсацию и льготы, возможность пожертвования опционов, щедрый отпуск и отпуск по уходу за ребенком, гибкий рабочий график и прекрасное офисное пространство для совместной работы с коллегами. Руководство по использованию ИИ кандидатами: Узнайте о нашей политике использования ИИ в процессе подачи заявления.