Staff+ Software Engineer, Safeguards Human Review Tooling

Миссия Anthropic — создавать надежные, интерпретируемые и управляемые системы искусственного интеллекта. Мы хотим, чтобы ИИ был безопасным и полезным для наших пользователей и для общества в целом. Наша команда — это быстрорастущая группа преданных своему делу исследователей, инженеров, экспертов по политике и бизнес-лидеров, работающих вместе над созданием полезных систем ИИ. Команда Safeguards отвечает за безопасную разработку и внедрение наших моделей и продуктов. Мы ищем инженеров для нашей команды Review Tooling, которая разрабатывает системы, используемые людьми — и всё чаще Claude — для расследования потенциального вреда и принятия мер принуждения в отношении собственных продуктов Anthropic и сторонних облачных платформ. Вы будете владеть инструментами, на которые полагаются наши следователи по безопасности, чтобы понимать, что происходит на наших платформах, и принимать меры, а также платформой, лежащей в основе этих инструментов. Эта платформа включает возможности анализа данных, примитивы, сохраняющие конфиденциальность, которые делают рабочие процессы проверки совместимыми с нашими обязательствами по хранению данных, и изолированную среду, где новые интерфейсы и рабочие процессы проверки могут быстро создаваться и итерироваться. Это внутренние инструменты, но они ни в коем случае не являются низкорисковыми: скорость, ясность и надежность этих инструментов напрямую определяют, насколько быстро Anthropic может выявлять вредоносное поведение, принимать обоснованные решения о принуждении и передавать сигналы обратно в обучение моделей и классификаторы безопасности. Вы будете тесно сотрудничать с командами по политике, операционной деятельности, науке о данных, юридическими вопросами и конфиденциальности, чтобы обеспечить эффективность, точность и надежность наших систем принуждения. Мы считаем, что наиболее влиятельные исследования в области ИИ будут проводиться в рамках "большой науки". В Anthropic мы работаем как единая сплоченная команда над несколькими крупномасштабными исследовательскими проектами. И мы ценим влияние — продвижение наших долгосрочных целей по созданию управляемого, надежного ИИ — а не работу над более мелкими и конкретными задачами. Мы рассматриваем исследования ИИ как эмпирическую науку, которая имеет столько же общего с физикой и биологией, сколько и с традиционными направлениями компьютерных наук. Мы очень совместная группа, и мы проводим частые исследовательские дискуссии, чтобы гарантировать, что мы занимаемся наиболее влиятельной работой в любой данный момент. Таким образом, мы высоко ценим коммуникативные навыки. Самый простой способ понять наши исследовательские направления — это ознакомиться с нашими недавними исследованиями. Эти исследования продолжают многие направления, над которыми наша команда работала до Anthropic, в том числе: GPT-3, Circuit-Based Interpretability, Multimodal Neurons, Scaling Laws, AI & Compute, Concrete Problems in AI Safety и Learning from Human Preferences.

Разработка инструментов для расследования, проверки и принуждения как для собственных, так и для сторонних платформенных поверхностей — включая очереди дел, представления для расследования, журналы принятия решений и аудита, а также рабочие процессы действий с учетными записями. Разработка платформенного уровня повторно используемых API, хранилища данных и серверных служб, позволяющих быстро и безопасно запускать новые рабочие процессы проверки. Настройка и управление развертываниями этих инструментов в нескольких облаках, в том числе в средах партнеров-поставщиков облачных услуг, где данные должны оставаться на месте. Обеспечение согласованности развертываний с помощью общих конвейеров развертывания, дымовых тестов, наблюдаемости и оповещений. Масштабирование проверки за счет автоматизации, в том числе предоставление ревьюерам возможности эффективно использовать Claude и переход к рабочим процессам проверки с помощью Claude и управляемым Claude. Сотрудничество с заинтересованными сторонами из отделов политики, операций, юридического отдела, конфиденциальности и науки о данных для преобразования потребностей в области принуждения и расследования в надежные, хорошо спроектированные системы, которые измеримо сокращают время обработки и ошибки принятия решений. Инструментирование отправляемых вами инструментов — предоставление метрик состояния очереди, пропускной способности ревьюера и качества решений — и обеспечение эволюции инструментов наряду с новыми примитивами конфиденциальности и обязательствами по хранению данных.

Технический опыт в области full-stack или platform engineering, с возможностью глубоко участвовать в обсуждениях архитектуры и дизайна. Опыт выпуска внутренних инструментов или платформ с требовательными операционными пользователями и подтвержденный опыт измеримого улучшения их рабочих процессов. Опыт кросс-функциональной работы с неинженерными партнерами, такими как операционные, политические или юридические команды. Отличные коммуникативные навыки, в том числе способность объяснять технические компромиссы нетехническим заинтересованным сторонам. Забота о социальных последствиях ИИ и желание сделать мощные системы более безопасными.

Вознаграждение (годовая зарплата): 320 000 – 485 000 долларов США в год

Годовой диапазон компенсации для этой роли указан ниже. Для ролей, связанных с продажами, указанный диапазон является диапазоном "On Target Earnings" ("OTE") для данной роли, что означает, что диапазон включает в себя целевые комиссионные/бонусы за продажи и годовой базовый оклад для данной роли. Годовая зарплата: 320 000 — 485 000 долларов США Логистика Минимальное образование: степень бакалавра или эквивалентное сочетание образования, обучения и/или опыта. Требуемая область обучения: область, соответствующая роли, продемонстрированная через учебный курс, обучение или профессиональный опыт. Минимальный опыт работы: требуемый опыт работы будет соответствовать требованиям к внутреннему уровню должности. Локальная гибридная политика: в настоящее время мы ожидаем, что все сотрудники будут находиться в одном из наших офисов не менее 25% времени. Однако некоторые роли могут требовать больше времени в наших офисах. Визовая поддержка: мы предоставляем визовую поддержку! Однако мы не можем успешно спонсировать визы для каждой роли и каждого кандидата. Но если мы сделаем вам предложение, мы приложим все разумные усилия, чтобы получить для вас визу, и мы привлекаем иммиграционного юриста, чтобы помочь с этим. Мы призываем вас подавать заявку, даже если вы не соответствуете каждому требованию. Не все сильные кандидаты соответствуют каждому перечисленному требованию. Исследования показывают, что люди, идентифицирующие себя как принадлежащие к недопредставленным группам, более склонны испытывать синдром самозванца и сомневаться в своей квалификации, поэтому мы призываем вас не исключать себя преждевременно и подавать заявку, если вас интересует эта работа. Мы считаем, что системы ИИ, подобные тем, которые мы создаем, имеют огромные социальные и этические последствия. Мы считаем, что это делает представительство еще более важным, и мы стремимся включать в нашу команду разнообразные точки зрения. Ваша безопасность важна для нас. Чтобы защитить себя от потенциального мошенничества, помните, что рекрутеры Anthropic связываются с вами только с адресов электронной почты @anthropic.com. В некоторых случаях мы можем сотрудничать с проверенными рекрутинговыми агентствами, которые представятся как работающие от имени Anthropic. Будьте осторожны с письмами с других доменов. Легитимные рекрутеры Anthropic никогда не будут запрашивать деньги, сборы или банковскую информацию до вашего первого дня. Если вы когда-либо будете сомневаться в сообщении, не нажимайте на ссылки — посетите anthropic.com/careers напрямую, чтобы узнать об открытых вакансиях. Anthropic — это общественная корпорация с головным офисом в Сан-Франциско. Мы предлагаем конкурентоспособную компенсацию и льготы, опциональное пожертвование акций с соответствующим взносом, щедрый отпуск по беременности и родам, гибкий график работы и приятное офисное пространство для сотрудничества с коллегами. Руководство по использованию ИИ кандидатами: Узнайте о нашей политике использования ИИ в процессе подачи заявок.