Staff+ Software Engineer, Account Abuse (Machine Learning)

Вознаграждение (Годовой оклад): 320 000 – 485 000 долларов США в год

О Anthropic

Миссия Anthropic — создавать надежные, интерпретируемые и управляемые системы ИИ. Мы хотим, чтобы ИИ был безопасным и полезным для наших пользователей и общества в целом. Наша команда — это быстрорастущая группа преданных своему делу исследователей, инженеров, экспертов по политике и руководителей бизнеса, которые совместно работают над созданием полезных систем ИИ.

О роли

Команда по борьбе с злоупотреблениями учетными записями отвечает за справедливое распределение вычислительных мощностей Anthropic, минимизацию ресурсов, доступных злоумышленникам, и предотвращение их возвращения. В качестве инженера-программиста в этой команде вы будете создавать системы машинного обучения, которые помогут нам обнаруживать и пресекать злоупотребления в больших масштабах. Идеальный кандидат способен взглянуть на ситуацию с точки зрения противника, понять его средства и мотивы, а также предвидеть его реакцию на контрмеры.

Мы ищем инженеров по машинному обучению полного цикла с опытом в области обучения моделей, вывода в продакшн и оценки. Вы также будете искать способы использования Claude для ускорения разработки и обслуживания этих моделей.

Это классическое машинное обучение на структурированных и поведенческих данных. Вам не нужен глубокий опыт в области глубокого обучения или знание внутренних механизмов LLM. Важно, чтобы вы обучали и выпускали модели, где ставки реальны, и чтобы вы заботились о создании надежных производственных систем так же сильно, как и о самой модели. Ложное срабатывание здесь означает блокировку легитимного клиента, поэтому измерение, точность и безопасное развертывание являются частью работы.

Ключевые обязанности

• Создание и эксплуатация платформы вычисления признаков, которая обслуживает как обучение моделей, так и оценку в режиме реального времени, с обучением данных, корректным в определенный момент времени, и низколатентным онлайн-доступом.
• Обучение, оценка и развертывание моделей, которые обнаруживают злоупотребления и мошенничество на уровне учетных записей, запуская их как офлайн, так и онлайн.
• Создание инструментов, которые автоматизируют большую часть жизненного цикла разработки моделей, включая использование Claude для ускорения разработки признаков, обучения и оценки.
• Обеспечение того, чтобы бэктестинг, теневое развертывание и поэтапное внедрение были стандартным путем к продакшну, с мониторингом расхождений между обучением и обслуживанием, дрейфа и адаптации к противодействию.
• Взаимодействие с нашими специалистами по данным и командой по политике и правоприменению для улучшения охвата и качества меток.
• Партнерство с командами по продуктам и платформам для сбора сигналов и интеграции решений моделей с минимальным влиянием на задержку, стабильность или общую архитектуру их систем.

Минимальные требования

• Владение Python и SQL.
• Опыт обучения моделей машинного обучения и их вывода в продакшн.
• Опыт построения конвейеров данных с использованием движка пакетной обработки (например, Spark, Beam) и планировщика рабочих процессов (например, Airflow).
• Рабочее понимание корректности в определенный момент времени и расхождений между обучением и обслуживанием, а также способов их предотвращения.
• Сильные коммуникативные навыки и способность объяснять технические компромиссы нетехническим заинтересованным сторонам.

Предпочтительные квалификации

• Опыт создания или эксплуатации платформы признаков, такой как Chronon, Feast или Tecton.
• Опыт работы с движками потоковой обработки, такими как Flink, Beam / Dataflow или Kafka Streams.
• Опыт обучения моделей машинного обучения в производственной среде с жесткими требованиями к обслуживанию, такими как мошенничество, риски или ранжирование.
• Опыт работы с древовидными моделями на табличных данных.
• Опыт создания систем обнаружения скоординированных злоупотреблений учетными записями с использованием неконтролируемого, кластерного или графового подходов.
• Опыт в области обнаружения целостности, спама, мошенничества или злоупотреблений.
• Опыт работы с редкими, отложенными или шумными метками.
• Опыт работы с AutoML или другими подходами к автоматизации рабочего процесса машинного обучения.
• Забота о социальных последствиях ИИ и желание сделать мощные системы безопаснее.

Диапазон годового вознаграждения для этой должности указан ниже.

Для должностей, связанных с продажами, указанный диапазон представляет собой диапазон «целевого дохода» («OTE»), что означает, что диапазон включает как целевые комиссионные/бонусы по продажам, так и годовой базовый оклад для должности.

Годовой оклад: 320 000 – 485 000 долларов США

Логистика

Минимальное образование: Степень бакалавра или эквивалентная комбинация образования, обучения и/или опыта.

Требуемая область обучения: Область, относящаяся к роли, подтвержденная курсовой работой, обучением или профессиональным опытом.

Минимальное количество лет опыта: Требуемое количество лет опыта будет коррелировать с требованиями к внутреннему уровню должности.

Политика гибридной работы на основе местоположения: В настоящее время мы ожидаем, что все сотрудники будут находиться в одном из наших офисов не менее 25% времени. Однако некоторые должности могут требовать большего времени пребывания в наших офисах.

Визовая поддержка: Мы предоставляем визовую поддержку! Однако мы не можем успешно спонсировать визы для каждой должности и каждого кандидата. Но если мы сделаем вам предложение, мы приложим все разумные усилия, чтобы получить для вас визу, и для этого мы привлекаем юриста по иммиграционным вопросам.

Мы призываем вас подавать заявку, даже если вы считаете, что не соответствуете каждому из перечисленных требований. Не все сильные кандидаты будут соответствовать каждому из перечисленных требований. Исследования показывают, что люди, относящиеся к недопредставленным группам, чаще испытывают синдром самозванца и сомневаются в своей кандидатуре, поэтому мы настоятельно призываем вас не исключать себя преждевременно и подавать заявку, если вас заинтересовала эта работа. Мы считаем, что такие системы ИИ, как те, которые мы создаем, имеют огромные социальные и этические последствия. Мы считаем, что это делает представительство еще более важным, и мы стремимся включать в нашу команду разнообразные точки зрения.

Ваша безопасность имеет для нас значение. Чтобы защитить себя от возможных мошенничеств, помните, что рекрутеры Anthropic связываются с вами только с адресов электронной почты @anthropic.com. В некоторых случаях мы можем сотрудничать с проверенными рекрутинговыми агентствами, которые представятся как работающие от имени Anthropic. Будьте осторожны с письмами с других доменов. Законные рекрутеры Anthropic никогда не будут запрашивать деньги, сборы или банковскую информацию до вашего первого рабочего дня. Если вы когда-либо будете сомневаться в полученном сообщении, не нажимайте на ссылки — перейдите непосредственно на страницу вакансий Anthropic, чтобы узнать об открытых вакансиях.

Наши отличия

Мы считаем, что самые влиятельные исследования в области ИИ — это «big science». В Anthropic мы работаем как единая сплоченная команда над несколькими крупномасштабными исследовательскими проектами. И мы ценим влияние — продвижение наших долгосрочных целей по созданию управляемого, надежного ИИ — а не работу над более мелкими и специфическими задачами. Мы рассматриваем исследования ИИ как эмпирическую науку, которая имеет столько же общего с физикой и биологией, сколько с традиционными усилиями в области компьютерных наук. Мы чрезвычайно ориентированная на сотрудничество группа, и мы часто проводим исследования для обеспечения того, чтобы мы занимались работой с наибольшим влиянием в данный момент. Поэтому мы высоко ценим коммуникативные навыки.

Самый простой способ понять наши исследовательские направления — прочитать наши последние исследования. Эти исследования продолжают многие направления, над которыми наша команда работала до Anthropic, включая: GPT-3, интерпретируемость на основе схем, мультимодальные нейроны, законы масштабирования, ИИ и вычислительные ресурсы, конкретные проблемы безопасности ИИ и обучение на основе предпочтений человека.

Присоединяйтесь к нам!

Anthropic — это корпорация, приносящая общественную пользу, со штаб-квартирой в Сан-Франциско. Мы предлагаем конкурентоспособное вознаграждение и льготы, возможность добровольного пожертвования акций, щедрый отпуск и отпуск по уходу за ребенком, гибкий рабочий график и прекрасное офисное пространство для сотрудничества с коллегами. Руководство по использованию ИИ кандидатами: Узнайте о нашей политике использования ИИ в процессе подачи заявления.