Staff+ Software Engineer, ML Inference Path

Компенсация (годовой оклад): 320 000 – 485 000 долларов США в год

О Anthropic

Mиссия Anthropic — создавать надежные, интерпретируемые и управляемые системы ИИ. Мы хотим, чтобы ИИ был безопасным и полезным для наших пользователей и для общества в целом. Наша команда — это быстрорастущая группа преданных своему делу исследователей, инженеров, экспертов по политике и бизнес-лидеров, совместно работающих над созданием полезных систем ИИ.

О роли

Команда Safeguards ML Inference Path разрабатывает, создает и эксплуатирует производственную инфраструктуру, которая обеспечивает работу систем безопасности Claude на основе машинного обучения. Мы тесно сотрудничаем с исследователями в области безопасности и инженерами по выводу моделей для внедрения новых классификаторов и новых классов методов защиты на основе машинного обучения в производственную среду. Мы отвечаем за перенос новых технологий безопасности из исследований в производство, что является критически важным этапом для каждого запуска модели Claude. И мы создаем решения для масштабирования: обслуживаем тысячи классификаторов машинного обучения для всех запросов на пути генерации токенов и для каждой платформы, на которой работает Claude — 1P, Bedrock, Vertex и других.

Мы расширяем команду и ищем инженеров, обладающих глубокими знаниями в области внедрения систем машинного обучения в производственную среду. Вы будете работать на стыке машинного обучения, крупномасштабных распределенных систем и безопасности ИИ, разрабатывая платформы и инструменты, которые позволят нашим средствам защиты надежно работать в масштабе. И ваши инструменты и инфраструктура будут использоваться при каждом запуске модели, которые становятся все более сложными и частыми.

Обязанности

• Разработка и создание масштабируемой инфраструктуры ML для поддержки развертывания систем безопасности в реальном времени в нашей экосистеме классификаторов и моделей
• Создание инструментов мониторинга и наблюдаемости для отслеживания производительности классификаторов, качества данных и состояния системы для критически важных приложений безопасности
• Сотрудничество с исследовательскими группами для внедрения исследований в области безопасности в производственную среду, преобразование экспериментальных методов обеспечения безопасности в надежные, масштабируемые системы
• Оптимизация задержки и пропускной способности при выводе моделей для оценки безопасности в реальном времени при соблюдении высоких стандартов надежности
• Внедрение систем автоматизированного тестирования, развертывания и отката для моделей ML в производственных приложениях безопасности
• Партнерство с командами Safeguards, Security и Alignment для понимания требований и предоставления инфраструктуры, отвечающей потребностям безопасности и производства
• Вклад в разработку внутренних инструментов и фреймворков, ускоряющих исследования и развертывание систем безопасности

Вы можете нам подойти, если

• Вы владеете Python и имеете опыт работы с фреймворками ML, такими как PyTorch, TensorFlow или JAX
• Вы понимаете принципы распределенных систем и создавали системы, обрабатывающие нагрузки с высокой пропускной способностью и низкой задержкой
• Вы создавали автоматизированные или самообслуживаемые конвейеры развертывания и инфраструктуру оценки, позволяющую исследователям самостоятельно развертывать классификаторы и модели
• Вы внедряли фреймворки A/B-тестирования и инфраструктуру экспериментирования для систем ML
• Вы ориентированы на результат, с акцентом на надежность и эффективность в критически важных системах безопасности
• Вам нравится сотрудничать с исследователями и преобразовывать передовые исследования в производственные системы
• Вы глубоко заботитесь о безопасности ИИ и социальных последствиях вашей работы

Сильные кандидаты также могут иметь опыт

• Более 5 лет опыта создания производственной ML-инфраструктуры, желательно в критически важных областях безопасности, таких как обнаружение мошенничества, модерация контента или оценка рисков
• Работа с большими языковыми моделями и современными архитектурами трансформеров
• Разработка систем мониторинга и оповещения для производительности моделей ML и дрейфа данных
• Опыт работы в области доверия и безопасности, предотвращения мошенничества или модерации контента
• Знание методов ML, сохраняющих конфиденциальность, и нормативных требований

Годовой диапазон компенсации для этой должности указан ниже.

Для должностей, связанных с продажами, указанный диапазон представляет собой диапазон целевого заработка ("OTE"), что означает, что диапазон включает как комиссии с продаж/бонусы за продажи, так и годовой базовый оклад для данной должности.

Годовой оклад: 320 000 — 485 000 долларов США

Логистика

Минимальное образование: степень бакалавра или эквивалентная комбинация образования, обучения и/или опыта

Требуемая область обучения: область, связанная с ролью, подтвержденная курсовой работой, обучением или профессиональным опытом

Минимальный опыт работы: Требуемый опыт работы будет коррелировать с требованиями внутреннего уровня должности для этой позиции

Гибридная политика на основе местоположения: В настоящее время мы ожидаем, что все сотрудники будут находиться в одном из наших офисов не менее 25% времени. Однако некоторые должности могут требовать больше времени, проведенного в наших офисах.

Визовая поддержка: Мы предоставляем визовую поддержку! Однако мы не можем успешно оказывать визовую поддержку для каждой должности и каждого кандидата. Но если мы сделаем вам предложение, мы приложим все разумные усилия, чтобы получить для вас визу, и для этого мы привлекаем иммиграционного юриста.

Мы призываем вас подать заявку, даже если вы считаете, что не соответствуете всем указанным требованиям. Не все сильные кандидаты соответствуют всем перечисленным требованиям. Исследования показывают, что люди, идентифицирующие себя как принадлежащие к недопредставленным группам, более склонны испытывать синдром самозванца и сомневаться в своей кандидатуре, поэтому мы настоятельно призываем вас не исключать себя преждевременно и подать заявку, если вы заинтересованы в этой работе. Мы считаем, что системы ИИ, подобные тем, которые мы создаем, имеют огромные социальные и этические последствия. Мы считаем, что это делает представительство еще более важным, и мы стремимся включать в нашу команду разнообразные точки зрения.

Ваша безопасность важна для нас. Чтобы защитить себя от возможных мошенничеств, помните, что рекрутеры Anthropic связываются с вами только с адресов электронной почты @anthropic.com. В некоторых случаях мы можем сотрудничать с проверенными кадровыми агентствами, которые представятся как работающие от имени Anthropic. Будьте осторожны с письмами с других доменов. Законные рекрутеры Anthropic никогда не будут запрашивать деньги, сборы или банковскую информацию до вашего первого рабочего дня. Если вы когда-либо будете сомневаться в коммуникации, не переходите по ссылкам — посетите Anthropic Careers напрямую, чтобы узнать об открытых вакансиях.

Чем мы отличаемся

Мы считаем, что исследования в области ИИ с наибольшим влиянием — это «большая наука». В Anthropic мы работаем как единая сплоченная команда над несколькими крупномасштабными исследовательскими проектами. И мы ценим влияние — продвижение наших долгосрочных целей по созданию управляемого, надежного ИИ — а не работу над мелкими и более специфическими задачами. Мы рассматриваем исследования ИИ как эмпирическую науку, которая имеет столько же общего с физикой и биологией, сколько и с традиционными направлениями в информатике. Мы очень сплоченная группа, и мы проводим частые исследовательские дискуссии, чтобы гарантировать, что мы занимаемся работой с наибольшим влиянием в данный момент. В связи с этим мы высоко ценим коммуникативные навыки.

Самый простой способ понять наши исследовательские направления — это ознакомиться с нашими последними исследованиями. Эти исследования продолжают многие направления, над которыми работала наша команда до Anthropic, включая: GPT-3, Circuit-Based Interpretability, Multimodal Neurons, Scaling Laws, AI & Compute, Concrete Problems in AI Safety и Learning from Human Preferences.

Присоединяйтесь к нам!

Anthropic — это корпорация, приносящая общественную пользу, со штаб-квартирой в Сан-Франциско. Мы предлагаем конкурентоспособную компенсацию и льготы, добровольное пожертвование акций с соответствующим взносом, щедрый отпуск и отпуск по уходу за ребенком, гибкий рабочий график и прекрасное офисное пространство для сотрудничества с коллегами. Руководство по использованию ИИ кандидатами: Узнайте о нашей политике использования ИИ в процессе подачи заявки.