Staff + Sr. Software Engineer, Scaling

Вознаграждение (годовой оклад): 320 000 – 485 000 долларов США в год

О Anthropic Миссия Anthropic — создавать надежные, интерпретируемые и управляемые ИИ-системы. Мы хотим, чтобы ИИ был безопасным и полезным для наших пользователей и общества в целом. Наша команда — это быстрорастущая группа преданных своему делу исследователей, инженеров, экспертов по политике и бизнес-лидеров, работающих вместе над созданием полезных ИИ-систем. О роли Наша команда Inference отвечает за создание и масштабирование критически важных систем, которые обслуживают Claude для миллионов пользователей по всему миру. Мы воплощаем Claude в жизнь, обслуживая наши модели с помощью крупнейших в отрасли развертываний инференса, независимых от оборудования. Мы отвечаем за весь стек — от интеллектуальной маршрутизации запросов до оркестровки всего парка ускорителей искусственного интеллекта. Команда имеет двойное назначение: максимизировать эффективность вычислений для надежного обслуживания нашего взрывного роста клиентской базы и одновременно обеспечить прорывные исследования, предоставляя нашим ученым высокопроизводительную инфраструктуру инференса, необходимую им для разработки моделей следующего поколения. Мы решаем сложные, распределенные системные задачи на различных семействах ускорителей и новом оборудовании для ИИ, работающем на нескольких облачных платформах. Системы инференса — это распределенные системы, чрезвычайно чувствительные к производительности. Инференс ежедневно обслуживает сотни тысяч клиентов, а размер и охват парка инференса требуют сложных систем маршрутизации, масштабирования и сетевых систем. Ключевые обязанности Проектирование, создание и поддержка распределенных систем, которые обслуживают Claude для миллионов пользователей по всему миру Разработка устойчивых, гибких систем, которые адаптируются в реальном времени к событиям реального мира Разработка интеллектуальных систем маршрутизации запросов, балансировки нагрузки и управления трафиком на тысячах ускорителей и множестве облачных провайдеров Максимизация эффективности вычислений и оптимизация затрат по всему парку с помощью автоматического масштабирования и оркестровки рабочих нагрузок в производстве, исследованиях и экспериментах на множестве облачных провайдеров Создание и эксплуатация конвейеров развертывания производственного уровня для выпуска новых моделей для пользователей Предоставление высокопроизводительной инфраструктуры инференса, которая позволяет исследователям разрабатывать модели следующего поколения Интеграция новых платформ ИИ-ускорителей и поддержка инференса для новых архитектур моделей Минимальные требования Значительный опыт разработки программного обеспечения, особенно в области распределенных систем Ориентация на результат с уклоном в гибкость и эффективность Готовность брать на себя дополнительную работу, даже если она выходит за рамки вашего описания должности Желание узнать больше о системах и инфраструктуре машинного обучения Преуспевание в средах, где техническое превосходство напрямую влияет как на бизнес-результаты, так и на исследовательские прорывы Забота о социальном влиянии вашей работы Предпочтительные квалификации Опыт работы с высокопроизводительными, крупномасштабными распределенными системами Опыт внедрения и развертывания систем машинного обучения в масштабе Опыт работы с системами балансировки нагрузки, маршрутизации запросов или управления трафиком Знакомство с оптимизацией инференса LLM, стратегиями пакетной обработки и кеширования Опыт работы с Kubernetes и облачной инфраструктурой (AWS, GCP, Azure) Владение Python или Rust Примеры проектов Проектирование интеллектуальных алгоритмов маршрутизации, оптимизирующих распределение запросов между множеством ускорителей в различных средах Автоматическое масштабирование нашего вычислительного парка для динамического соответствия предложения и спроса в производственных, исследовательских и экспериментальных рабочих нагрузках Создание конвейеров развертывания производственного уровня для надежного выпуска новых моделей миллионам пользователей Вклад в новые функции инференса Поддержка инференса для новых архитектур моделей Анализ данных наблюдаемости для настройки производительности на основе реальных производственных рабочих нагрузок Управление многорегиональными развертываниями и географической маршрутизацией для глобальных клиентов Годовой диапазон компенсации для этой роли указан ниже. Для ролей, связанных с продажами, указанный диапазон является диапазоном целевого заработка («OTE») для данной роли, что означает, что диапазон включает в себя как целевые комиссионные/бонусы по продажам, так и годовой базовый оклад для данной роли. Годовой оклад: $320 000 — $485 000 USD Логистика Минимальное образование: степень бакалавра или эквивалентное сочетание образования, обучения и/или опыта Требуемая область обучения: область, релевантная роли, подтвержденная курсовой работой, обучением или профессиональным опытом Минимальное количество лет опыта: требуемое количество лет опыта будет соответствовать внутренним требованиям к уровню должности для данной позиции Локальная гибридная политика: в настоящее время мы ожидаем, что все сотрудники будут находиться в одном из наших офисов не менее 25% времени. Однако некоторые роли могут требовать большего времени пребывания в наших офисах. Визовая поддержка: Мы спонсируем визы! Однако мы не можем успешно спонсировать визы для каждой роли и каждого кандидата. Но если мы сделаем вам предложение, мы приложим все разумные усилия, чтобы получить для вас визу, и мы привлекаем иммиграционного адвоката для помощи в этом. Мы призываем вас подать заявку, даже если вы не соответствуете всем перечисленным требованиям. Не все сильные кандидаты будут соответствовать всем перечисленным требованиям. Исследования показывают, что люди, идентифицирующие себя как представители недопредставленных групп, чаще испытывают синдром самозванца и сомневаются в силе своей кандидатуры, поэтому мы настоятельно призываем вас не исключать себя преждевременно и подать заявку, если вы заинтересованы в этой работе. Мы считаем, что ИИ-системы, подобные тем, которые мы строим, имеют огромные социальные и этические последствия. Мы считаем, что это делает представительство еще более важным, и мы стремимся включать в нашу команду широкий спектр разнообразных взглядов. Ваша безопасность важна для нас. Чтобы защитить себя от возможных мошенничеств, помните, что рекрутеры Anthropic связываются с вами только с адресов электронной почты @anthropic.com. В некоторых случаях мы можем сотрудничать с проверенными рекрутинговыми агентствами, которые представятся как работающие от имени Anthropic. Будьте осторожны с письмами с других доменов. Легитимные рекрутеры Anthropic никогда не будут запрашивать деньги, сборы или банковскую информацию до вашего первого рабочего дня. Если вы когда-либо сомневаетесь в связи, не переходите по ссылкам — посетите anthropic.com/careers напрямую, чтобы узнать об открытых вакансиях. Чем мы отличаемся Мы считаем, что наиболее влиятельные исследования в области ИИ будут носить характер «большой науки». В Anthropic мы работаем как единая сплоченная команда над несколькими крупномасштабными исследовательскими проектами. И мы ценим влияние — продвижение наших долгосрочных целей по созданию управляемого, заслуживающего доверия ИИ — а не работу над мелкими и более конкретными задачами. Мы рассматриваем исследования в области ИИ как эмпирическую науку, которая имеет много общего с физикой и биологией, а не с традиционными областями информатики. Мы являемся чрезвычайно коллаборативной группой, и мы проводим частые исследовательские дискуссии, чтобы гарантировать, что мы занимаемся наиболее влиятельной работой в любой момент времени. Таким образом, мы высоко ценим коммуникативные навыки. Самый простой способ понять наши исследовательские направления — это ознакомиться с нашими последними исследованиями. Эти исследования продолжают многие направления, над которыми работала наша команда до Anthropic, включая: GPT-3, Circuit-Based Interpretability, Multimodal Neurons, Scaling Laws, AI & Compute, Concrete Problems in AI Safety и Learning from Human Preferences. Присоединяйтесь к нам! Anthropic — это общественная корпорация (public benefit corporation), расположенная в Сан-Франциско. Мы предлагаем конкурентоспособную компенсацию и льготы, добровольное соответствие пожертвований акциями, щедрый отпуск и отпуск по уходу за ребенком, гибкий рабочий график и приятное офисное пространство для совместной работы с коллегами. Руководство по использованию ИИ кандидатами: Узнайте о нашей политике использования ИИ в процессе подачи заявки.