AI Infrastructure Systems Engineer

Название: Инженер систем инфраструктуры ИИ Компания: Together AI Местоположение: Сан-Франциско

О роли

В Together AI вы будете создавать и эксплуатировать один из крупнейших в мире парков GPU, используемых для обучения и инференса передовых моделей. Это не традиционная роль в области инфраструктуры — мы ищем инженеров, которые любят создавать системы, автоматизировать все и решать проблемы в огромных масштабах.

Если вы больше любите писать код, чем нажимать на кнопки в дашбордах, одержимы идеей устранения ручного труда и хотите создавать инфраструктуру, которая автономно управляет десятками тысяч GPU, мы будем рады пообщаться.

Обязанности

• Проектировать и создавать системы автоматизации парка GPU, которые подготавливают, проверяют, развертывают, обновляют, ремонтируют и выводят из эксплуатации кластеры GPU с минимальным вмешательством человека.
• Создавать агентов инфраструктуры ИИ, которые автоматизируют развертывание, определяют первопричины сбоев, проводят триаж инцидентов и автономно устраняют неисправности.
• Разрабатывать платформы Fleet Intelligence, которые непрерывно отслеживают состояние оборудования, прошивок, сетей, хранилищ, тепловых режимов и производительности рабочей нагрузки, чтобы предсказывать сбои до того, как они повлияют на клиентов.
• Создавать программное обеспечение, которое максимизирует доступность, утилизацию, производительность и надежность GPU на тысячах ускорителей.
• Создавать автоматизированные системы проверки для GPU, сетей InfiniBand/RoCE, NVLink/NVSwitch, хранилищ и распределенных рабочих нагрузок ИИ.
• Создавать внутренние платформы и инструменты для разработчиков, которые позволяют управлять инфраструктурой с помощью программного обеспечения, а не ручных операций.
• Постоянно повышать скорость развертывания, надежность и операционную эффективность за счет автоматизации.
• Тесно сотрудничать с командами по аппаратному обеспечению, сетям, платформам и ИИ, чтобы расширить границы инфраструктуры ИИ.

Требования

• Опыт работы от 3 лет в создании распределенных систем, инфраструктурных платформ или бэкенд-программного обеспечения в больших масштабах.
• Сильные навыки разработки программного обеспечения на Python, Go или Rust.
• Опыт создания платформ, систем автоматизации или инфраструктуры для разработчиков.
• Опыт работы с Linux, Kubernetes, Terraform, Ansible или аналогичными инфраструктурными технологиями.
• Сильное системное мышление с возможностью понимать проблемы, охватывающие как аппаратное, так и программное обеспечение.
• Страсть к решению сложных инфраструктурных задач с помощью программного обеспечения.
• Мышление, ориентированное на автоматизацию — если задача повторяется, ваш инстинкт — создать систему для ее устранения.

Дополнительный опыт

• Инфраструктура GPU, CUDA, NCCL, NVLink/NVSwitch
• Сети InfiniBand или RoCE
• Подготовка bare-metal и управление жизненным циклом
• Крупномасштабные кластеры обучения или инференса ИИ
• Мониторинг состояния оборудования и предиктивное обнаружение сбоев
• Распределенные системы хранения данных
• Агенты ИИ и автономные операции инфраструктуры

О Together AI

Together AI, AI Native Cloud, создан специально для инженеров в области ИИ. Разработчики ИИ-приложений получают высокопроизводительный инференс, который надежно масштабируется, дообучение и обучение с подкреплением для создания специализированных моделей передового уровня, и предварительное обучение в огромных масштабах для полностью настраиваемого интеллекта — все это вокруг маркетплейса ведущих открытых моделей, которые команды могут запускать, адаптировать и владеть. Компании Cursor, Decagon, ElevenLabs, Salesforce и Zoom доверяют Together, обрабатывая более 400 триллионов токенов в месяц.

Компенсация

Мы предлагаем конкурентоспособную компенсацию, опционы стартапа, медицинскую страховку и другие конкурентоспособные льготы. Диапазон базовой заработной платы в США для этой полной ставки составляет: $190 000 - $270 000 + опционы + льготы. Наши диапазоны заработной платы определяются местоположением, уровнем и должностью. Индивидуальная компенсация будет определяться опытом, навыками и знаниями, связанными с работой.

Равные возможности

Together AI является работодателем, предоставляющим равные возможности, и гордится тем, что предоставляет равные возможности трудоустройства всем, независимо от расы, цвета кожи, родословной, религии, пола, национального происхождения, сексуальной ориентации, возраста, гражданства, семейного положения, инвалидности, гендерной идентичности, статуса ветерана и многого другого.