Platform Engineer, Model Shaping

Название: Platform Engineer, Model Shaping Компания: Together AI Местоположение: Сан-Франциско

О роли

Команда Model Shaping в Together AI работает над продуктами и исследованиями по адаптации открытых базовых моделей для конкретных приложений. Мы создаем сервисы, которые позволяют разработчикам машинного обучения выбирать лучшие модели для своих задач и далее улучшать эти модели с использованием данных, специфичных для предметной области. Помимо этого, мы разрабатываем новые методы для более эффективного обучения и оценки моделей, черпая вдохновение из широкого спектра идей в области машинного обучения, обработки естественного языка и систем машинного обучения.

В качестве Platform Engineer в Model Shaping вы будете работать на стыке backend-разработки и инфраструктуры, создавая основополагающие уровни платформы Together для настройки и оценки моделей. Вы будете проектировать, разрабатывать и эксплуатировать как backend-сервисы, так и базовые системы, которые позволяют нам устойчиво и надежно масштабировать производственные рабочие процессы, запускаемые нашими пользователями, а также внутренние исследовательские эксперименты.

Вы будете работать в кросс-функциональной среде, сотрудничая с другими инженерами и исследователями в команде для улучшения инфраструктуры на основе потребностей проектов, над которыми они работают. Вы также будете взаимодействовать с другими инженерными командами в Together (такими как Commerce, Data Engineering и Cloud Infrastructure) для интеграции сервисов, разработанных Model Shaping, с системами, разработанными этими командами.

Обязанности

• Проектирование и создание систем и инфраструктуры Together для настройки моделей, включая пользовательские функции и внутренние улучшения
• Внесение вклада в повышение надежности платформы, участие в ротации дежурств и улучшение процессов реагирования на инциденты
• Создание и улучшение внутренних инструментов для развертывания, непрерывной интеграции и наблюдаемости
• Создание платформы оркестрации заданий, охватывающей несколько центров обработки данных и поддерживающей высокогетерогенный набор аппаратного обеспечения
• Партнерство с командами, разрабатывающими внутренние сервисы, совместное проектирование этих сервисов и их интеграция в системы, создаваемые в Together

Требования

• Опыт работы в создании инфраструктуры или backend-компонентов производственных сервисов более 3 лет
• Обширный опыт проектирования, эксплуатации и устранения неполадок в производственных средах Linux и платформах на базе Kubernetes
• Глубокие знания в области программной инженерии на Python или Go
• Опыт работы с инструментами автоматизации инфраструктуры (Terraform, Ansible), стеками мониторинга/наблюдаемости (Prometheus, Grafana) и CI/CD пайплайнами (GitHub Actions, ArgoCD)
• Опыт администрирования облачных сред (например, AWS/GCP/Azure), предпочтительно с гибридной средой bare-metal/cloud
• Отличные коммуникативные навыки, готовность документировать системы и процессы, а также сотрудничать с коллегами с различным техническим уровнем экспертизы
• Уверенное владение всем стеком технологий, от эксплуатации кластеров и автоматизации инфраструктуры до разработки backend-сервисов

Опыт в любой из следующих областей будет преимуществом:

• Разработка крупномасштабных производственных систем с высокими требованиями к надежности
• Фреймворки оркестрации пайплайнов (например, Kubeflow, Argo Workflows, Flyte)
• Управление рабочими нагрузками GPU на HPC-кластерах, желательно с практическим опытом работы с сетевым стеком NVIDIA (например, NCCL, Mellanox firmware, GPUDirect RDMA)
• Развертывание сервисов для обучения или инференса ИИ
• Основы сетей, включая TCP/IP, DNS, маршрутизацию, балансировку нагрузки, TLS и инструменты отладки сети
• Поддержка или участие в open-source проектах

О Together AI

Together AI, AI Native Cloud, создан специально для AI-инженеров. Разработчики AI-приложений получают высокопроизводительный инференс, который надежно масштабируется, дообучение и обучение с подкреплением для создания передовых специализированных моделей, а также пре-тренинг в массивном масштабе для полностью кастомизированного интеллекта — и все это на базе маркетплейса ведущих открытых моделей, которые команды могут запускать, адаптировать и владеть ими. Together, которому доверяют Cursor, Decagon, ElevenLabs, Salesforce и Zoom, обрабатывает более 400 триллионов токенов в месяц.

Вознаграждение

Мы предлагаем конкурентоспособное вознаграждение, опционы стартапа, медицинскую страховку и другие льготы, а также гибкость в отношении удаленной работы. Диапазон базовой заработной платы в США для этой полнофункциональной позиции составляет $200 000 - $290 000. Наши диапазоны заработной платы определяются местоположением, уровнем и должностью. Индивидуальное вознаграждение будет определяться опытом, навыками и знаниями, связанными с работой.

Равные возможности

Together AI является работодателем, предоставляющим равные возможности, и гордится тем, что предлагает равные условия трудоустройства всем, независимо от расы, цвета кожи, происхождения, религии, пола, национальной принадлежности, сексуальной ориентации, возраста, гражданства, семейного положения, инвалидности, гендерной идентичности, статуса ветерана и т. д.