Senior or Staff Software Engineer, Inference / Compute Infrastructure Engineering

О Роли Мы ищем инженера-программиста для создания систем, которые рассматривают инфраструктуру как программное обеспечение. Эта роль отвечает за конечные автоматы программного обеспечения, которые подготавливают оборудование, вводят его в эксплуатацию и управляют всем его жизненным циклом — превращая стойки GPU в работающие кластеры для инференса без необходимости ручного вмешательства человека. Команда Research and Inference — ваш клиент: сегодня они подают заявки и ждут; целевое состояние — это когда они отправляют один API-запрос для создания, масштабирования или удаления кластера, а система позаботится обо всем остальном. Платформа основана на манифестах, так что команды объявляют желаемое состояние кластера или хоста — форму, топологию, стек программного обеспечения — а система отвечает за приведение реальности в соответствие с этим манифестом, непрерывно, на каждом этапе его жизненного цикла. Вы будете проектировать движки, которые реализуют схему, движки, которые выполняют ее, и рабочие процессы, которые перемещают часть оборудования или кластер из одного состояния в другое — от «голого железа» до полностью функционирующего ИИ-кластера для обучения или инференса. Вы будете писать производственный код, который типизирован, протестирован, версионирован и развернут через CI/CD, который моделирует состояние инфраструктуры и приводит ее в соответствие, так же, как контроллер Kubernetes приводит в соответствие желаемое состояние кластера. Успех заключается в устранении ручной подготовки, а не в ее лучшем документировании. Продуктовое мышление — вы создавали внутренние платформы или API, используемые другими инженерными командами, и заботитесь об опыте разработчиков того, что вы выпускаете. Вы создаете это, вы владеете этим. Вы несете ответственность не только за доставку программного обеспечения, но и за его эксплуатацию и поддержку в производственной среде. Обязанности Создание конечного автомата подготовки: проектирование и реализация программного обеспечения, которое моделирует полный жизненный цикл физического хоста от обнаружения, запуска для инференса до стека драйверов GPU/CUDA, проверки работоспособности и вывода из эксплуатации/RMA — в виде явных, версионированных состояний и переходов. Создание API для самообслуживания: проектирование декларативных API и управляющего уровня, чтобы команда инференса могла запрашивать, масштабировать и удалять кластеры инференса одним API-запросом — без заявок, без участия человека. Автоматизация самовосстановления: обнаружение деградировавших или сбойных узлов, их безопасное отключение, инициирование ремонта или замены и автоматическое повторное введение работоспособных мощностей в пул. Ответственность за надежность конвейера: идемпотентность, повторные попытки, откат и обнаружение дрейфа, чтобы система подготовки была так же надежна, как и любая другая производственная служба. Сотрудничество с командой платформы инференса/ML: понимание необходимых им конфигураций кластеров — топологии, межсоединений, ограничений планирования — и кодирование их как первоклассных абстракций на платформе. Разработка как программного обеспечения: строгая типизация, автоматизированные тесты, обзор кода, версионирование и CI/CD для инфраструктурного кода — это продукт, а не набор Ansible playbooks. Требования Основные требования (все уровни): Прочный опыт разработки программного обеспечения на Go, Python, Rust или аналогичных языках — вы пишете и тестируете реальное программное обеспечение для жизни. Опыт работы с инструментами оркестровки надежных рабочих процессов, такими как Temporal, Cadence или эквивалентными, для выполнения долгоживущих, основанных на манифестах рабочих процессов, которые переживают сбои и возобновляются в середине выполнения. Опыт создания программных управляющих уровней или систем оркестровки, которые моделируют состояние и приводят его в соответствие с течением времени (например, контроллеры/операторы Kubernetes, пользовательские циклы согласования, движки рабочих процессов). Опыт работы с событийно-ориентированными системами — проектирование и создание программного обеспечения на основе очередей сообщений, потоков событий или pub/sub (например, Kafka, NATS, SQS), а не опроса или сценариев, управляемых cron. Продуктовое мышление. Вы создавали внутренние платформы или API, используемые другими инженерными командами, и заботитесь об опыте разработчиков того, что вы выпускаете. Желательно: Опыт работы с подготовкой bare-metal (PXE/iPXE, Redfish/IPMI, BMC) и/или основы сетей (VLAN, BGP, дизайн фабрики) или инфраструктуры GPU/акселераторов. Опыт работы со стеками программного обеспечения кластеров GPU (NCCL, CUDA, InfiniBand/RoCE). Предыдущий опыт работы в hyperscaler, GPU cloud или организации инфраструктуры масштаба дата-центра. Системное программирование на Rust или Go. О Together AI Together AI, AI Native Cloud, создан специально для AI-инженеров. Разработчики AI-приложений получают высокопроизводительный инференс, который надежно масштабируется, тонкую настройку и обучение с подкреплением для создания специализированных моделей передового уровня, а также предварительное обучение в огромных масштабах для полностью индивидуального интеллекта — все это в рамках маркетплейса ведущих открытых моделей, которые команды могут запускать, адаптировать и владеть. Together, которому доверяют Cursor, Decagon, ElevenLabs, Salesforce и Zoom, обслуживает более 400 триллионов токенов в месяц. Равные возможности Together AI является работодателем, предоставляющим равные возможности, и гордится тем, что предоставляет равные возможности трудоустройства всем, независимо от расы, цвета кожи, родословной, религии, пола, национального происхождения, сексуальной ориентации, возраста, гражданства, семейного положения, инвалидности, гендерной идентичности, статуса ветерана и многого другого.