Используем cookie для работы сайта и статистики. «Хорошо» разрешит ещё и запись сессий.
Runware
Соединенные Штаты3 дня назад
Грейд
Staff
Опыт работы
от 12 лет
Формат работы
Удалённо
Уровень английского
B2, выше среднего
Письмо на почту или сообщение рекрутеру в Telegram
Как старший инженер-разработчик инфраструктурных систем, вы будете отвечать за программный стек GPU на каждом узле Runware: прошивку, ядро и драйвер NVIDIA, среду выполнения и библиотеки CUDA, среду выполнения контейнеров, а также за то, как Kubernetes и наши службы инференса видят и совместно используют GPU. Когда GPU выходит из строя где-либо в парке, вы выясните причину и напишете программное обеспечение, которое предотвратит повторение этого.
Это индивидуальная роль старшего уровня для специалиста, который знает GPU от драйвера до прошивки и по-прежнему пишет код каждый день. В один месяц это означает проверку нового выпуска драйвера и CUDA на совместимость со всеми семействами моделей, которые мы обслуживаем. В следующий — часть GPU в наборе для приемки, который должен пройти каждый узел, детектор, который выявляет сбойный GPU по его истории Xid и ECC до того, как это сделает клиент, запуск нового поколения GPU или ошибку CUDA, которая, как оказывается, начинается в прошивке, на канале PCIe или в обновлении ядра. Вы будете напрямую работать с командами эксплуатации узлов, управляемого Kubernetes, производительности инференса и Sonic Inference Engine, и будете тем человеком, которому каждый из них позвонит, когда проблема находится ниже уровня фреймворка.
Успех означает, что каждый GPU в каждом поде работает с известной, протестированной комбинацией прошивки, драйвера и CUDA, что обновления распространяются по всему парку без сбоев инференса, что неисправности GPU обнаруживаются, классифицируются и устраняются автоматически, а новое поколение GPU переходит от поставки до обслуживания трафика за дни.
Вы будете проектировать сеть для суперкомпьютера ИИ, который строится прямо сейчас, с бюджетом, оборудованием и полномочиями сделать это правильно. Немногие сетевые архитекторы получают возможность управлять фабрикой от первого пода до глобального магистрального канала, имея прямую связь с людьми, принимающими решения о том, как будет выглядеть следующий под.
As Senior Staff Engineer, Infrastructure Systems, you will own the GPU software stack on every Runware node: the firmware, the kernel and NVIDIA driver, the CUDA runtime and libraries, the container runtime, and the way Kubernetes and our inference services see and share a GPU. When a GPU misbehaves anywhere in the fleet, you will find out why and write the software that keeps it from happening again.
This is a senior staff-level individual contributor role for someone who knows GPUs from the driver up and still writes code every day. One month that means qualifying a new driver and CUDA release against every model family we serve. The next it is the GPU part of the acceptance suite that every node must pass, a detector that catches a failing GPU from its Xid and ECC history before a customer does, the bring-up of a new GPU generation, or a CUDA error that turns out to start in firmware, a PCIe link or a kernel update. You will work directly with the node operations, Managed Kubernetes, inference performance and Sonic Inference Engine teams, and be the person each of them calls when the problem sits below the framework.
Success means that every GPU in every pod runs a known, tested combination of firmware, driver and CUDA, that upgrades roll across the fleet without failed inferences, that GPU faults are detected, classified and remediated automatically, and that a new GPU generation goes from delivery to serving traffic in days.
You will design the network for an AI supercomputer that is being built right now, with the budget, the hardware, and the mandate to do it properly. Few network architects get to own a fabric from the first pod to the global backbone, with a direct line to the people deciding what the next pod looks like.
We're a remote-first collective, meeting in person twice a year to plan, brainstorm, celebrate wins, and enjoy some face-to-face time. We have core hours for cooperative working and calls, but outside of that your calendar is yours. Work the hours that let you perform at your peak while also building a healthy life.
Our release cycles are fast and intense, but they're followed by real downtime. After big pushes we expect the team to unplug, recharge, and come back ready and stronger than ever for the next leap.
Сравним навыки, грейд, формат работы и зарплату
Чаще всего от 240 000 до 302 000
Мы — удаленный коллектив, встречающийся лично дважды в год для планирования, мозгового штурма, празднования успехов и личного общения. У нас есть основные рабочие часы для совместной работы и звонков, но вне этого ваше расписание принадлежит вам. Работайте в часы, которые позволяют вам работать на пике продуктивности, одновременно строя здоровую жизнь.
Наши циклы выпуска быстрые и интенсивные, но за ними следует настоящий отдых. После напряженных периодов мы ожидаем, что команда отключится, перезарядится и вернется готовой и более сильной, чем когда-либо, для следующего скачка.