Senior Network Engineer - InfiniBand / UFM

Заголовок: Старший инженер по сетям - InfiniBand / UFM Местоположение: Нью-Йорк, Нью-Йорк / Удаленно / Сан-Франциско, Калифорния / Сиэтл, Вашингтон / Нью-Йорк, Нью-Йорк, США; Удаленно; Сан-Франциско, Калифорния, США; Сиэтл, Вашингтон, США

Вознаграждение (Ожидаемый годовой диапазон базовой зарплаты для этой должности составляет:): 170 000 – 210 000 долларов США в год

Кто мы Lightning AI — компания, стоящая за PyTorch Lightning. Основанная в 2019 году, мы создаем комплексную платформу для разработки, обучения и развертывания систем ИИ — разработанную для воплощения идей от исследований до производства с меньшими трудностями. Благодаря нашему слиянию с Voltage Park, неооблачной компанией и фабрикой ИИ, Lightning AI объединяет программное обеспечение, ориентированное на разработчиков, с экономически эффективными крупномасштабными вычислительными ресурсами. Команды получают инструменты, необходимые им для экспериментов, обучения и производственного вывода, с встроенной безопасностью, наблюдаемостью и контролем. Мы обслуживаем индивидуальных исследователей, стартапы и крупные предприятия. Lightning AI работает по всему миру с офисами в Нью-Йорке, Сан-Франциско, Сиэтле и Лондоне, и поддерживается Coatue, Index Ventures, Bain Capital Ventures и Firstminute. Как мы работаем Люди, которые преуспевают здесь, — это строители, которые действуют быстро, открыто общаются, берут на себя ответственность и постоянно совершенствуют себя, свои команды и нашу компанию. Вот как это выглядит на практике: Действуй с неотложностью: Мы действуем быстро, принимаем продуманные решения и поддерживаем темп. Мы ценим действие больше, чем совершенство, и учимся, выпуская продукт. Бери на себя ответственность: Мы несем ответственность за результаты, а не только за свою индивидуальную работу. Мы принимаем решения, которые продвигают компанию вперед, и доводим их до конца. Общайся открыто: Мы общаемся напрямую, стремимся понять и создаем ясность для других. Честные разговоры помогают нам двигаться быстрее вместе. Создавай отличные команды: Мы подаем пример, расширяем возможности других и создаем здоровые команды, где люди могут делать свою лучшую работу. Повышай планку: Мы всегда совершенствуем себя. Мы учимся на обратной связи, постоянно бросаем себе вызов расти и фокусируемся на самой важной работе. Думай в долгосрочной перспективе: Мы проектируем для будущего. Мы создаем масштабируемые системы, упрощаем сложность и используем ИИ и автоматизацию для усиления нашего влияния. Что мы ищем Мы ищем опытного старшего инженера по сетям (InfiniBand / UFM) для проектирования, развертывания, автоматизации и эксплуатации сетевой инфраструктуры фабрики ИИ следующего поколения, поддерживающей крупномасштабные кластеры GPU. Эта роль отвечает за создание и обслуживание высокопроизводительных сетей NVIDIA Quantum InfiniBand, которые обеспечивают работу сред для обучения и вывода ИИ с использованием NVIDIA UFM, NCCL, RoCEv2 и современных технологий дата-центров. Идеальный кандидат обладает глубокими знаниями в области сетей InfiniBand, NVIDIA Unified Fabric Manager (UFM), крупномасштабных развертываний GPU, сетевых технологий Linux, автоматизации и устранения неполадок в распределенных рабочих нагрузках ИИ. Сеть — это основа распределенного обучения ИИ. Узкие места производительности на уровне фабрики напрямую влияют на рабочие нагрузки клиентов. Эта роль определит, как Lightning будет масштабироваться с десятков тысяч GPU до значительно большего числа — обеспечивая детерминированную производительность, предсказуемое масштабирование и надежность корпоративного уровня. Если вы хотите проектировать инфраструктуру, которая поддерживает передовые исследования в области ИИ, эта роль для вас. Эта роль может быть полностью удаленной в пределах США или гибридной из одного из наших офисных центров (Нью-Йорк, Сан-Франциско, Сиэтл или Лондон) с периодическими выездными мероприятиями для команды и компании. В настоящее время мы не можем предоставить визовую поддержку для этой должности. Что вы будете делать Проектировать, развертывать и обслуживать крупномасштабные сети NVIDIA InfiniBand для поддержки кластеров GPU для ИИ/МО. Развертывать и администрировать NVIDIA Unified Fabric Manager (UFM) Enterprise для мониторинга, подготовки, телеметрии и обеспечения работоспособности фабрики. Настраивать и оптимизировать коммутаторы NVIDIA Quantum и Quantum-2 InfiniBand. Устранять проблемы с производительностью фабрики, влияющие на NCCL, MPI, GPUDirect RDMA и задания обучения ИИ. Реализовывать и валидировать сетевые архитектуры fat-tree, Dragonfly+, Clos и spine-leaf. Управлять жизненным циклом прошивок для коммутаторов InfiniBand, адаптеров (HCA) и инфраструктуры UFM. Оптимизировать управление перегрузками, адаптивную маршрутизацию, QoS и управление трафиком для высокопроизводительной связи GPU. Тесно сотрудничать с командами по платформам ИИ, инфраструктуре GPU, хранению данных и системной инженерии для развертывания масштабируемых сред фабрики ИИ. Автоматизировать подготовку сети с использованием Python, Ansible, Git, REST API и методологий Infrastructure-as-Code. Мониторить состояние сети с использованием телеметрии UFM, Prometheus, Grafana и других платформ наблюдаемости. Поддерживать высокую доступность, окна обслуживания, реагирование на инциденты, анализ первопричин и планирование мощностей. Участвовать в архитектурных обзорах и определять сетевые стандарты для инфраструктуры ИИ. Что вам понадобится Обязательные квалификации 7+ лет опыта в области крупномасштабных сетей дата-центров. Опыт развертывания, эксплуатации и устранения неполадок в средах InfiniBand. Глубокое понимание сетевых технологий уровня 2 и 3, включая BGP, EVPN, VXLAN и архитектуры spine-leaf. Опыт администрирования Linux. Опыт автоматизации сетей с использованием Python, Ansible, Terraform или аналогичных инструментов. Опыт использования инструментов для устранения неполадок в сети, наблюдаемости и телеметрии. Отличные навыки устранения неполадок, документирования и коммуникации. Идеальный опыт Опыт работы с Netris, Terraform или аналогичными инструментами инфраструктуры. Опыт проектирования магистральных сетей в нескольких регионах. Опыт работы с системами подготовки bare-metal. Опыт эксплуатации HPC, GPU-плотных или других крупномасштабных инфраструктурных сред. Опыт работы в быстрорастущих стартапах в области инфраструктуры Вознаграждение Мы стремимся предлагать конкурентоспособное вознаграждение, отражающее ценность, которую каждый член команды приносит нашей миссии. Окончательные предложения основываются на таких факторах, как опыт, навыки, географическое положение и ожидания от роли. Помимо базовой заработной платы, наш пакет вознаграждений для соответствующих должностей включает дискреционный бонус, значительный компонент акций и комплексные льготы. Ожидаемый годовой диапазон базовой заработной платы для этой роли: 170 000 — 210 000 долларов США Льготы и привилегии Мы предлагаем комплексный и конкурентоспособный пакет льгот, разработанный для поддержки здоровья, благополучия и долгосрочного успеха наших сотрудников: Комплексное медицинское покрытие: Медицинское страхование, стоматологическое страхование и страхование зрения для сотрудников и их иждивенцев. Значительный пакет акций: Акции (RSU), дающие сотрудникам долю в долгосрочном успехе компании. Сбережения на пенсию: Соответствие взносам в 401(k) (США) и пенсионные взносы (Великобритания). Гибкий график отпусков: Неограниченное количество дней PTO, государственные праздники и плавающие выходные для поддержки баланса между работой и личной жизнью. Общекорпоративный зимний отпуск: Две недели закрытия компании каждую зиму, чтобы отключиться и восстановить силы. Оплачиваемый отпуск по уходу за ребенком и семьей: Оплачиваемый отпуск для поддержки вас и вашей семьи в важные моменты жизни. Профессиональное развитие: Ежегодный бюджет на обучение и развитие для поддержки вашего профессионального роста. Льготы на оздоровление: Стипендии на оздоровление и работу из дома для поддержки вашего физического и психического благополучия. Программа sabbatical: Четыре недели оплачиваемого отпуска sabbatical после четырех лет службы. Гибкая работа: Гибкие графики и гибридная модель работы для наших офисных команд. Еда в офисе: Бесплатное питание в наших офисных центрах. Льготы могут различаться в зависимости от местоположения, команды и должности. В Lightning AI мы стремимся к созданию инклюзивной и разнообразной рабочей среды. Мы верим, что разнообразные команды способствуют инновациям и создают лучшие продукты. Мы предоставляем равные возможности трудоустройства всем сотрудникам и соискателям независимо от расы, цвета кожи, религии, пола, сексуальной ориентации, гендерной идентичности, национального происхождения, возраста, инвалидности, статуса ветерана или любых других защищенных характеристик. Мы стремимся построить культуру, в которой каждый может процветать и вносить максимальный вклад.