Research Engineer, ML Platform

Title: Research Engineer, ML Platform Company: Mistral AI Location: Palo Alto / Hybrid

О MISTRAL

Mistral предоставляет комплексные AI-решения: от передовых моделей до инструментов для разработчиков, приложений и вычислительных мощностей. Мы сотрудничаем с предприятиями, решающими сложнейшие задачи в критически важных отраслях, таких как финансы, производство, оборона, здравоохранение и государственный сектор, совместно создавая индивидуальные AI-системы, которые они могут использовать на своих условиях.

Мы — динамичная, сплоченная команда, увлеченная AI и его потенциалом трансформировать общество. Наш разнообразный коллектив успешно работает в конкурентной среде и стремится к внедрению инноваций. Наши команды распределены по Европе, Северной Америке, Азии и Ближнему Востоку. Мы креативны, лишены эго и ориентированы на командную работу.

РОЛЬ

Эта роль сосредоточена на создании и эксплуатации ML-платформы, которая обеспечивает крупномасштабное обучение, оценку и пакетное инференс в Mistral AI. Вы будете разрабатывать инфраструктуру, позволяющую исследователям и инженерам надежно запускать распределенные GPU-нагрузки на кластерах, различных типах оборудования и в разных регионах.

Вы будете работать на протяжении всего жизненного цикла ML, от планирования нагрузок и управления ресурсами до API платформы, наблюдаемости и производственных операций. Вы возьмете на себя ответственность за критически важные системы и поможете превратить сложную инфраструктуру в надежные, самообслуживаемые возможности.

ЧТО ВЫ БУДЕТЕ ДЕЛАТЬ

• Создавать ML-платформу: Разрабатывать сервисы, API, контроллеры и инструменты для обучения, оценки, дообучения и пакетного инференса.

• Оркестрировать GPU-нагрузки: Создавать системы для постановки в очередь, контроля допуска, квот, приоритетов, вытеснения и размещения с учетом топологии.

• Управлять вычислительными ресурсами: Улучшать процессы выделения, распределения и использования гетерогенных GPU-ресурсов между кластерами.

• Обеспечивать выполнение на нескольких кластерах: Размещать нагрузки на основе доступности ресурсов, близости данных, требований к оборудованию и организационных приоритетов.

• Улучшать опыт исследователей: Создавать рабочие процессы самообслуживания, которые упрощают запуск, наблюдение, отладку и воспроизведение распределенных нагрузок.

• Оптимизировать производительность: Повышать утилизацию GPU, сокращать задержки при планировании, время запуска нагрузок, пропускную способность и эффективность инфраструктуры.

• Строить для надежности: Разрабатывать инструменты наблюдаемости, восстановления после сбоев, планирования ресурсов и операционные инструменты для критически важных ML-нагрузок.

• Эксплуатировать то, что вы построили: Участвовать в дежурствах по вызову и устранять проблемы, связанные с приложениями, планировщиками, сетями, хранилищами и GPU-инфраструктурой.

ЧТО МЫ ИЩЕМ

• Опыт работы от 4 лет в области ML-инфраструктуры, распределенных систем, инженерии платформ Kubernetes или смежных областях.

• Владение Python или Go и опыт работы с производственными распределенными системами.

• Глубокие знания Kubernetes, включая контроллеры, операторы, CRD, планирование, сети, хранилища и управление ресурсами.

• Понимание таких технологий, как Kueue, Karpenter, Volcano и Kyverno, а также проблем, которые они решают в области планирования нагрузок, выделения ресурсов и обеспечения соответствия политикам.

• Понимание распределенных ML-нагрузок, включая обучение, дообучение, оценку, сохранение контрольных точек и пакетный инференс.

• Знакомство с GPU-инфраструктурой и технологиями, такими как PyTorch, CUDA, NCCL и высокопроизводительные сети.

• Понимание концепций, таких как квоты, приоритеты, вытеснение, планирование групп (gang scheduling), учет топологии и допуск нагрузок.

• Способность диагностировать проблемы с производительностью и надежностью программного обеспечения, оркестрации, сетей, хранилищ и оборудования.

• Забота об опыте разработчиков и стремление превращать сложную инфраструктуру в простые, надежные интерфейсы.

• Умение работать в неопределенной, быстро меняющейся среде, формируемой передовыми AI-исследованиями.

ЧТО МЫ ПРЕДЛАГАЕМ

Мы предлагаем комплексный пакет льгот, разработанный для поддержки вашего благополучия, роста и баланса между работой и личной жизнью. Льготы варьируются в зависимости от страны и могут включать медицинское страхование, отпуск по уходу за ребенком, пенсионные планы, помощь при переезде, программы оздоровления, пособия на питание и транспорт, а также другие льготы, специфичные для конкретного места.

Для получения самой актуальной информации о льготах, доступных в вашем регионе, обратитесь к нашей странице «Льготы».