ML Systems Engineer — Inference Acceleration

Заголовок: ML Systems Engineer — Inference Acceleration Компания: Arago Местоположение: Офисы в Париже / На месте

ПОЗНАКОМЬТЕСЬ С ARAGO И ARAGONIANS

Миссия Arago — перепроектировать основы вычислений с нуля.

Взрывной рост ИИ подталкивает индустрию к переосмыслению того, как создаются процессоры. Arago решает эту задачу с помощью запатентованной технологии, которая объединяет оптические и CMOS-технологии для обеспечения многократного увеличения производительности.

Arago — самая быстрая и на данный момент единственная компания, построившая такой процессор. Ее поддерживают ведущие инвесторы в области глубоких технологий и некоторые из самых уважаемых фигур в полупроводниковой и вычислительной индустрии, включая генерального директора Arm, основателя macOS, работавшего напрямую со Стивом Джобсом в Apple, Nvidia Fellow, главу отдела оптики Google и многих других отраслевых лидеров.

Нашу работу направляют три четких ценности: делать великие дела, двигаться с высокой скоростью и действовать как единое целое. Мы работаем в требовательной среде, где ожидается постоянное обучение, ответственность и выполнение задач, и где исключительные люди имеют возможность прожить свою лучшую профессиональную жизнь.

ЧТО ВЫ БУДЕТЕ ДЕЛАТЬ

Оптимизировать выполнение и обслуживание современных моделей ИИ на кастомном ускорителе Arago. Работать над ядрами, выполнением моделей, многоустройственной дистрибуцией, средой выполнения и обслуживанием инференса, одновременно помогая формировать программный стек вокруг возможностей оборудования Arago.

ТРЕБУЕМЫЕ НАВЫКИ И ОПЫТ

• Богатый опыт в высокопроизводительном ML-инференсе, программировании GPU/ускорителей или инженерии ML-систем.
• Глубокое понимание компьютерной архитектуры, моделей выполнения ускорителей/GPU, иерархий памяти, параллелизма и узких мест производительности.
• Опыт разработки и оптимизации кастомных ядер с использованием CUDA, Triton, ROCm/HIP или эквивалентных сред низкоуровневого программирования.
• Опыт работы с операторным слиянием, тайлингом, планированием, оптимизацией передачи данных, выполнением графов и профилированием вычислительно- и память-зависимых нагрузок.
• Глубокое понимание распределенного выполнения моделей, включая тензорный, конвейерный, последовательный и/или экспертный параллелизм, а также наложение вычислений и коммуникаций.
• Практический опыт работы с современными системами обслуживания инференса, такими как vLLM, SGLang, TensorRT-LLM или эквивалентные, включая управление KV-кэшем, непрерывную пакетную обработку, страничное внимание (paged attention) и планирование prefill/decode.
• Отличное владение C++ и Python, а также уверенность в работе с кастомным стеком ускорителей, где компилятор, среда выполнения, ядра и абстракции активно разрабатываются. Опыт работы с MLIR и диалектами MLIR является большим плюсом.
• Язык: Английский на продвинутом уровне.

ОБЯЗАННОСТИ

• Анализировать современные рабочие нагрузки ИИ и выявлять узкие места на уровне ядер, среды выполнения, памяти и системы на ускорителе Arago.
• Разрабатывать и оптимизировать кастомные ядра, слитные операторы и стратегии выполнения для максимального использования устройства.
• Проектировать эффективные отображения моделей и операторов на несколько устройств Arago, включая стратегии коммуникации и синхронизации.
• Разрабатывать методы обслуживания инференса, такие как непрерывная пакетная обработка, страничные KV-кэши, кэширование префиксов/контекста, пакетная обработка с разделением на части (chunked prefill) и чередование или разделение prefill/decode.
• Создавать инфраструктуру для профилирования, бенчмаркинга и анализа производительности, охватывающую ядра, полные модели и рабочие нагрузки обслуживания.
• Тесно сотрудничать с командами Arago по аппаратному обеспечению, компиляторам и средам выполнения для совместной разработки программных абстракций и влияния на будущие аппаратные функции на основе реальных рабочих нагрузок моделей.

ОПЛАТА И ЛЬГОТЫ

• Конкурентная денежная компенсация, окончательный пакет зависит от местоположения, опыта и оплаты членов команды на аналогичных должностях.
• Предлагается значительный план опционов на акции (включен в большинство предложений о полной занятости).
• Медицинское страхование (включая варианты для семьи), пенсионные взносы, поддержка профессионального развития и 25 дней оплачиваемого отпуска в дополнение к государственным праздникам.
• Владение ключевой технической областью со значительными возможностями вертикального и/или горизонтального роста, основанными на производительности и личной инициативе.

Мы с нетерпением ждем возможности услышать, как вы поможете формировать будущее ИИ в Arago.