Research Engineer - Inference

Название: Инженер-исследователь — Инференс Местоположение: Сан-Франциско / Удаленно

ВОЗЬМИТЕ ПОД КОНТРОЛЬ СВОЙ ИНТЕЛЛЕКТ

Prime Intellect создает открытый стек сверхинтеллекта: инфраструктурный рубеж, который внутренне разрабатывают ИИ-лаборатории, предоставляемый каждой амбициозной ИИ-команде.

Наша платформа Lab объединяет вычисления, среды, оценки, безопасные песочницы, высокопроизводительное обучение и развертывание в единую полнофункциональную систему для пост-тренировки в масштабах передовых рубежей — от SFT и RL до использования инструментов, рабочих процессов агентов и непрерывно совершенствующихся производственных моделей. Мы создаем открытый передовой ИИ: модели с открытым исходным кодом, обученные от начала до конца для решения долгосрочных задач, таких как автономные исследования, и полнофункциональную платформу, которую наша собственная исследовательская команда использует для их создания. Следующему поколению ИИ-компаний, предприятий и исследовательских команд нужны не просто больше GPU. Им нужна возможность превратить свои собственные рабочие процессы, инструменты, данные и циклы обратной связи в сверхинтеллект, которым они владеют.

Prime Intellect привлек в общей сложности 150 миллионов долларов финансирования от Founders Fund, Radical Ventures, NVIDIA и выдающихся операторов в сфере ИИ, инфраструктуры и корпоративного сектора, включая Андрея Карпатого, Дваркеша Пателя, а также лидеров и основателей из Ramp, Perplexity, Harvey, Mercor, Zapier, Datadog, Cognition, OpenAI, Thinking Machines, Together AI, SemiAnalysis, LangChain, Browserbase, Cloudflare, Sierra, Databricks, Airbnb, OpenRouter, Standard Intelligence, Fleet, Core Auto и других. Мы ищем людей, которые хотят работать на стыке передовых исследований, реальной инфраструктуры и выхода на рынок в категории, которая еще полностью не существует.

ВЛИЯНИЕ РОЛИ

Создание систем инференса, которые обеспечивают исследования RL в Prime Intellect, масштабируясь до моделей с 1–3 триллионами параметров на кластерах NVL72. Ваша работа улучшит пропускную способность развертывания и сделает практичными частые обновления моделей.

ОБЯЗАННОСТИ

• Расширение интеграции prime-rl с vLLM для включения новых архитектур моделей в обучение RL, с мелкомасштабной валидацией перед более крупными запусками.
• Улучшение пропускной способности развертывания для долгосрочных агентов, настройка параллелизма и повторного использования KV-кэша по мере роста длин контекста.
• Оптимизация многоузлового инференса MoE, включая параллелизм экспертов и компромиссы между разделением prefill и decode.
• Снижение накладных расходов на обновление весов от тренера к инференсу за счет шардинг-ориентированной передачи и наложения связи, сохраняя при этом рабочие процессы развертывания на предполагаемой версии политики.
• Работа с FP8 и оценка более низких точностей. Использование проверок несоответствия тренера/сэмплера для выявления числовых регрессий и измерения эффекта на обучение RL.
• Сотрудничество с исследователями моделей по выбору архитектур, улучшающих эффективность инференса, балансируя качество модели с затратами на выполнение на целевом оборудовании.

ТРЕБОВАНИЯ

• Опыт создания или оптимизации систем GPU-инференса с пониманием внутренней работы движков инференса.
• Отличное знание Python и опыт работы с PyTorch или сопоставимым ML-фреймворком.
• Способность профилировать сквозные рабочие нагрузки и превращать измерения в подтвержденные улучшения производительности.
• Опыт отладки числовых проблем или проблем интеграции в ML-системах.

Желательно

• Вклад в vLLM или другой движок инференса.
• Работа с ядрами CUDA или Triton, особенно для инференса с низкой точностью.

ПРЕИМУЩЕСТВА И ПРИВИЛЕГИИ

• Диапазон денежного вознаграждения от 150 000 до 350 000 долларов США, включая долевые стимулы, что соответствует вашему успеху росту и влиянию Prime Intellect.
• Гибкие условия работы с возможностью работать удаленно или лично в наших офисах в Сан-Франциско.
• Визовая поддержка и помощь при переезде для международных кандидатов.
• Ежеквартальные выездные мероприятия команды, хакатоны, конференции и возможности для обучения.
• Возможность работать с талантливой, трудолюбивой и целеустремленной командой, объединенной общей страстью к использованию технологий для ускорения науки и ИИ.

Если вас привлекает возможность построить фундамент для будущего децентрализованного ИИ и создать платформу, которая позволит разработчикам и исследователям расширять границы возможного, мы будем рады услышать от вас.