О Nebius:
Nebius возглавляет новую эру в облачной инфраструктуре для мировой экономики ИИ. Мы создаем полнофункциональную облачную платформу ИИ, которая поддерживает разработчиков и предприятия на всех этапах: от данных и обучения моделей до развертывания в продакшене, без затрат и сложностей, связанных с созданием крупномасштабной внутренней инфраструктуры ИИ/МО.
Создано инженерами для инженеров. От крупномасштабной оркестрации GPU до оптимизации инференса, мы решаем сложные задачи, связанные с вычислениями, хранением данных, сетями и прикладным ИИ.
Мы зарегистрированы на Nasdaq (NBIS) и базируемся в Амстердаме, имеем глобальное присутствие с R&D-центрами по всей Европе, Великобритании, Северной Америке и Израилю. В нашей команде из более чем 1500 человек сотни инженеров с глубокой экспертизой в области аппаратного и программного обеспечения, а также исследований и разработок в области ИИ.
Должность
Nebius Token Factory разрабатывает возможности для обучения ИИ и постобработки моделей для улучшения передовых моделей. Эта роль охватывает инфраструктуру, которая делает крупномасштабное обучение и RL-эксперименты возможными, надежными, воспроизводимыми и эффективными. Работа находится на стыке распределенных систем, производительности GPU, фреймворков для обучения моделей, RL-конвейеров и продакшн-инженерии.
Старший инженер по машинному обучению (Senior Machine Learning Engineer) полностью отвечает за существенные объемы работ по МО. Он может трансформировать неопределенную цель в конкретные эксперименты, реализовывать и отлаживать рецепты обучения и RL, создавать поддерживающие данные и системы, а также добиваться измеримых улучшений в качестве моделей, пропускной способности экспериментов и надежности. Он глубоко вовлечен в практическую работу и может самостоятельно отлаживать как сбои в поведении модели, так и сбои распределенного обучения.
Ваши обязанности:
- Проектирование и проведение экспериментов по обучению моделей и постобработке, включая SFT, продолженное предобучение, оптимизацию предпочтений (DPO/IPO/KTO) и методы RL, такие как RLHF/RLAIF, PPO и GRPO.
- Создание функций вознаграждения, моделей судей, верификаторов, сред задач и наборов для оценки в областях рассуждений, программирования, использования инструментов и агентных рабочих процессов.
- Создание синтетических данных и конвейеров данных, включая генерацию по принципу «учитель-ученик», самообучение, отклоняющую выборку, фильтрацию и оценку качества.
- Анализ сбоев в поведении моделей и их преобразование в целенаправленные улучшения данных, вознаграждения или алгоритмов.
- Создание и поддержка распределенной инфраструктуры для обучения и RL с использованием таких фреймворков, как Megatron-LM, DeepSpeed, PyTorch FSDP/DTensor, Ray, verl, slime, AReaL или OpenRLHF.
- Реализация и отладка стратегий параллелизма (тензорный, конвейерный, последовательный/контекстный, экспертный и параллелизм данных) и создание надежных компонентов для развертывания, обслуживания вознаграждений, сохранения контрольных точек и оркестрации экспериментов.
- Профилирование и улучшение утилизации GPU, использования памяти, эффективности связи, пропускной способности обучения и производительности инференса/обслуживания.
- Проектирование строгих оценок и абляционных исследований для оценки возможностей, следования инструкциям, рассуждений, использования инструментов, безопасности и риска регрессии.
- Написание четких планов экспериментов, проектных документов, отчетов о бенчмарках и руководств, а также взаимодействие с исследовательскими командами и командами платформы.
Обязательные требования:
- Отличные навыки программирования на Python и PyTorch, способность быстро переходить от идеи к эксперименту и к работающей системе.
- Практический опыт в как минимум двух из следующих областей: обучение моделей, постобработка/RL, прикладное моделирование, конвейеры данных или крупномасштабные ML-системы.
- Способность проектировать строгие эксперименты с базовыми линиями, абляционными исследованиями, метриками и анализом сбоев.
- Практическое понимание поведения современных LLM, настройки инструкций, оптимизации предпочтений и проблем оценки.
- Практическое понимание узких мест при обучении трансформеров, давления на память, накладных расходов на связь и сохранения контрольных точек.
- Способность количественно оценивать качество моделей, пропускную способность, утилизацию, надежность, стоимость и скорость исследований.
- Отличные коммуникативные навыки и способность к сотрудничеству с исследователями, инженерами и руководством.
Желательные навыки:
- Опыт постобработки LLM, RL, агентов, моделирования вознаграждений, синтетических данных или оценки моделей.
- Опыт работы с RL-фреймворками или конвейерами, такими как verl, slime, AReaL, OpenRLHF, TRL или пользовательские системы PPO/GRPO/RLHF.
- Опыт работы с Megatron-LM, DeepSpeed, PyTorch FSDP/DTensor, Ray, Slurm или Kubernetes на крупных GPU-кластерах.
- Знакомство с NCCL, CUDA, Triton, Nsight, InfiniBand/RDMA и кластерами H100/H200/B200, или с оптимизацией обслуживания моделей и инференса.
- Публикации, вклад в open-source проекты или реальное влияние в области постобработки LLM, RL, рассуждений, моделей кодирования, синтетических данных, распределенного обучения или оценки.
- Опыт проектирования сред агентов, задач по использованию инструментов или вознаграждений на основе верификаторов.
Основные льготы для сотрудников в США:
- Медицинская страховка: 100% покрытие медицинских, стоматологических и офтальмологических услуг для сотрудников и их семей за счет компании.
- План 401(k): До 4% софинансирования от компании с немедленным вестингом.
- Родительский отпуск: 20 недель оплачиваемого отпуска для основных опекунов, 12 недель для вторичных опекунов.
- Компенсация за удаленную работу: до 85 долларов в месяц за мобильную связь и интернет.
- Страхование от нетрудоспособности и страхование жизни: Покрытие краткосрочной, долгосрочной нетрудоспособности и страхования жизни за счет компании.
Прозрачность оплаты труда
Мы предлагаем конкурентоспособные пакеты компенсаций и льгот. Фактическая компенсация будет определяться исходя из факторов, связанных с работой, включая опыт, навыки, квалификацию, уровень, на котором будет нанят кандидат, и географическое положение, в соответствии с применимым законодательством.
Диапазон базовой компенсации
$195,200—$262,200 USD
Льготы и бонусы:
- Конкурентоспособная компенсация
- Возможности карьерного роста и обучения
- Гибкость и ответственность
- Сотрудничество и инновационная культура
- Возможность работать над значимыми ИИ-проектами
- Международная среда и талантливые команды
Что такое работа в Nebius:
Быстрый темп - Смелое мышление - Постоянный рост - Значимое влияние - Доверие и реальная ответственность - Возможность формировать будущее ИИ
Заявление о равных возможностях:
Nebius является работодателем, предоставляющим равные возможности. Мы стремимся создавать инклюзивную и разнообразную рабочую среду и предоставлять равные возможности трудоустройства во всех аспектах занятости. Мы не дискриминируем по признаку расы, цвета кожи, религии, пола (включая беременность), национального происхождения, родословной, возраста, инвалидности, генетической информации, семейного положения, статуса ветерана, сексуальной ориентации, гендерной идентичности или самовыражения, или любой другой характеристики, защищенной действующим законодательством.
Кандидаты должны иметь разрешение на работу в стране, в которую они подают заявление, и будут обязаны предоставить подтверждение права на трудоустройство в качестве условия найма.
Если вам требуются специальные условия во время процесса подачи заявления, пожалуйста, сообщите нам.