Senior Applied Research Engineer

Title: Senior Applied Research Engineer Location: Barcelona / OnSite

ABOUT FUNDAMENTAL

Fundamental — это исследовательская лаборатория в области ИИ, которая работает над созданием будущего принятия решений в корпоративной среде. Наша флагманская модель NEXUS — это самая мощная в мире Large Tabular Model (LTM), специально разработанная для структурированных записей, содержащих триллионы долларов бизнес-ценности. При поддержке $275 млн от ведущих инвесторов и доверии компаний из списка Fortune 100, Fundamental предоставляет бизнесу Power to Predict.

В Fundamental вы будете решать беспрецедентные технические задачи в области разработки фундаментальных моделей и создавать технологии, которые трансформируют процесс принятия решений крупнейшими компаниями мира. Это ваша возможность с самого начала стать частью компании, определяющей свою категорию. Присоединяйтесь к команде, которая определяет будущее корпоративного ИИ.

KEY RESPONSIBILITIES

• Профилирование сквозных распределенных задач обучения для выявления узких мест в вычислительных ресурсах, памяти GPU и межпроцессорном взаимодействии

• Участие в принятии архитектурных решений, повышающих эффективность и надежность крупномасштабных задач обучения, включая разработку Triton/CUDA-ядер при необходимости

• Проектирование и реализация техник масштабирования моделей, распараллеливания и оптимизации памяти для рабочих нагрузок обучения с очень большими размерами контекста

• Тесное сотрудничество с ML-исследователями для диагностики архитектурных неэффективностей, обеспечения эффективного масштабирования новых исследовательских идей на практике и распространения внутренних знаний об эффективности и оптимизации моделей

• Содействие производственной эксплуатации и обслуживанию наших моделей с исследовательской стороны, включая повышение эффективности инференса с помощью таких техник, как квантование

MUST HAVE

• Глубокое понимание современных ML-архитектур и крупномасштабных конвейеров обучения

• Опыт запуска распределенных задач обучения на многопроцессорных системах GPU

• Продвинутые навыки профилирования и отладки в отношении CPU, GPU, использования памяти, задержек и межпроцессорного взаимодействия GPU

• Сильные навыки программирования на Python

• Опыт работы с техниками масштабирования моделей и распараллеливания, включая тензорное и конвейерное распараллеливание

NICE TO HAVE

• Знакомство с NCCL, MPI и примитивами распределенного взаимодействия

• Знание внутренних механизмов PyTorch и Triton

• Опыт программирования на C++ и CUDA

BENEFITS

• Конкурентоспособная оплата труда с зарплатой и долями (equity)

• Комплексное медицинское страхование для вас и ваших иждивенцев

• Оплачиваемый отпуск по уходу за ребенком для всех новых родителей, включая усыновленных и суррогатных

• Поддержка при переезде для сотрудников, присоединяющихся к команде в одном из наших офисов

• Миссия-ориентированная культура с низким уровнем эго, ценящая разнообразие мнений, ответственность и склонность к действию