Senior ML Systems Engineer, Frameworks & Tooling

Заголовок: Senior ML Systems Engineer, Frameworks & Tooling Компания: Cohere Местоположение: Лондон / Сан-Франциско / Нью-Йорк / Париж / Торонто / Монреаль / Удаленно

Кто мы?

Cohere — ведущая компания в области корпоративного ИИ с фокусом на безопасность. Мы создаем передовые базовые ИИ-модели и комплексные продукты, разработанные для решения реальных бизнес-задач.

Мы обучаем и развертываем передовые модели для предприятий, которые создают ИИ-системы. Мы верим, что наша работа является инструментом для широкого внедрения ИИ, и ищем людей, которые хотят стать частью этого.

Мы одержимы тем, что создаем. Каждый из нас несет ответственность за увеличение возможностей наших моделей и той ценности, которую они приносят нашим клиентам. Cohere — это команда исследователей, инженеров, дизайнеров и других специалистов, увлеченных своим ремеслом.

Мы — глобальная технологическая компания со штаб-квартирой в Торонто и ключевыми офисами в Лондоне, Нью-Йорке, Сан-Франциско, Монреале, Париже, Берлине и Сеуле. Присоединяйтесь к нам!

Обзор роли:

Мы ищем старшего инженера, который поможет создавать, поддерживать и развивать фреймворк обучения, лежащий в основе наших крупномасштабных языковых моделей. Эта роль находится на стыке крупномасштабного обучения, распределенных систем и HPC-инфраструктуры. Вы будете проектировать и поддерживать основные компоненты, обеспечивающие быстрое, надежное и масштабируемое обучение моделей, а также создавать инструменты, которые связывают исследовательские идеи с тысячами GPU.

Если вам нравится работать со всеми аспектами ML-систем, эта роль предоставит вам возможность и автономию для достижения значительного влияния, работая над такими проектами, как:

• Создание высокопроизводительного конвейера загрузки и кэширования данных.
• Реализация профилирования производительности по всему стеку ML-систем.
• Разработка внутренних метрик и мониторинга для обучающих прогонов.
• Создание инфраструктуры для воспроизводимости и регрессионного тестирования.
• Разработка производительной отказоустойчивой распределенной системы контрольных точек.

Ключевые обязанности:

• Создание и владение фреймворком обучения, отвечающим за крупномасштабное обучение LLM.
• Проектирование абстракций распределенного обучения (параллелизм данных/тензоров/конвейера, стратегии FSDP/ZeRO, управление памятью, контрольные точки).
• Повышение пропускной способности и стабильности обучения на многоузловых кластерах (например, GB200/300, AMD, H200/100).
• Разработка и поддержка инструментов для мониторинга, логирования, отладки и улучшения эргономики разработчиков.
• Тесное сотрудничество с командами инфраструктуры для обеспечения того, чтобы наши кластеры, контейнерные среды и аппаратные конфигурации поддерживали высокопроизводительное обучение.
• Исследование и устранение узких мест производительности по всему стеку ML-систем.
• Создание надежных систем, обеспечивающих воспроизводимые, отлаживаемые крупномасштабные прогоны.

Квалификация:

• Значительный инженерный опыт в крупномасштабном распределенном обучении или HPC-системах. Глубокое знание внутренних компонентов JAX, библиотек распределенного обучения или пользовательских ядер/слитых операций.
• Опыт оркестрации многоузловых кластеров (Slurm, Ray, Kubernetes или аналогичных).
• Уверенность в отладке проблем производительности в CUDA/NCCL, сетях, вводе/выводе и конвейерах данных.
• Опыт работы с контейнеризированными средами (Docker, Singularity/Apptainer).
• Опыт создания инструментов, повышающих скорость разработки ML-команд.
• Отличное понимание компромиссов: производительность против сложности, скорость исследований против поддерживаемости.
• Сильные навыки сотрудничества — вы будете тесно работать с командами инфраструктуры, исследований и развертывания.

Любой из следующих пунктов также будет плюсом для этой роли:

• Опыт обучения LLM или других крупных трансформерных архитектур.
• Вклад в ML-фреймворки (PyTorch, JAX, DeepSpeed, Megatron, xFormers и т.д.).
• Знакомство с фреймворками оценки и обслуживания (vLLM, TensorRT-LLM, пользовательские KV-кэши).
• Опыт оптимизации конвейеров данных, разделенных наборов данных или стратегий кэширования.
• Опыт в области оптимизации производительности, профилирования или низкоуровневых систем.

Бонус: публикация статьи на ведущих площадках (таких как NeurIPS, ICML, ICLR, AIStats, MLSys, JMLR, AAAI, Nature, COLING, ACL, EMNLP).

Место работы: Эта должность может быть удаленной или с возможностью работать из одного из наших офисов, перечисленных в описании вакансии — минимальных требований по посещению офиса нет. Мы больше всего заботимся о найме исключительных людей независимо от места проживания, хотя, пожалуйста, ознакомьтесь с местоположением, указанным в объявлении, для получения информации о предполагаемой основной временной зоне или совпадении рабочих часов для данной роли.

ПОЛНОМЕТАЖНЫЕ СОТРУДНИКИ COHERE ПОЛЬЗУЮТСЯ СЛЕДУЮЩИМИ ПРЕИМУЩЕСТВАМИ:

• Еженельная стипендия на обед в размере 75 долларов США/75 фунтов стерлингов или эквивалент в местной валюте.
• Полное медицинское и стоматологическое страхование, включая отдельный бюджет на психическое здоровье.
• Сопоставление взносов RRSP, 401K, пенсионная схема.
• 100% компенсация родительского отпуска до 6 месяцев для любого из родителей.
• Ежегодные льготы на развитие:
  • Искусство и культура, фитнес/оздоровление, качественное времяпрепровождение и кредит на улучшение рабочего места.
  • Стипендия на образование и обучение для конференций, курсов и коучинга.
• 6 недель оплачиваемого отпуска (30 рабочих дней!)
• Бюджет на поездки в другие офисы, если вы работаете удаленно, плюс ежегодный корпоративный выезд.

КАК И ГДЕ МЫ РАБОТАЕМ:

• Cohere поддерживает удаленную работу, но у нас также есть офисы в Торонто, Лондоне, Нью-Йорке, Сан-Франциско, Монреале, Париже, Берлине и Сеуле, и скоро откроются новые.
• Для тех, кто работает в офисе: ежедневная программа обеда, много закусок и регулярные общественные мероприятия.
• Для тех, кто находится недалеко от офиса: льгота по коворкингу, чтобы вы могли работать вместе с другими в вашем городе.
• Каждый получает стипендию в размере 500 долларов США на обустройство домашнего рабочего места.

Если что-то из вышеперечисленного не совсем соответствует вашему опыту, мы все равно призываем вас подать заявку.

Мы стремимся создать инклюзивную рабочую среду для всех; мы приветствуем кандидатов из всех слоев общества и стремимся предоставлять равные возможности. Если вам потребуются какие-либо приспособления в процессе найма, пожалуйста, отправьте форму запроса на приспособления, и мы будем работать вместе, чтобы удовлетворить ваши потребности.

Мы можем использовать ИИ-инструменты для проверки и оценки кандидатов на соответствие критериям этой должности. Это помогает нашим рекрутерам выявлять потенциально квалифицированных кандидатов, но не ограничивает заявки, которые наши рекрутеры могут просмотреть или рассмотреть.

Остерегайтесь мошенничества: Cohere никогда не будет запрашивать оплату или сторонние услуги (например, написание резюме) в рамках нашего процесса найма. Все законные вакансии размещаются только на странице карьеры Cohere и LinkedIn, а вся переписка от сотрудников Cohere осуществляется с использованием почтового адреса @cohere.com или @cw.cohere. Если вакансии просматриваются на других сайтах, пожалуйста, проверьте их на нашей официальной странице карьеры.