Senior Software Engineer, GPU Infrastructure (HPC)

Вознаграждение: 285 000–340 000 канадских долларов в год

КТО МЫ?

Cohere — ведущая компания в области корпоративного ИИ с приоритетом безопасности. Мы создаем передовые фундаментальные ИИ-модели и комплексные продукты, разработанные для решения реальных бизнес-задач.

Мы обучаем и внедряем передовые модели для предприятий, которые создают ИИ-системы. Мы верим, что наша работа имеет важное значение для широкого внедрения ИИ, и ищем людей, которые хотят стать частью этого.

Мы одержимы тем, что создаем. Каждый из нас отвечает за повышение возможностей наших моделей и ценности, которую они приносят нашим клиентам. Cohere — это команда исследователей, инженеров, дизайнеров и других специалистов, увлеченных своим ремеслом.

Мы — глобальная технологическая компания со штаб-квартирой в Торонто и ключевыми офисами в Лондоне, Нью-Йорке, Сан-Франциско, Монреале, Париже, Берлине и Сеуле. Присоединяйтесь к нам!

Почему именно эта команда?

Команда внутренней инфраструктуры отвечает за создание инфраструктуры и инструментов мирового класса, используемых для обучения, оценки и обслуживания фундаментальных моделей Cohere. Присоединившись к нашей команде, вы будете тесно сотрудничать с исследователями ИИ для поддержки их рабочих нагрузок ИИ на передовом уровне, уделяя особое внимание стабильности, масштабируемости и наблюдаемости. Вы будете отвечать за создание и эксплуатацию суперкластеров в нескольких облаках. Ваша работа напрямую ускорит разработку передовых ИИ-моделей, которые обеспечивают работу платформы Cohere North.

Обратите внимание: все наши вакансии в области инфраструктуры требуют участия в круглосуточном дежурстве (24x7), которое оплачивается в соответствии с графиком дежурств.

В качестве старшего инженера-программиста вы будете:

• Создавать и масштабировать HPC-инфраструктуру, оптимизированную для ML: развертывать и управлять суперкластерами GPU/TPU на базе Kubernetes в нескольких облаках, обеспечивая высокую пропускную способность и низкую задержку для рабочих нагрузок ИИ.

• Оптимизировать для обучения AI/ML: сотрудничать с облачными провайдерами для тонкой настройки инфраструктуры с целью повышения экономической эффективности, надежности и производительности, используя такие технологии, как RDMA, NCCL и высокоскоростные интерконнекты.

• Устранять и решать сложные проблемы: проактивно выявлять и устранять узкие места в инфраструктуре, деградацию производительности и сбои системы, чтобы минимизировать сбои в рабочих процессах AI/ML.

• Предоставлять исследователям инструменты самообслуживания: разрабатывать интуитивно понятные интерфейсы и рабочие процессы, которые позволяют исследователям самостоятельно отслеживать, отлаживать и оптимизировать свои задачи обучения.

• Стимулировать инновации в ML-инфраструктуре: тесно сотрудничать с исследователями ИИ для понимания возникающих потребностей (например, JAX, PyTorch, распределенное обучение) и преобразования их в надежные, масштабируемые инфраструктурные решения.

• Продвигать лучшие практики: отстаивать наблюдаемость, автоматизацию и инфраструктуру как код (IaC) в организации, обеспечивая сопровождаемость и устойчивость систем.

• Менторство и сотрудничество: делиться опытом посредством обзоров кода, документации и межкомандного сотрудничества, способствуя культуре передачи знаний и совершенства в инженерии.

Вы можете подойти, если у вас есть:

• Глубокие знания в области ML/HPC-инфраструктуры: опыт работы с кластерами GPU/TPU, фреймворками распределенного обучения (JAX, PyTorch, TensorFlow) и средами высокопроизводительных вычислений (HPC).

• Kubernetes в масштабе: подтвержденный опыт развертывания, управления и устранения неполадок в облачных кластерах Kubernetes для рабочих нагрузок ИИ.

• Сильные навыки программирования: владение Python (для инструментов ML) и Go (для системной инженерии), с предпочтением вклада в open-source вместо переизобретения решений.

• Знания на низком уровне: знакомство с внутренними механизмами Linux, сетью RDMA и оптимизацией производительности для ML-нагрузок.

• Опыт сотрудничества с исследователями: опыт тесной работы с исследователями ИИ или ML-инженерами для решения инфраструктурных задач.

• Самостоятельное решение проблем: способность выявлять узкие места, предлагать решения и добиваться результатов в быстро меняющейся среде.

ПОЛНЫЙ РАБОЧИЙ ДЕНЬ СОТРУДНИКИ COHERE ПОЛЬЗУЮТСЯ СЛЕДУЮЩИМИ ПРЕИМУЩЕСТВАМИ:

• Еженедельная стипендия на обед в размере 75 долларов США/75 фунтов стерлингов или эквивалент в местной валюте.

• Полное медицинское и стоматологическое страхование, включая отдельный бюджет на психическое здоровье.

• Софинансирование RRSP, 401K, пенсионный план.

• 100% компенсация родительского отпуска до 6 месяцев для любого из родителей.

• Ежегодные стипендии на развитие:

  Искусство и культура, фитнес/оздоровление, качественное времяпрепровождение и кредит на улучшение рабочего места.

  Стипендия на образование и обучение для конференций, курсов и коучинга.

• 6 недель оплачиваемого отпуска (30 рабочих дней!)

• Бюджет на поездки в другие офисы, если вы работаете удаленно, плюс ежегодное корпоративное выездное мероприятие.

КАК И ГДЕ МЫ РАБОТАЕМ:

• Cohere поддерживает удаленную работу, но у нас также есть офисы в Торонто, Лондоне, Нью-Йорке, Сан-Франциско, Монреале, Париже, Берлине и Сеуле, и скоро откроются новые.

• Для тех, кто находится в офисе: ежедневная программа обедов, множество закусок и регулярные общественные мероприятия.

• Для тех, кто находится не рядом с офисом: стипендия на коворкинг, чтобы вы могли работать вместе с другими в вашем городе.

• Каждый получает стипендию в размере 500 долларов США на обустройство домашнего офиса.

Если что-то из вышеперечисленного не совсем соответствует вашему опыту, мы все равно призываем вас подать заявку.

Мы стремимся создать инклюзивную рабочую среду для всех; мы приветствуем кандидатов из всех слоев общества и стремимся предоставлять равные возможности. Если вам требуются какие-либо приспособления в процессе набора персонала, пожалуйста, отправьте форму запроса приспособлений, и мы будем работать вместе, чтобы удовлетворить ваши потребности.

Мы можем использовать инструменты с поддержкой ИИ для отбора и оценки кандидатов на соответствие критериям данной должности. Это помогает нашим рекрутерам выявлять потенциально квалифицированных кандидатов, но не ограничивает заявки, которые наши рекрутеры могут просмотреть или рассмотреть.

Остерегайтесь мошенничества: Cohere никогда не будет требовать оплаты или услуг третьих сторон (например, написания резюме) в рамках нашего процесса найма. Все законные вакансии размещаются только на странице карьеры Cohere и LinkedIn, все сообщения от сотрудников Cohere исходят с адреса @cohere.com или @cw.cohere. Если вакансии просматриваются на других сайтах, пожалуйста, проверьте их на нашей официальной странице карьеры.