Site Reliability Engineer, Inference Infrastructure

Вознаграждение: 160 000–260 000 долларов США в год

КТО МЫ?

Cohere — ведущая компания в области корпоративного ИИ с приоритетом безопасности. Мы создаем передовые фундаментальные ИИ-модели и комплексные продукты, разработанные для решения реальных бизнес-задач.

Мы обучаем и развертываем передовые модели для предприятий, которые создают ИИ-системы. Мы верим, что наша работа играет ключевую роль в широком внедрении ИИ, и ищем людей, которые хотят стать частью этого.

Мы одержимы тем, что строим. Каждый из нас отвечает за повышение возможностей наших моделей и ценности, которую они приносят нашим клиентам. Cohere — это команда исследователей, инженеров, дизайнеров и других специалистов, увлеченных своим ремеслом.

Мы — глобальная технологическая компания со штаб-квартирой в Торонто и ключевыми офисами в Лондоне, Нью-Йорке, Сан-Франциско, Монреале, Париже, Берлине и Сеуле. Присоединяйтесь к нам!

ПОЧЕМУ ЭТА РОЛЬ?

Вас вдохновляет создание высокопроизводительных, масштабируемых и надежных систем машинного обучения? Вы хотите помочь определить и построить следующее поколение ИИ-платформ, обеспечивающих работу передовых NLP-приложений? Мы ищем инженера по надежности сайтов (Site Reliability Engineer) в команду Model Serving в Cohere. Команда отвечает за разработку, развертывание и эксплуатацию ИИ-платформы, предоставляющей большие языковые модели Cohere через простые в использовании API-эндпоинты. В этой роли вы будете тесно сотрудничать со многими командами для развертывания оптимизированных NLP-моделей в производственной среде с низкой задержкой, высокой пропускной способностью и высокой доступностью. У вас также будет возможность взаимодействовать с клиентами и создавать индивидуальные решения для удовлетворения их конкретных потребностей.

В качестве инженера по надежности сайтов вы будете:

• Создавать системы самообслуживания, автоматизирующие управление, развертывание и эксплуатацию сервисов.
• Это включает наши пользовательские операторы Kubernetes, которые поддерживают развертывание языковых моделей.
• Автоматизировать наблюдаемость среды и ее устойчивость. Предоставить всем разработчикам возможность выявлять и устранять проблемы.
• Предпринимать необходимые шаги для обеспечения соответствия определенным SLO, включая участие в дежурствах по вызову.
• Строить прочные отношения с внутренними разработчиками и влиять на дорожную карту команды инфраструктуры на основе их отзывов.
• Развивать нашу команду посредством обмена знаниями и активного процесса обзора.

Вы можете нам подойти, если у вас есть:

• Более 5 лет опыта в инженерии и эксплуатации производственной инфраструктуры в больших масштабах.
• Опыт проектирования больших, высокодоступных распределенных систем с использованием Kubernetes и рабочих нагрузок GPU на этих кластерах.
• Опыт разработки, производства и поддержки на Kubernetes.
• Опыт работы с GCP, Azure, AWS, OCI, многооблачными локальными/гибридными решениями.
• Опыт проектирования, развертывания, поддержки и устранения неполадок в сложных вычислительных средах на базе Linux.
• Опыт управления вычислительными/хранилищными/сетевыми ресурсами и затратами.
• Отличные навыки сотрудничества и устранения неполадок для создания критически важных систем, обеспечения бесперебойной работы и эффективной командной работы.
• Решительность и адаптивность для решения сложных технических задач, которые меняются изо дня в день.
• Знакомство с вычислительными характеристиками ускорителей (GPU, TPU и/или пользовательских ускорителей), особенно с тем, как они влияют на задержку и пропускную способность при выводе.
• Глубокое понимание или практический опыт работы с распределенными системами.
• Опыт работы с Golang, C++ или другими языками, предназначенными для высокопроизводительных масштабируемых серверов).

СОТРУДНИКИ COHERE НА ПОЛНУЮ ЗАЩИТУ НАСЛАЖДАЮТСЯ СЛЕДУЮЩИМИ ЛЬГОТАМИ:

• Еженедельная стипендия на обед в размере 75 долларов США / 75 фунтов стерлингов или эквивалент в местной валюте.
• Полное медицинское и стоматологическое страхование, включая отдельный бюджет на психическое здоровье.
• Совпадение взносов RRSP, 401K, пенсионная схема.
• 100% доплата к отпуску по уходу за ребенком до 6 месяцев для любого из родителей.
• Ежегодные льготы на развитие:
  • Искусство и культура, фитнес/оздоровление, время для отдыха и кредит на улучшение рабочего места.
  • Стипендия на образование и обучение для конференций, курсов и коучинга.
• 6 недель оплачиваемого отпуска (30 рабочих дней!).
• Бюджет на поездки в другие офисы, если вы работаете удаленно, плюс ежегодный корпоративный выезд.

КАК И ГДЕ МЫ РАБОТАЕМ:

• Cohere поддерживает удаленную работу, но у нас также есть офисы в Торонто, Лондоне, Нью-Йорке, Сан-Франциско, Монреале, Париже, Берлине и Сеуле, и скоро откроются новые.
• Для тех, кто в офисе: ежедневная программа обедов, множество закусок и регулярные общественные мероприятия.
• Для тех, кто находится не рядом с офисом: льгота на коворкинг, чтобы вы могли работать вместе с другими людьми в вашем городе.
• Каждый получает стипендию на домашний офис в размере 500 долларов США, чтобы правильно обустроить свое рабочее место.

Если что-то из вышеперечисленного не полностью совпадает с вашим опытом, мы все равно призываем вас подать заявку.

Мы стремимся создать инклюзивную рабочую среду для всех; мы приветствуем кандидатов из всех слоев общества и стремимся предоставлять равные возможности. Если вам требуются какие-либо приспособления в процессе набора персонала, пожалуйста, подайте форму запроса на приспособления, и мы будем работать вместе, чтобы удовлетворить ваши потребности.

Мы можем использовать инструменты на базе ИИ для отбора и оценки кандидатов в соответствии с критериями этой должности. Это помогает нашим рекрутерам определять потенциально квалифицированных кандидатов, но не ограничивает заявки, которые наши рекрутеры могут просмотреть или рассмотреть.

Остерегайтесь мошенничества: Cohere никогда не будет требовать оплаты или услуг третьих сторон (например, написания резюме) в рамках нашего процесса найма. Все законные вакансии перечислены только на странице карьеры Cohere и LinkedIn, а все сообщения от сотрудников Cohere поступают с адреса электронной почты @cohere.com или @cw.cohere. Если вакансии просматриваются на других сайтах, пожалуйста, проверьте их на нашей официальной странице карьеры.