Staff Software Engineer, Inference Infrastructure

Вознаграждение: $190K - $325K в год

КТО МЫ?

Cohere — ведущая компания в области корпоративного ИИ с фокусом на безопасность. Мы создаем передовые фундаментальные ИИ-модели и комплексные продукты, предназначенные для решения реальных бизнес-задач.

Мы обучаем и развертываем передовые модели для корпораций, которые создают системы ИИ. Мы верим, что наша работа играет ключевую роль в широком внедрении ИИ, и ищем людей, которые хотят стать частью этого.

Мы одержимы тем, что создаем. Каждый из нас отвечает за повышение возможностей наших моделей и ценности, которую они приносят нашим клиентам. Cohere — это команда исследователей, инженеров, дизайнеров и других специалистов, увлеченных своим делом.

Мы — глобальная технологическая компания со штаб-квартирой в Торонто и ключевыми офисами в Лондоне, Нью-Йорке, Сан-Франциско, Монреале, Париже, Берлине и Сеуле. Присоединяйтесь к нам!

ПОЧЕМУ ЭТА РОЛЬ?

Вас мотивирует создание высокопроизводительных, масштабируемых и надежных систем машинного обучения? Хотите участвовать в определении и создании следующего поколения ИИ-платформ, обеспечивающих работу продвинутых NLP-приложений? Мы ищем сотрудников уровня Staff Member of Technical Staff для присоединения к команде Model Serving в Cohere. Команда отвечает за разработку, развертывание и эксплуатацию ИИ-платформы, предоставляющей большие языковые модели Cohere через простые в использовании API-эндпоинты. На этой должности вы будете тесно сотрудничать со многими командами для развертывания оптимизированных NLP-моделей в производственной среде с низкой задержкой, высокой пропускной способностью и высокой доступностью. Вы также получите возможность взаимодействовать с клиентами и создавать индивидуальные развертывания для удовлетворения их конкретных потребностей.

Вы можете нам подойти, если у вас есть:

• 5+ лет опыта разработки в эксплуатации производственной инфраструктуры в больших масштабах

• Опыт проектирования больших, высокодоступных распределенных систем с использованием Kubernetes и рабочих нагрузок GPU на этих кластерах

• Опыт разработки, эксплуатации и поддержки в производственной среде Kubernetes

• Опыт работы с GCP, Azure, AWS, OCI, мультиоблачными, локальными/гибридными решениями

• Опыт проектирования, развертывания, поддержки и устранения неполадок в сложных вычислительных средах на базе Linux

• Опыт управления вычислительными/дисковыми/сетевыми ресурсами и затратами

• Отличные навыки сотрудничества и устранения неполадок для создания критически важных систем, обеспечения бесперебойной работы и эффективной командной работы

• Решительность и адаптивность для решения сложных технических задач, которые меняются изо дня в день

• Знакомство с вычислительными характеристиками ускорителей (GPU, TPU и/или специализированных ускорителей), особенно с тем, как они влияют на задержку и пропускную способность при инференсе.

• Глубокое понимание или опыт работы с распределенными системами.

• Опыт работы с Golang, C++ или другими языками, предназначенными для высокопроизводительных масштабируемых серверов).

ПОЛНЫЙ РАБОЧИЙ ДЕНЬ В COHERE ПОЛУЧАЕТ СЛЕДУЮЩИЕ ПРЕИМУЩЕСТВА:

• Еженедельная стипендия на обед в размере $75/£75 или эквивалент в местной валюте.

• Полное медицинское и стоматологическое страхование, включая отдельный бюджет на психическое здоровье.

• Соответствие RRSP, 401K, пенсионная схема.

• 100% компенсация родительского отпуска до 6 месяцев для любого из родителей.

• Ежегодные льготы на развитие:

  Искусство и культура, фитнес/оздоровление, время для отдыха и кредит на улучшение рабочего пространства.

  Стипендия на образование и обучение для конференций, курсов и коучинга.

• 6 недель оплачиваемого отпуска (30 рабочих дней!)

• Бюджет на поездки в другие офисы, если вы работаете удаленно, плюс ежегодный корпоративный выезд.

КАК И ГДЕ МЫ РАБОТАЕМ:

• Cohere поддерживает удаленную работу, но у нас также есть офисы в Торонто, Лондоне, Нью-Йорке, Сан-Франциско, Монреале, Париже, Берлине и Сеуле, и скоро откроются новые.

• Для тех, кто работает в офисе: ежедневная программа обедов, множество закусок и регулярные общественные мероприятия.

• Для тех, кто находится не рядом с офисом: пособие на коворкинг, чтобы вы могли работать вместе с другими в вашем городе.

• Каждый получает пособие в размере $500 на обустройство домашнего рабочего места.

Если что-то из вышеперечисленного не совсем соответствует вашему опыту, мы все равно призываем вас подать заявку.

Мы стремимся создать инклюзивную рабочую среду для всех; мы приветствуем кандидатов из всех слоев общества и стремимся предоставлять равные возможности. Если вам требуются какие-либо приспособления в процессе найма, пожалуйста, подайте форму запроса на приспособления, и мы будем работать вместе, чтобы удовлетворить ваши потребности.

Мы можем использовать инструменты на базе ИИ для отбора и оценки кандидатов на соответствие требованиям этой должности. Это помогает нашим рекрутерам определять потенциально квалифицированных кандидатов, но не ограничивает количество заявок, которые наши рекрутеры могут просмотреть или рассмотреть.

Остерегайтесь мошенничества: Cohere никогда не будет просить оплату или услуги третьих лиц (например, написание резюме) в рамках нашего процесса найма. Все легитимные вакансии размещаются только на странице карьеры Cohere и LinkedIn, а вся переписка от сотрудников Cohere будет поступать с адреса электронной почты @cohere.com или @cw.cohere. Если вакансии просматриваются на других сайтах, пожалуйста, проверьте их через нашу официальную страницу карьеры.