Senior MLOps Engineer

Palo Alto, CA | Полный рабочий день | На территории компании

О нас:

В Nace AI мы переосмысливаем работу компаний, предоставляющих профессиональные услуги, путем внедрения Собственного Специализированного Интеллекта. Как прикладная исследовательская и продуктовая компания, мы оснащаем предприятия полным стеком ИИ для создания индивидуализированного, безопасного интеллекта, отвечающего их уникальным бизнес-потребностям.

Наши флагманские платформы — Nace Data Intelligence и Nace SLM Cloud — основанные на передовых малых языковых моделях (SLM) и нашей динамичной метамодельной структуре, обеспечивают полную автоматизацию бизнес-процессов от начала до конца. Результат — трансформационный ROI: компании, предоставляющие профессиональные услуги и использующие Nace AI, в настоящее время экономят 1000 часов на каждом клиентском проекте, значительно сокращая накладные расходы и ускоряя выполнение работ.

Работа, которую мы выполняем, оказывает значительное влияние на различные отрасли, и каждый сотрудник Nace AI играет критически важную роль в формировании траектории развития компании. Это уникальная возможность присоединиться к компании с сильными убеждениями в области ИИ на ранней стадии и напрямую влиять на ее рост.

Если вас увлекает создание первоклассной команды по ИИ с нуля, мы будем рады пообщаться.

Обзор роли:

В качестве старшего инженера MLOps вы будете отвечать за инфраструктуру, которая переводит модели Nace.AI из стадии исследования в надежные системы производственного уровня. Наша инфраструктура генерирует специализированные малые языковые модели (SLM) в режиме реального времени — это означает, что наша инфраструктура для обучения, обслуживания и оценки не является второстепенной; это сам продукт. Вы будете проектировать и эксплуатировать конвейеры, оркестрацию и уровни обслуживания, которые позволяют нам обучать, развертывать, отслеживать и непрерывно улучшать множество специализированных моделей одновременно, с надежностью, требуемой для ответственных рабочих процессов аудита, соответствия требованиям и финансов. Эта роль находится на стыке ML-инженерии, инфраструктуры для инференса LLM и надежности платформы, и требует как сильных системных инстинктов, так и практического выполнения.

Ключевые обязанности:

• Проектирование, создание и эксплуатация комплексной ML-инфраструктуры: оркестрация обучения, отслеживание экспериментов, реестры моделей, CI/CD для моделей и автоматизированные конвейеры оценки.

• Ответственность за инфраструктуру обслуживания LLM/SLM — масштабирование инференса с низкой задержкой и высокой пропускной способностью с использованием таких фреймворков, как vLLM, включая стратегии пакетной обработки, кэширования и автоматического масштабирования.

• Создание и управление многопроцессорными кластерами для обучения и инференса (планирование, утилизация, оптимизация затрат) в облачных и локальных средах.

• Внедрение наблюдаемости для моделей в продакшене: мониторинг задержки, пропускной способности, дрейфа, регрессии и качества с настраиваемым оповещением.

• Применение оптимизаций во время инференса — квантование (AWQ, GPTQ, FP8/GGUF), поддержка дистилляции, управление KV-кэшем и тюнинг развертывания — в сотрудничестве с нашими ML-инженерами и инженерами-исследователями.

• Укрепление нашего стека для корпоративного развертывания: воспроизводимость, версионирование, контроль доступа и аудите-готовая прослеживаемость поведения моделей.

• Установление лучших практик MLOps и стандартов инструментария как ранний, старший член команды инфраструктуры.

Квалификация:

• Более 5 лет опыта работы в MLOps, ML-инфраструктуре или платформенной инженерии со значительным опытом эксплуатации в продакшене.

• Подтвержденный опыт развертывания и масштабирования LLM, инфраструктуры инференса в продакшене, включая фреймворки для обслуживания моделей, такие как TensorRT, vLLM, SGLang или TGI.

• Глубокое знание Kubernetes, контейнеризации (Docker) и инфраструктуры как кода (Terraform или аналогичные).

• Практический опыт управления GPU-кластерами и распределенными средами обучения/обслуживания.

• Свободное владение Python с сильным опытом создания значительных, поддерживаемых систем.

• Опыт работы с инструментами для ML-конвейеров и оркестрации (например, Airflow, Kubeflow, Ray, MLflow, Weights & Biases).

• Прочная основа в фундаментальных концепциях компьютерных наук и облачной архитектуре (AWS, GCP или Azure).

• Степень бакалавра в области компьютерных наук или смежной технической области.

• Самостоятельный работник, комфортно чувствующий себя в быстрой, динамичной среде.

Предпочтительная квалификация:

• Степень магистра в области компьютерных наук или смежной технической области.

• Опыт эксплуатации многоузловой GPU-инфраструктуры для обучения.

• Практический опыт использования техник квантования (AWQ, GPTQ, FP8/GGUF) и других оптимизаций во время инференса.

• Знакомство со стеками обработки данных, такими как Spark и Airflow.

• Опыт поддержки рабочих процессов тонкой настройки для LLM/VLM (instruction tuning, RLHF/DPO конвейеры).

• Опыт работы в регулируемых или корпоративных средах, где надежность, безопасность и аудируемость являются первостепенными требованиями.

• Участие в open-source проектах ML-инфраструктуры.

Почему Nace AI?

• Репутация: Работайте в команде из ведущих учреждений и компаний, при поддержке лучших венчурных капиталистов в мире.

• Влияние: Вы присоединяетесь достаточно рано, чтобы формировать инфраструктурные основы компании, стремящейся стать "операционной системой" для профессиональных знаний.

• Конкурентный пакет: Зарплата уровня Кремниевой долины, значительный пакет акций и премиальные льготы.