ML Ops Infrastructure Engineer

Должность: ML Ops Infrastructure Engineer Местоположение: США - Удаленно / Удаленно

Вознаграждение: $160K - $220K в год

О КОМПАНИИ

Deepgram — ведущая платформа, лежащая в основе зарождающейся экономики Voice AI объемом в триллион долларов, предоставляющая API реального времени для преобразования речи в текст (STT), текста в речь (TTS) и создания производственных голосовых агентов в больших масштабах. Более 200 000 разработчиков и более 1300 организаций создают голосовые решения, работающие на базе Deepgram («Powered by Deepgram»), включая Twilio, Cloudflare, Sierra, Decagon, Vapi, Daily, Cresta, Granola и Jack in the Box. Фундаментальные модели Deepgram, ориентированные на голос, доступны через облачные API или как программное обеспечение для самостоятельного размещения и локального использования, с непревзойденной точностью, низкой задержкой и экономической эффективностью. При поддержке недавнего раунда финансирования Серии C под руководством ведущих мировых инвесторов и стратегических партнеров, Deepgram обработал более 50 000 лет аудио и транскрибировал более 1 триллиона слов. В мире нет организации, которая понимала бы голос лучше, чем Deepgram.

РИТМ РАБОТЫ КОМПАНИИ

В Deepgram мы ожидаем мышления, ориентированного на ИИ — использование и комфортное владение ИИ не являются необязательными, они являются основой того, как мы работаем, внедряем инновации и измеряем производительность.

От каждого члена команды, работающего в Deepgram, ожидается активное использование и экспериментирование с передовыми инструментами ИИ, и даже создание собственных инструментов для повседневной работы. Мы измеряем, насколько эффективно применяется ИИ для достижения результатов, и последовательное, творческое использование новейших возможностей ИИ является ключом к успеху здесь. Кандидаты должны быть готовы быстро осваивать новые модели и методы, интегрировать ИИ в свои рабочие процессы и постоянно расширять границы возможностей этих технологий.

Кроме того, мы движемся со скоростью ИИ. Изменения происходят быстро, и вы можете ожидать, что ваша повседневная работа будет развиваться так же быстро. Эта роль может не подойти вам, если вы не рады экспериментировать, адаптироваться, быстро принимать решения и постоянно учиться, или если вы ищете что-то строго предписанное и традиционное с 9 до 5.

ВОЗМОЖНОСТИ

Перенос модели из исследовательской записной книжки в производственный API, обслуживающий миллионы запросов, — одна из самых сложных задач в области ИИ. В качестве ML Ops Infrastructure Engineer в Deepgram вы будете создавать критически важный мост между исследованиями и производством — разрабатывая конвейеры, системы развертывания и инфраструктуру тестирования, которые переносят модели из экспериментальных в боевые в больших масштабах. Ваша работа гарантирует, что каждое улучшение модели, сделанное нашей исследовательской командой, может быть безопасно, быстро и надежно доставлено клиентам, которые зависят от API Deepgram для получения голосовых ИИ в реальном времени.

ЧТО ВЫ БУДЕТЕ ДЕЛАТЬ

• Проектировать и создавать CI/CD конвейеры, специально предназначенные для разработки, проверки и развертывания ML моделей.
• Архитектурно проектировать и поддерживать конвейеры развертывания моделей, которые с уверенностью перемещают модели из исследовательских сред через стадию тестирования в продакшн.
• Создавать инфраструктуру для A/B тестирования, которая позволяет контролируемо разворачивать новые модели и измерять реальное влияние на производительность.
• Внедрять комплексный мониторинг производительности моделей в продакшене — метрики точности, задержка, обнаружение дрейфа и оповещения о регрессиях.
• Разрабатывать автоматизированные конвейеры переобучения, которые запускаются при изменении данных, снижении производительности или по расписанию.
• Создавать и поддерживать среды сборки и тестирования, которые зеркально отражают продакшн, предоставляя исследователям обратную связь с высокой точностью перед развертыванием.
• Настраивать версионирование моделей, управление артефактами и возможности отката для обеспечения безопасного и воспроизводимого развертывания.
• Сотрудничать с инженерами-исследователями для определения и обеспечения соблюдения критериев качества моделей перед их продвижением в продакшн.
• Создавать дашборды наблюдаемости, которые дают команде представление о состоянии моделей в реальном времени во всех средах.
• Оптимизировать инфраструктуру обслуживания моделей с точки зрения задержки, пропускной способности и экономической эффективности.

ВАМ ПОНРАВИТСЯ ЭТА РОЛЬ, ЕСЛИ ВЫ

• Восхищаетесь проблемой операционализации передовых моделей ИИ в производственном масштабе.
• Считаете, что отличная инфраструктура — это то, что превращает научные прорывы в ценность для клиента.
• Наслаждаетесь проектированием систем, которые автоматизированы, надежны и самовосстанавливающиеся.
• Хотите работать над задачами, где минуты сокращения задержки или процентные пункты точности имеют огромное значение.
• Любите сотрудничать с исследовательскими и инженерными командами, чтобы вся организация работала быстрее.
• Мотивированы созданием систем развертывания и тестирования, которые поддерживают платформу, обслуживающую более 200 000 разработчиков.

ВАЖНО, ЧТОБЫ У ВАС БЫЛО

• Более 4 лет опыта работы в MLOps, DevOps или инфраструктурной инженерии с упором на ML системы.
• Высокий уровень владения Python и опыт создания автоматизации и инструментов для ML рабочих процессов.
• Глубокий опыт работы с CI/CD системами и создания конвейеров для доставки программного обеспечения и моделей.
• Практический опыт работы с Docker и Kubernetes для управления контейнеризированными рабочими нагрузками.
• Практический опыт развертывания и обслуживания ML моделей в производственных средах.
• Знакомство с процессами оценки, проверки и обеспечения качества моделей.
• Понимание принципов мониторинга и наблюдаемости применительно к ML системам.
• Сильные навыки решения проблем и предпочтение автоматизации перед ручными процессами.

БЫЛО БЫ ЗДОРОВО, ЕСЛИ БЫ У ВАС БЫЛО

• Опыт работы с фреймворками обслуживания моделей, такими как NVIDIA Triton Inference Server, TensorRT или ONNX Runtime.
• Опыт работы с ML системами, связанными с речью, аудио или мультимедиа в реальном времени.
• Опыт работы с инструментами Infrastructure as Code, такими как Terraform или Pulumi.
• Практический опыт работы со стеками мониторинга и наблюдаемости (Prometheus, Grafana, Datadog или аналогичными).
• Знакомство с оптимизацией и профилированием инференса с ускорением на GPU.
• Опыт работы с feature stores, версионированием данных или управлением ML метаданными.
• Знание стратегий канареечного развертывания и прогрессивной доставки для ML моделей.

Примечание: мы осведомлены о лицах, выдающих себя за рекрутеров Deepgram. Все законные рекрутинговые сообщения от Deepgram приходят с адреса электронной почты @deepgram.com. Если вы получили сообщение, якобы от Deepgram, перешлите его на контакт рекрутера.