Product Manager - AI Inference & Model Serving

Описание вакансии

Mirantis ищет коммерчески ориентированного, глубоко технически подкованного менеджера по продуктам, который будет отвечать за вывод ИИ-моделей и обслуживание моделей для k0rdent AI — нашего управляющего плана для инфраструктуры GPU и распределенных рабочих нагрузок ИИ. Эта роль находится на стыке вывода ИИ-моделей, облачно-нативной инфраструктуры, распределенных систем и инженерии производительности. Вы определите, как клиенты NeoClouds и корпоративные клиенты развертывают, масштабируют и эксплуатируют производственные сервисы вывода моделей, извлекая максимальную производительность из базовой инфраструктуры GPU, сети и хранения данных.

Эта роль охватывает продуктовую стратегию и разработку решений для продуктов вывода моделей во всех средах — локальных, облачных и периферийных. Область применения включает бессерверный вывод, выделенные конечные точки, размещение рабочих нагрузок, автоматическое масштабирование, маршрутизацию, управление жизненным циклом, наблюдаемость и оптимизацию производительности полного стека. Этот человек определит, как клиенты масштабируют производственные рабочие нагрузки обслуживания моделей, одновременно улучшая задержку, пропускную способность, утилизацию, надежность, стоимость и операционный контроль.

Идеальный кандидат имеет опыт работы с высокопроизводительными продуктами инфраструктуры и понимает, как производственные системы ведут себя под реальной нагрузкой. Он должен быть способен рассуждать о полном стеке, выявлять узкие места производительности, оценивать компромиссы в проектировании систем и преобразовывать техническое понимание в четкие требования к продукту, направление архитектуры и клиентские решения.

Обязанности

• Отвечать за продуктовую стратегию, дорожную карту и жизненный цикл вывода моделей и обслуживания моделей, включая бессерверный вывод, выделенные конечные точки, автоматическое масштабирование, маршрутизацию, управление KV-кэшем и соответствующую наблюдаемость.
• Возглавлять глубокие технические исследования с командами NeoClouds, суверенных облаков и корпоративных платформ, а также преобразовывать полученные результаты в приоритетные требования и направление архитектуры.
• Сотрудничать с инженерами по вопросам компромиссов в проектировании систем, включая интеграцию среды выполнения, планирование GPU, сеть, хранилище и топологию обслуживания, включая дезагрегированное обслуживание и обслуживание нескольких моделей.
• Определять позиционирование, основанное на измеримых результатах: распределение задержек, пропускная способность на GPU, утилизация, надежность хвостовых значений и стоимость за токены.
• Управлять выполнением стратегии выхода на рынок: ценообразование и пакетирование, эталонные архитектуры, руководства по масштабированию, руководства по пилотным проектам (PoC) и прямое взаимодействие с клиентами, аналитиками и партнерами по экосистеме.

Требования

• Более 7 лет опыта в управлении продуктами, техническом управлении продуктами или на старшей технической должности, отвечающей за продукты ИИ/МО и вывода моделей.
• Глубокое понимание производственного вывода ИИ, включая обслуживание моделей, бессерверное выполнение, выделенные конечные точки, автоматическое масштабирование, маршрутизацию, размещение рабочих нагрузок, наблюдаемость и надежность.
• Подтвержденная способность рассуждать о компромиссах в производительности между уровнями GPU, сети, хранения данных, оркестрации и среды выполнения, а также преобразовывать низкоуровневые технические возможности в бизнес-ценность, такую как TTFT, пропускная способность на GPU и TCO.
• Рабочее знание современных сред выполнения для вывода моделей (vLLM, SGLang, TensorRT-LLM, Dynamo, Triton) и шаблонов оптимизации, которые имеют значение в производстве: непрерывная пакетная обработка, управление KV-кэшем, холодные старты, предварительное заполнение по сравнению с декодированием, дезагрегированное обслуживание и обслуживание нескольких моделей.
• Авторитет среди инженеров-руководителей и операторов инфраструктуры, включая уверенность в проведении обзоров производственной архитектуры и ведении технических коммерческих переговоров с покупателями платформенной инженерии.

Почему вам понравится Mirantis

• Создайте основу для фабрики токенов в эпоху облачных вычислений ИИ, работая напрямую с ведущими операторами облачных GPU, NeoClouds, суверенными облаками и ориентированными на ИИ предприятиями.
• Сотрудничайте с распределенной командой мирового класса, приверженной открытости и техническому совершенству.
• Формируйте повествование о продукте и влияйте на успех выхода на рынок.

Что Mirantis предлагает вам?

• Работайте с признанным лидером Кремниевой долины в индустрии облачной инфраструктуры.
• Работайте с исключительно увлеченными, талантливыми и привлекательными коллегами, помогая клиентам из списка Fortune 500 и Global 2000 внедрять облачные технологии нового поколения.
• Станьте частью передовых инноваций в области открытого исходного кода.
• Преуспевайте в высокоэнергетичной среде молодой компании, где ценятся открытость, сотрудничество, принятие риска и непрерывный рост.
• Профессиональное развитие и обучение.
• Посещайте конференции и рабочие группы.
• Индивидуальный рабочий комплект (macOS, Windows).
• Конкурентоспособный компенсационный пакет с сильным планом льгот и опционами на акции.

Понимается, что Mirantis, Inc. может использовать технологию автоматизированного принятия решений (ADMT) для принятия определенных решений, связанных с трудоустройством. Отказ от использования ADMT запрашивается для принятия решений об оценке и пересмотре, связанных с конкретным решением о трудоустройстве по данной вакансии. Вы также имеете право обжаловать любые решения, принятые ADMT, отправив запрос по адресу контакт рекрутера.

Предоставляя свое резюме, вы даете согласие на обработку и хранение ваших персональных данных в соответствии с применимыми законами о защите данных в целях рассмотрения вашей заявки на текущие и будущие возможности трудоустройства.

Мы — лидер в области управления контейнерами по версии G2 (#2 после AWS)!

О Mirantis

Mirantis — это компания, специализирующаяся на инфраструктуре ИИ на базе Kubernetes, позволяющая организациям создавать и эксплуатировать масштабируемую, безопасную и суверенную инфраструктуру для современных приложений, требующих интенсивных вычислений ИИ, машинного обучения и данных. Объединяя инновации в области открытого исходного кода с глубокой экспертизой в оркестрации Kubernetes, Mirantis позволяет командам инженеров платформ предоставлять составные, готовые к производству платформы для разработчиков в любой среде — локальной, облачной, на периферии или в суверенных центрах обработки данных. Поскольку предприятия сталкиваются с растущей сложностью рабочих нагрузок, управляемых ИИ, Mirantis предоставляет автоматизацию, оркестрацию GPU и управление на основе политик, необходимые для уверенного и гибкого управления инфраструктурой. Приверженная открытым стандартам и отсутствию привязки к поставщику, Mirantis гарантирует, что клиенты сохраняют полный контроль над своей стратегией в области инфраструктуры.