Member of Technical Staff (TPM, Inference)

Вознаграждение: 170 000 - 265 000 долларов США в год

Perplexity ищет технического менеджера проектов, который станет связующим звеном между нашими поставщиками моделей, инженерными командами и командами по продуктам, способствуя развитию нашей основной платформы для инференса.

Perplexity управляет одним из самых высокопроизводительных стеков инференса в отрасли, обслуживая трафик Ask, Computer и API для большого и постоянно меняющегося портфеля собственных и сторонних моделей. Эта роль находится на стыке продукта, инженерии и финансов: вы будете координировать работу между поставщиками моделей и внутренними командами, чтобы новые модели и мощности плавно поступали в продакшн, одновременно реализуя дорожную карту самой платформы инференса. Идеальный кандидат обладает сильным техническим чутьем, преуспевает в координации между командами и внешними партнерами с конкурирующими графиками, и воодушевлен созданием операционной модели для функции, которая еще не имеет большого прецедента.

НАША МИССИЯ

Миссия Perplexity — питать любопытство. Любопытные люди — это те, кто движет изменения в мире. Движение изменений — это непрерывный цикл обучения, создания и интеграции.

Учиться

Любопытные люди постоянно учатся новому, задавая больше вопросов. Они ставят под сомнение статус-кво в своей области знаний и постоянно учатся за ее пределами. Исследования для них необходимы и никогда не прекращаются.

Создавать

Любопытные люди создают вещи, чтобы показать миру свои новые ответы на проблемы, которые никто другой никогда не ставил под сомнение. Они предпринимают действия на основе того, что узнали. Творцам нужны инструменты для создания своих продуктов, своих компаний, своей реальности.

Интегрировать

Чтобы стимулировать изменения и внедрение, им необходимо взаимодействовать с миром таким, какой он есть. Настоящие лидеры не просто что-то строят и надеются. У них должны быть армии агентов и работников, которые могут постоянно работать миллионами мелких способов.

ЧТО ВЫ БУДЕТЕ ДЕЛАТЬ

• Реализовывать дорожную карту платформы инференса — обработка запросов, лимиты скорости и квоты, средства контроля использования, а также инженерная и продуктовая поверхности надежности и наблюдаемости, на которые полагаются команды.
• Выступать в качестве связующего звена между поставщиками моделей и инженерными и продуктовыми командами Perplexity, координируя онбординг, готовность к запуску и развертывание новых моделей и мощностей.
• Продвигать показатели задержки, пропускной способности, времени безотказной работы и экономической эффективности как основные метрики выполнения, выявляя компромиссы между ними, а не позволяя им стать побочными эффектами.
• Управлять операционной моделью программ выпуска и оптимизации моделей, включая запуски в день запуска, в рамках команд по инженерии производительности, инфраструктуры и продуктов.
• Руководить кросс-функциональной поставкой изменений стека инференса, от планирования до запуска и послезапускной валидации.
• Создавать механизмы, которые делают выпуски предсказуемыми ритуалами, дашбордами, чек-листами запуска, чтобы выпуски инференса оставались низкорисковыми в масштабе Perplexity.
• Сотрудничать с командами по обеспечению GPU-мощностей и вычислительных ресурсов для согласования решений по выполнению с ограничениями по стоимости, мощностям и поставщикам.

КВАЛИФИКАЦИЯ

• Значительный опыт в техническом управлении проектами или управлении продуктами в области инфраструктуры, распределенных систем или продуктов для инференса ML/моделей.
• Прямой опыт работы с производственными LLM или ML инференсом, понимание того, что делает обслуживание быстрым, надежным и дешевым, а не только то, что об этом говорится на слайде дорожной карты.
• Умение координировать работу с внешними партнерами и внутренними инженерными командами с конкурирующими приоритетами и графиками.
• Опыт работы с данными и метриками, а также способность оценивать сложные компромиссы между задержкой, пропускной способностью, временем безотказной работы и стоимостью.
• Успешная работа в небольшой, гибкой команде; инициативность и желание брать на себя ответственность без большого количества прецедентов.
• 6+ лет совокупного опыта в техническом управлении проектами или управлении продуктами