Engineering Manager, Provider Ecosystem

Вознаграждение: 245 000–295 000 долларов США в год

О КОМПАНИИ OPENROUTER

OpenRouter — это ведущий уровень маршрутизации и инфраструктуры ИИ, который компании используют для доступа, управления и оптимизации лучших больших языковых моделей от различных поставщиков — без привязки к одному поставщику, ограничений по мощности или ненужных затрат. Мы обеспечиваем работу самых передовых команд в области ИИ, предоставляя им гибкость для быстрого развития, уверенного масштабирования и сохранения актуальности по мере эволюции моделей.

Поскольку внедрение ИИ в компаниях ускоряется, OpenRouter находится в центре того, как организации используют LLM в исследованиях, разработке продуктов и производственных процессах.

О РОЛИ

Команда Provider Ecosystem отвечает за сторону предложения OpenRouter: каждую модель, конечную точку и поставщика, которым может отправлять запросы маршрутизатор. Это означает сотни поставщиков, тысячи конечных точек и миллионы запросов в день в ландшафте моделей, который меняется каждую неделю.

Вы будете на переднем крае отрасли. Лаборатории и поставщики инференса хотят охватить пользователей OpenRouter, поэтому эта команда получает ранний доступ к новым предложениям по инференсу, часто через эксклюзивные и скрытые запуски, и запускает их в день 0.

Это практическая руководящая роль с подчинением VPE. Вы будете развивать команду, глубоко разбираться в коде и выступать техническим представителем OpenRouter для лабораторий и поставщиков, с которыми мы сотрудничаем.

ЧТО ВЫ БУДЕТЕ ДЕЛАТЬ

• Руководить командой: нанимать и развивать сильных инженеров, определять дорожную карту, участвовать в ревью кода и инцидентах, а также представлять интересы команды перед руководством.

• Основной поставщик: отвечать за адаптеры поставщиков, жизненный цикл конечных точек и маршрутизацию. Вы будете техническим партнером для ведущих поставщиков, проводить запуски в день 0 и скрытые запуски, а также работать с командами GTM, BD и юридическим отделом, чтобы перейти от подписанного NDA к рабочему состоянию за недели, а не месяцы.

• Мультимодальность: руководить расширением за пределы текста на изображения, видео, аудио и эмбеддинги, а также на инференс в реальном времени и пакетный инференс.

• Бенчмарки: отвечать за оценку качества инференса и превращать эти данные в решения для маршрутизации и прямую обратную связь, улучшающую поставщиков.

ЧТО МЫ ИЩЕМ

• 4+ года опыта управления инженерными командами, в том числе в среде, где вы создавали или масштабировали команду в период быстрого роста.

• Прочный технический фундамент в области распределенных систем, проектирования API и инференса LLM. Вы понимаете, как осуществляется инференс (потоковая передача, вызов инструментов, кэширование запросов, квантование, компромиссы между пропускной способностью и задержкой), чем отличаются API поставщиков друг от друга, и что требуется для маршрутизации миллионов запросов через сотни гетерогенных конечных точек.

• Практический подход и готовность его сохранять. Вы пишете код, используете инструменты разработки с поддержкой ИИ и подаете пример в команде, где каждый выпускает продукт.

• Комфортно чувствовать себя при взаимодействии с внешними сторонами. Вы можете вести переговоры с инженерной командой лаборатории моделей, согласовывать интеграцию и представлять технические требования OpenRouter без участия менеджера по продукту.

• Принятие решений на основе данных о качестве. Вы хотите, чтобы бенчмарки, оценки и производственная телеметрия определяли, какому поставщику отдавать трафик, а не интуиция.

• Доказанная способность привлекать и удерживать сильных инженеров. В идеале вы создавали команды, в которые хотят прийти люди, и у вас есть сеть талантливых специалистов.

• Высокая инициативность и четкая коммуникация. Вы не ждете указаний, а определяете, что важно, составляете план и реализуете его. Вы высказываете свое несогласие и подкрепляете его фактами.

• Прагматичный подход к потребностям небольшой инженерной организации по сравнению с организацией из 500 человек. Вы оптимизируете скорость и ясность, а не процесс.

ПРИВЕТСТВУЕТСЯ

• Опыт работы у поставщика инференса, в лаборатории моделей или в облаке GPU, либо опыт создания продуктов на основе множества LLM API одновременно.

• Опыт работы с нашим стеком: TypeScript, Cloudflare Workers, Postgres, ClickHouse, GCP или Vercel.

• Опыт в области оценки, бенчмаркинга или систем маршрутизации и балансировки нагрузки.

• Опыт работы с мультимодальными API (изображения, видео, речь, эмбеддинги) или системами инференса в реальном времени и пакетного инференса.

• Опыт проведения обзоров безопасности и соответствия требованиям поставщиков (NDA, DPA, SOC 2) в рамках процесса онбординга партнеров.

• Текущее использование OpenRouter или активные сторонние проекты в области инфраструктуры ИИ или инструментов разработчика.

Если вы считаете, что не соответствуете всем критериям, но все же заинтересованы в вакансии, пожалуйста, откликнитесь. Никто не соответствует всем требованиям, и мы ищем человека, который будет рад присоединиться к команде.