Руководитель ML/AI-платформы

Задачи:

• Развивать LLM-платформу как внутренний продукт: шлюз к моделям с учётом квот и стоимости, self-hosted инференс, выбор и оценка моделей (evals, бенчмарки), защита чувствительных данных, базовая инфраструктура для агентских сценариев.
• Переводить продуктовые интеграции с внешних LLM на модели в собственном контуре и модели российских провайдеров.
• Отвечать за GPU-мощности: планирование ёмкости, размещение с резервированием, выбор между арендой и своим железом, расчёт окупаемости, бюджет CAPEX/OPEX.
• Поддерживать и эволюционно развивать ML-платформу: Kubernetes, model registry, serving, обновления под требования безопасности, наблюдаемость и надёжность.

Требования:

• Опыт руководства ML- или LLM-платформой либо инфраструктурной командой.
• Практическое понимание LLM-инфраструктуры: serving (vLLM, TGI, Triton или аналоги), ограничения и утилизация GPU, производительность, стоимость токена, оценка качества моделей, компромисс между своими моделями и внешним API.
• Опыт MLOps: Kubernetes, model registry и tracking (MLflow или аналоги), CI/CD моделей, эксплуатация большого числа моделей.
• Умение управлять внутренним продуктом: переводить размытые запросы в задачи с критериями результата, говорить «нет» с альтернативой, держать фокус команды на 2–3 главных целях.
• Опыт работы с требованиями безопасности и регуляторики: умение договориться об этапности, а не принять весь скоуп разом.

Удаленная работа с возможностью приходить в офис в Москве, Санкт-Петербурге и Новосибирске

Алина Дмитренко (HR) контакт рекрутера