в Selectel для развития платформы AI-сервисов: внедрение новых возможностей, работа с инфраструктурой AI/LLM-моделей, GPU и Kubernetes, сопровождение и оптимизация платформы.
Задачи:
- Развитие платформы и сервисов: внедрение новых возможностей, улучшение существующих компонентов, создание внутренних инструментов для работы с AI-сервисами
- Разработка и развитие технических решений: самостоятельная реализация изменений, подготовка ТЗ для смежных команд, участие в проектировании архитектуры платформы, выбор и внедрение новых технических решений
- Сопровождение и эксплуатация платформы: обеспечение стабильной работы сервиса, мониторинг состояния и анализ производительности
- Работа с инфраструктурой AI-моделей: сопровождение сервисов запуска и обслуживания моделей, развитие инфраструктуры GPU
- Оптимизация работы моделей и вычислительных ресурсов: настройка маршрутизации запросов и отказоустойчивости, сопровождение многомодельной архитектуры платформы
- Взаимодействие с внутренними пользователями: изучение опыта использования платформы, сбор и анализ обратной связи
- Улучшение удобства работы с сервисом, помощь командам при подключении и интеграции
- Подготовка и поддержка технической документации: ведение пользовательской документации, описание процессов, ограничений и рекомендаций
Требования:
- Опыт работы с Kubernetes в промышленной эксплуатации и с инфраструктурой AI/LLM
- Опыт работы с GPU-инфраструктурой и NVIDIA stack
- Опыт работы с vLLM / SGLang
- Опыт работы с OpenAI-совместимыми API
- Опыт работы с сетевой инфраструктурой и системами мониторинга
- Опыт разработки внутренних инструментов на Go или Python
- Способность самостоятельно сопровождать и развивать сервис целиком
Условия:
- Опыт работы: 1–3 года
- Полная занятость
- График: 5/2
- Формат работы: удалённо или гибрид
Навыки:
- Kubernetes
- AI/LLM
- GPU
- NVIDIA stack
- vLLM
- SGLang
- OpenAI API
- Go
- Python
- мониторинг
