Some conditions are hidden to comply with employment law
Description
About the role
Project: large enterprise in the metallurgical industry
🧩 About the project: deployment and operation of infrastructure based on Kubernetes with GPU support for ML/AI workloads
Responsibilities
— Deployment and management of Kubernetes clusters on bare metal
— Configuration and optimization of Docker containerization
— Configuration of GitLab CI/CD pipelines
— Management of NVIDIA GPU resources and CUDA infrastructure
— Deployment and support of solutions for ML inference (vLLM, Ollama, Triton Inference Server)
— Infrastructure monitoring with Prometheus and Grafana
— Configuration of network services, TLS, and DNS
— Work with Helm for deployment management
— Management of GitLab Container Registry
— Experience operating GPU servers for AI/ML
— Experience deploying vLLM, Ollama, Triton Inference Server or similar solutions
— Understanding of CUDA, VRAM, tensor parallelism, and GPU limitations
— Experience working with Kubernetes on bare metal
— Experience configuring NVIDIA DCGM Exporter
— Experience working with Langfuse
— Experience preparing infrastructure in accordance with GDPR requirements
— Experience organizing reproducible deployments and migrating applications between cloud and on-premises infrastructure
Benefits
Employment: Full time
Salary Range: 110-140
Location: RF
Work Format: remote
Грейд: Senior
Занятость: Full time
Вилка: 110-140
Локация: РФ
Формат работы: удалённый
Проект: крупное предприятие металлургической отрасли
🧩 О проекте: развёртывание и эксплуатация инфраструктуры на базе Kubernetes с поддержкой GPU для ML/AI рабочих нагрузок
🎯 Задачи
— Развёртывание и управление Kubernetes кластерами на bare metal
— Настройка и оптимизация Docker контейнеризации
— Конфигурирование GitLab CI/CD pipelines
— Управление NVIDIA GPU ресурсами и CUDA инфраструктурой
— Развёртывание и поддержка решений для ML inference (vLLM, Ollama, Triton Inference Server)
— Мониторинг инфраструктуры с Prometheus и Grafana
— Настройка сетевых сервисов, TLS и DNS
— Работа с Helm для управления развёртываниями
— Управление GitLab Container Registry
🛠️ Требования Hard Skills
— Linux (Ubuntu Server)
— Docker
— Kubernetes
— Helm
— GitLab CI/CD
— GitLab Container Registry
— NVIDIA GPU / CUDA
— NVIDIA Container Toolkit
— Kubernetes NVIDIA Device Plugin
— Prometheus / Grafana
— Networking / TLS / DNS
➕ Будет плюсом
— Опыт эксплуатации GPU-серверов для AI/ML
— Опыт развёртывания vLLM, Ollama, Triton Inference Server или аналогичных решений
— Понимание особенностей CUDA, VRAM, tensor parallelism и ограничений GPU
— Опыт работы с Kubernetes на bare metal
— Опыт настройки NVIDIA DCGM Exporter
— Опыт работы с Langfuse
— Опыт подготовки инфраструктуры в соответствии с требованиями GDPR
— Опыт организации воспроизводимых развёртываний и переноса приложений между облачной и локальной инфраструктурой
