🚀 Ищу крутого Lead NLP Engineer

Задачи: 🔹 Оптимизация инференса LLM в продакшене: SGLang, vLLM, TensorRT-LLM, KV/prefix caching, батчинг, квантизация, speculative decoding 🔹 Распределённый инференс моделей до 1T+ параметров (multi-GPU, multi-node) 🔹 Бенчмаркинг и ввод нового GPU-железа в продакшен 🔹 Техническое лидерство NLP и CV командами 🔹 Обучение и fine-tuning LLM, post-training (RLHF, DPO) 🔹 Работа с командами валидации и подготовки датасетов

Ожидания: ✅ Глубокий опыт оптимизации инференса LLM в продакшене ✅ Опыт распределённого инференса/обучения: MoE, tensor/expert/pipeline parallelism ✅ Понимание KV cache, attention kernels, квантизации, GPU-профилирования ✅ Опыт обучения и fine-tuning LLM, post-training ✅ Техническое лидерство + hands-on код ✅ PyTorch, transformers ✅ Опыт в AI-стартапах ✅ Backend (Python, Go, C#) — преимущество ✅ Английский или русский — продвинутый

Плюсом: ➕ CUDA/Triton ядра ➕ Computer vision ➕ Мультимодальные LLM

Условия: 🕐 Удалённо 📈 Путь до Head of ML

📩 Резюме: контакт рекрутера