Lead ML Engineer | LLM Inference

Remote

Ищу не просто ML Lead, а очень сильного hands-on инженера, который реально работал с inference больших LLM в production.

Здесь важен именно масштаб: модели до 1T параметров, distributed inference, GPU-кластеры и задачи, где нужно одновременно улучшать latency, throughput, cost и stability.

Что будет в работе: • production inference больших LLM • distributed inference и оптимизация serving • SGLang - уже используется в prod • post-training LLM • agent harness • caching, batching, quantization, speculative decoding • работа с GPU-инфраструктурой - сейчас 32×H200 + AWS, планируется расширение • техническое лидерство NLP/CV направления

Роль примерно на 70% hands-on. People management, performance review и 1:1 здесь нет.

Что критично: • сильный production LLM inference • опыт distributed inference больших моделей • vLLM / SGLang / TensorRT-LLM или сопоставимый стек • понимание tensor/pipeline/expert parallelism, KV cache, GPU optimization • post-training: SFT / DPO / RLHF и т.д. • сильная база в ML / CS / математике

Большой плюс: CUDA/Triton, DeepSpeed, Megatron-LM, FSDP, MoE, свои статьи, PhD, research или заметный open-source contribution.

Не ищем человека, который преимущественно делал RAG, LangChain, API-интеграции или просто деплоил готовые LLM. Здесь нужна глубокая работа с самими моделями и их инференсом.

🌍 Remote, B2B (вне РФ,РБ) 🕐 CET-friendly timezone 🔞 В продукте присутствует 18+ контент

Если ты сам ускорял большие LLM в production и понимаешь, что происходит с моделью на уровне GPU, serving и distributed systems - пиши мне в личку.

@SelitskayaDaria (локация, запрос зп, самари по требованиям)