[Social Discovery Group] (SDG) — это группа компаний, занимающихся социальным обнаружением. SDG решает проблемы одиночества, изоляции и разобщенности, превращая виртуальную близость в новую норму. Продукты SDG переопределяют способы взаимодействия и общения людей друг с другом.
Наш портфель включает платформы социального развлечения, предназначенные для объединения людей онлайн в разных культурах и регионах мира.
Мы собираем команду единомышленников и IT-специалистов, специализирующихся на создании и разработке продуктов для социального обнаружения, оказывающих глобальное влияние. Наша международная команда цифровых кочевников работает удаленно со всего мира.
Мы гордимся тем, что дважды стали победителями конкурса «Great Place to Work» (США и Япония, 2024–2025) и вошли в Топ-5 компаний по предложениям работы из любой точки мира (FlexJobs, 2025).
Мы ищем Lead ML Engineer - LLM Inference & NLP.
Ваши основные задачи будут включать:
- Ускорение и масштабирование LLM inference в production: SGLang, KV и prefix caching, batching, quantization, speculative decoding
- Выполнение распределенного вывода для очень больших моделей (до 1T+ параметров) в мульти-GPU и мульти-узловых конфигурациях
- Бенчмаркинг новых GPU-серверов и аппаратного обеспечения, внедрение их в production и адаптация нашего serving-кода под них
- Техническое руководство командами NLP и CV: обзор экспериментов, постановка направления и раннее вмешательство, когда что-то идет не так
- Обучение и дообучение языковых моделей, а также улучшение agent harnesses и chat algorithm, которые на них работают
- Отслеживание передовых исследований и open-source разработок в области inference и post-training, и их интеграция в ML roadmap
- Тесное сотрудничество с командами валидации, контента и подготовки данных для проектирования экспериментов и измерения качества моделей
Мы ожидаем от вас:
- Глубокий практический опыт оптимизации LLM inference в production с использованием SGLang, vLLM или TensorRT-LLM
- Опыт распределенного вывода или обучения больших моделей: MoE, tensor/expert/pipeline parallelism, мульти-узловые GPU-кластеры
- Четкое понимание того, что делает inference быстрым: KV cache, attention kernels, batching, quantization, GPU profiling
- Опыт обучения и дообучения LLMs, включая post-training (RLHF, DPO или аналогичные)
- Подтвержденный технический лидерский опыт: вы руководили инженерами в процессе ревью, менторства и принятия технических решений, при этом сами продолжали писать код
- Уверенное владение PyTorch, transformers и связанными библиотеками
- Опыт работы в AI-стартапах или компаниях (Character AI, OpenAI и аналогичные — большой плюс)
- Опыт backend-разработки (Python, Go, C#) и знание масштабируемых систем развертывания будет значительным преимуществом
- Продвинутый английский или русский язык
Желательно:
- Разработка CUDA или Triton kernel
- Опыт в области компьютерного зрения. Мы также приветствуем сильных CV leads, которые ускоряли большие генеративные модели изображений или видео
- Опыт работы с multimodal LLMs
- Публикации в качестве первого автора или заметные open-source работы, например, вклад в SGLang, vLLM или библиотеки post-training
- Степень в CS, математике или физике от сильной программы (MSc или PhD)
Что мы предлагаем:
- Удаленная возможность работать полный рабочий день;
- Начальный уровень оплаты или диапазон оплаты будет предоставлен кандидатам в процессе подбора персонала и до начала трудоустройства;
- Отпуск 28 календарных дней в году;
- 7 дней на оздоровление в год (выходные), которые можно использовать для решения бытовых вопросов, отдыха и восстановления без оформления больничного;
- Бонусы до $5000 за рекомендацию успешных кандидатов на вакансии в компании;
- 50% оплата профессионального обучения, международных конференций и встреч;
- Корпоративная скидка на уроки английского языка;
- Медицинские льготы. Согласно платежным ведомостям, если вы не имеете права на корпоративное медицинское страхование, компания компенсирует вам до $1000 gross в год на сотрудника. Эти средства могут быть потрачены на самостоятельную покупку медицинской страховки или на оплату услуг врачей для себя и близких родственников (супруга, детей);
- Организация рабочего места. Компания предоставляет всем сотрудникам оборудованное рабочее место и всю необходимую технику (стол, кресло, Wi-Fi и т. д.) в наших офисах или коворкингах. В других местах компания предоставляет компенсацию расходов на рабочее место до $1000 gross раз в 3 года, согласно платежным ведомостям. Эти деньги могут быть потрачены на аренду коворкинг-пространства, на обустройство рабочего места дома (стол, стул, Интернет и т. д.) в течение этих 3 лет;
- Внутренняя геймифицированная система благодарностей: получайте бонусы от коллег и обменивайте их на наши фирменные товары, мероприятия по тимбилдингу, сертификаты на массаж и т. д.
Звучит неплохо? Присоединяйтесь к нам сейчас!
