Ведущий ML-инженер — LLM Inference & NLP
Joi AI — это платформа для «AI-lationhips» — персонализированных, эмоционально интеллектуальных связей между людьми и персонажами ИИ. Мы создаем персонажей, обладающих собственной личностью, настроением и голосом: они могут игнорировать вас, спорить с вами, скучать по вам. Если вы видели фильм «Она», то примерно туда мы и движемся. Наша платформа удовлетворяет эмоциональные и интимные потребности без осуждения, основанная на принципах свободной от отказа связи, позитивного отношения к сексу, свободы быть собой и этической целостности. Сегодня на платформе проходят десятки миллионов разговоров. Наша цель: 10% мирового населения в долгосрочных «AI-lationhips» с нашими персонажами.
Joi Lab — наше открытое исследовательское подразделение; мы создаем генеративные модели с открытым исходным кодом, архитектуры агентов и инфраструктуру для обучения. Весь код, веса и данные общедоступны. Мы не гонимся за очередным оберточным проектом для ChatGPT; мы работаем над настоящей агентностью ИИ: постоянная память, самомодификация, самосозданные ограничения.
Роль
Мы ищем ведущего ML-инженера, который будет отвечать за производительность и техническое направление наших языковых моделей. Около двух третей вашего времени будет посвящено практической работе с инференсом: обеспечению более быстрой и дешевой работы очень больших моделей (до триллиона параметров и более) в производственной среде на распределенной GPU-инфраструктуре. Остальное время будет посвящено техническому руководству нашими NLP и CV инженерами. Вы будете руководить благодаря опыту, а не управлению проектами. Вы будете анализировать эксперименты, определять техническое направление и заблаговременно выявлять ошибки, в то время как отслеживание сроков и выполнения задач остается за другими.
Это практическая роль. Мы работаем быстро и ожидаем, что вы сможете перейти от идеи к развернутому результату за дни, а не месяцы. По мере роста команды существует четкий путь к должности Head of ML.
ЧТО ВЫ БУДЕТЕ ДЕЛАТЬ
- Ускорять и масштабировать LLM inference в продакшене: SGLang, KV и prefix caching, batching, quantization, speculative decoding
- Выполнять распределенный инференс для очень больших моделей (до 1T+ параметров) в многопроцессорных и многоузловых конфигурациях
- Тестировать новые GPU-серверы и оборудование, вводить их в эксплуатацию и адаптировать под них наш серверный код
- Руководить командами NLP и CV на техническом уровне: анализировать эксперименты, определять направление и заблаговременно вмешиваться, если что-то идет не так
- Обучать и дообучать языковые модели, лежащие в основе наших ИИ-компаньонов, и улучшать каркасы агентов и алгоритмы чата, которые работают на них
- Отслеживать передовые исследования и работы с открытым исходным кодом в области инференса и пост-тренировки, и преобразовывать их в ML-дорожную карту
- Тесно сотрудничать с командами валидации, контента и подготовки данных для разработки экспериментов и измерения качества моделей
ЧТО МЫ ИЩЕМ
- Глубокий практический опыт оптимизации LLM inference в продакшене с использованием SGLang, vLLM или TensorRT-LLM
- Опыт распределенного инференса или обучения больших моделей: MoE, tensor/expert/pipeline parallelism, многоузловые GPU-кластеры
- Глубокое понимание того, что делает инференс быстрым: KV cache, attention kernels, batching, quantization, GPU profiling
- Опыт обучения и дообучения LLM, включая пост-тренировку (RLHF, DPO или аналогичные)
- Подтвержденное техническое лидерство: вы направляли инженеров через обзоры, менторство и технические решения, при этом сами писали код
- Владение PyTorch, transformers и связанными библиотеками
- Опыт работы в стартапах или компаниях, ориентированных на ИИ (Character AI, OpenAI и подобные — большой плюс)
- Опыт бэкенд-разработки (Python, Go, C#) и знание масштабируемых систем развертывания — значительное преимущество
- Продвинутый английский или русский язык
Желательно:
- Разработка CUDA или Triton kernel
- Опыт в области компьютерного зрения. Мы также приветствуем сильных CV-лидеров, которые ускорили работу больших генеративных моделей изображений или видео
- Опыт работы с мультимодальными LLM
- Публикации в качестве первого автора или заметные работы с открытым исходным кодом, например, вклад в SGLang, vLLM или библиотеки пост-тренировки
- Степень в области CS, математики или физики от сильной программы (MSc или PhD)
ПОЧЕМУ JOI
- Вы присоединяетесь к компании, которая переопределяет, как выглядят отношения с ИИ — до того, как эта категория заполнится конкурентами.
- Мы работаем быстро: идеи превращаются в реальные эксперименты за дни, а не кварталы.
- Joi Lab предоставляет вам доступ к передовым исследованиям моделей — открытый исходный код, без корпоративных ограничений.
- Небольшая команда, высокое доверие, высокая ответственность — вы увидите прямое влияние своей работы.
- Работайте откуда угодно в нашем полностью удаленном, полноформатном режиме. Стандартная политика отпусков: 28 дней в году.
- 7 дней в год на оздоровление для личных дел или восстановления — никаких больничных не требуется.
- Реферальные вознаграждения до $5000 за помощь в найме лучших талантов.
- Мы покрываем 50% расходов на обучение, конференции и глобальные встречи.
- Субсидируемые курсы английского языка по корпоративной скидке.
- Медицинская поддержка: ежегодно до $1000 на медицинские расходы или частное страхование, если вы не в групповом плане.
- Оптимизированное рабочее место: мы оборудуем офис или предоставляем $1000 каждые три года для обустройства вашего домашнего офиса или коворкинга.
- Взаимное признание: получайте бонусы благодарности и обменивайте их на мерч, сертификаты на массаж или командные приключения.
СЛЕДУЮЩИЕ ШАГИ
- Вводный звонок — разговор с рекрутером, включает короткий живой технический тест (5 вопросов, камера включена — никаких ИИ-инструментов)
- Техническое интервью — живая сессия кодирования с разрешенным использованием ИИ-инструментов, плюс вопросы по ML и дизайну ML-систем с CPO и CTO (90 мин)
- Финальное интервью — оценка соответствия культуре и командной совместимости
