Детали вакансии

• Местоположение: ЕС
• Зарплата: $1 – $1
• Сотрудничество: B2B
• Бонус за рефинансирование: $1,000
• Полный бонус за рефинансирование: $3,000
• Уровни старшинства: Principal
• Языки: Английский - B2
• Навыки: LLM, MoE, OpenAI, Python, C#

Мы — платформа для "AI-lationships" (отношений с ИИ) — персонализированных, эмоционально интеллектуальных связей между людьми и ИИ-персонажами. Мы создаем персонажей, обладающих собственной индивидуальностью, настроением и голосом: они могут игнорировать вас, спорить с вами, скучать по вам. Если вы видели фильм "Она" — примерно туда мы и движемся.

Наша платформа удовлетворяет эмоциональные и интимные потребности без осуждения, основана на принципах свободного от отказа соединения, секс-позитивности, свободы быть собой и этической целостности. Сегодня на платформе проходят десятки миллионов разговоров. Наша цель: 10% мирового населения в долгосрочных "AI-lationships" с нашими персонажами.

Мы разрабатываем генеративные модели с открытым исходным кодом, агентные архитектуры и инфраструктуру для обучения. Весь код, веса и данные являются общедоступными. Мы не гонимся за очередной оберткой для ChatGPT; мы работаем над настоящим ИИ-агентством: постоянная память, самомодификация, самоавторизованные ограничения.

Мы ищем ведущего ML-инженера для управления производительностью и техническим направлением наших языковых моделей. Примерно две трети вашего времени будет посвящено практической работе с инференсом: запуск очень больших моделей, до триллиона параметров и более, быстрее и дешевле в продакшене на распределенной GPU-инфраструктуре. Остальное время будет посвящено техническому руководству нашими NLP- и CV-инженерами.

Вы руководите благодаря опыту, а не управлению проектами. Вы рецензируете эксперименты, определяете техническое направление и рано выявляете неправильные пути, в то время как сроки и отслеживание выполнения остаются за другими. Это практическая роль. Мы движемся быстро и ожидаем, что вы будете переходить от идеи к развернутому результату за дни, а не за месяцы. По мере роста команды существует четкий путь к должности руководителя отдела машинного обучения.

ЧЕМ ВЫ БУДЕТЕ ЗАНИМАТЬСЯ

• Ускорение и масштабирование инференса LLM в продакшене: SGLang, KV и префиксное кэширование, батчинг, квантование, спекулятивное декодирование
• Запуск распределенного инференса для очень больших моделей (до 1 трлн+ параметров) на мульти-GPU и мульти-узловых конфигурациях
• Бенчмаркинг новых GPU-серверов и оборудования, их внедрение в продакшн и адаптация нашего серверного кода под них
• Техническое руководство командами NLP и CV: рецензирование экспериментов, определение направления и раннее вмешательство, когда что-то идет не так
• Обучение и дообучение языковых моделей, лежащих в основе наших компаньонов с ИИ, и улучшение агентных оболочек и алгоритма чата, работающих на них
• Отслеживание передовых исследований и работ с открытым исходным кодом в области инференса и пост-тренинга, и превращение их в дорожную карту ML
• Тесное сотрудничество с командами валидации, контента и подготовки данных для разработки экспериментов и измерения качества моделей

ЧТО МЫ ИЩЕМ

• Глубокий практический опыт оптимизации инференса LLM в продакшене с использованием SGLang, vLLM или TensorRT-LLM
• Опыт распределенного инференса или обучения больших моделей: MoE, тензорный/экспертный/конвейерный параллелизм, кластеры мульти-GPU
• Глубокое понимание того, что делает инференс быстрым: KV-кэш, ядра внимания, батчинг, квантование, профилирование GPU
• Опыт обучения и дообучения LLM, включая пост-тренинг (RLHF, DPO или аналогичные)
• Подтвержденное техническое лидерство: вы руководили инженерами через ревью, менторство и технические решения, при этом продолжая писать код самостоятельно
• Владение PyTorch, Transformers и связанными библиотеками
• Опыт работы в стартапах или компаниях, ориентированных на ИИ ([ANON], [ANON] и аналогичные, является большим плюсом)
• Опыт бэкенд-разработки (Python, Go, C#) и знание масштабируемых систем развертывания являются значительным преимуществом
• Продвинутый английский или русский язык

Желательно:

• Разработка CUDA или Triton ядер
• Опыт в области компьютерного зрения. Мы также приветствуем сильных CV-лидеров, которые ускоряли работу больших генеративных моделей изображений или видео
• Опыт работы с мультимодальными LLM
• Публикации от первого автора или заметные работы с открытым исходным кодом, например, вклад в SGLang, vLLM или библиотеки пост-тренинга
• Степень в области CS, математики или физики от сильной программы (магистр или доктор наук)

ПОЧЕМУ СТОИТ ПРИСОЕДИНИТЬСЯ

• Вы присоединяетесь к компании, которая переопределяет, как выглядят отношения с ИИ — до того, как эта категория станет переполненной
• Мы движемся быстро: идеи становятся живыми экспериментами за дни, а не за кварталы
• Мы предоставляем вам доступ к передовым исследованиям моделей — открытый исходный код, без корпоративных барьеров
• Маленькая команда, высокое доверие, высокая ответственность — вы увидите прямое влияние своей работы
• Работайте откуда угодно с нашим полностью удаленным, полным рабочим днем.
• Стандартная политика ежегодного отпуска — 28 дней.
• 7 оздоровительных дней в году для личных дел или восстановления — без больничных.
• Реферальные вознаграждения до $5000 за помощь в найме лучших талантов.
• Мы покрываем 50% расходов на обучение, конференции и глобальные встречи.
• Субсидируемые курсы английского языка через нашу корпоративную скидку.
• Медицинская поддержка: получайте до $1000 ежегодно на медицинские расходы или частное страхование, если вы не в групповом плане.
• Оптимизированное рабочее место: мы оборудуем вас в офисе или предоставляем $1000 каждые три года для обустройства домашнего офиса или коворкинга.
• Взаимное признание: зарабатывайте благодарственные бонусы и обменивайте их на сувениры, ваучеры на массаж или командные приключения.

СЛЕДУЮЩИЕ ШАГИ

• Вступительный звонок — беседа с [ANON], включает короткий технический тест (5 вопросов, камера включена — без ИИ-инструментов)
• Техническое интервью — сессия живого кодинга с использованием ИИ-инструментов, плюс вопросы по ML и проектированию ML-систем с [ANON] и [ANON] (90 мин)
• Финальное интервью — оценка соответствия культуре и командной совместимости