Senior / Lead Machine Learning Engineer, Serving - Германия

Команда: ML Engineering Местоположение: Германия Тип занятости: FullTime

О Inworld

Inworld — это продуктово-ориентированная исследовательская лаборатория, состоящая из ведущих ИИ-исследователей и инженеров, разрабатывающая лучшие в своем классе мультимодальные модели реального времени и единственную платформу оркестрации реального времени, оптимизированную для тысяч запросов в секунду.

Мы привлекли более 125 миллионов долларов от Lightspeed, Section 32, Kleiner Perkins, венчурного фонда Microsoft M12, Founders Fund, Meta, Stanford и других. Наши технологии обеспечивали работу таких компаний, как NVIDIA, Microsoft Xbox, Niantic, Logitech Streamlabs, Wishroll, Little Umbrella и Bible Chat. Мы также были признаны CB Insights одной из 100 самых перспективных ИИ-компаний в мире и названы одним из 10 лучших стартапов LinkedIn в США.

Кого мы ищем

Год назад надежно работающие агентские системы и мультимодальный инференс за субсекунду в больших масштабах практически не существовали. Ни у кого нет десятилетнего опыта в этой области. Поэтому мы ищем не по шаблону резюме, а сильных людей с разным опытом, которые быстро учатся, преуспевают в неопределенности и могут показать нам, что они построили, сломали и поняли.

Полезный опыт

Вам не обязательно иметь все это. Но нужно достаточно, чтобы аргументировать свою кандидатуру.

• Оптимизация инференса. Глубокое понимание современных фреймворков и техник обслуживания, таких как vLLM или TRT-LLM.
• Ускорение моделей. Практический опыт в области квантования, дистилляции, стратегий кэширования, непрерывной пакетной обработки, страничного внимания (paged attention) и спекулятивного декодирования.
• Высокопроизводительные системы. Владение C++, CUDA, Rust или высокооптимизированным Python. Вы знаете, как профилировать код и выжать максимум производительности из NVIDIA GPU.
• Распределенные системы и масштабирование. Опыт работы с Kubernetes, Ray, пользовательской балансировкой нагрузки, мульти-GPU/мульти-узловой инференс и надежная обработка тысяч одновременных соединений.
• Публичная работа. Нетривиальные проекты системного программирования, вклад в open-source основных движков инференса или глубокие технические статьи.
• Полная ответственность. Вы можете взять модель от исследовательской группы, контейнеризировать ее, оптимизировать ее обслуживание и обеспечить ее надежную работу в продакшене.
• Образование. PhD в области Computer Science, физики, математики или эквивалентный практический опыт создания бэкенд- или ML-систем.
• Профессиональное владение английским языком (письменным и устным) требуется, так как вы будете ежедневно сотрудничать с нашим руководством и инженерными командами, базирующимися в США.

Кто преуспевает у нас

• Вам не нужна дорожная карта, чтобы начать двигаться; вы комфортно выбираете направление и строите карту по ходу дела.
• Вы верите, что инжиниринг не закончен, пока он не выпущен и не стабилен. Вы отдаете приоритет влиянию, а не чисто теоретическим оптимизациям.
• Вы не просто пишете код; вы одержимы пониманием «почему». Вы первым подвергаете сомнению архитектуру, если считаете, что есть лучший способ решить основную проблему задержки или пропускной способности.
• Вас не удовлетворяет «так сказал менеджер продукта». Вы цените глубокий контекст и хотите понять фундаментальную логику каждого принимаемого нами решения.

Каково это — работать у нас

Мы ставим перед вами неясные задачи и ожидаем, что вы их проясните. Мы ценим инженеров, которые говорят «я пока не знаю» и затем разрабатывают бенчмарк или прототип, чтобы это выяснить. Мы относимся к производительности, задержке и надежности как к первоклассным функциям продукта, а не как к пункту, который нужно отметить перед запуском. Влияние важнее всего, хотя мы поддерживаем обмен работой и open-source вклад, которые продвигают область вперед. Ваша работа должна быть заметной. Плоская структура, быстрые итерации, минимальная бюрократия.

Для кандидатов, заинтересованных в переезде в район залива Сан-Франциско в будущем, может быть доступна полная поддержка в оформлении визы и релокации в США, в зависимости от потребностей бизнеса и применимых юридических требований и требований к разрешению на работу.