Детали

Грейд

Senior

Тип занятости

Полная занятость

Уровень английского

B2, выше среднего

Релокация

Соединенные Штаты, Район залива Сан-Франциско

Сопроводительное письмо к вакансии

Письмо на почту или сообщение рекрутеру в Telegram

О вакансии

Senior / Lead Machine Learning Engineer, Serving - Германия

Команда: ML Engineering

Inworld — это продуктово-ориентированная исследовательская лаборатория, состоящая из ведущих ИИ-исследователей и инженеров, разрабатывающая лучшие в своем классе мультимодальные модели реального времени и единственную платформу оркестрации реального времени, оптимизированную для тысяч запросов в секунду.

Мы привлекли более 125 миллионов долларов от Lightspeed, Section 32, Kleiner Perkins, венчурного фонда Microsoft M12, Founders Fund, Meta, Stanford и других. Наши технологии обеспечивали работу таких компаний, как NVIDIA, Microsoft Xbox, Niantic, Logitech Streamlabs, Wishroll, Little Umbrella и Bible Chat. Мы также были признаны CB Insights одной из 100 самых перспективных ИИ-компаний в мире и названы одним из 10 лучших стартапов LinkedIn в США.

Мы ставим перед вами неясные задачи и ожидаем, что вы их проясните. Мы ценим инженеров, которые говорят «я пока не знаю» и затем разрабатывают бенчмарк или прототип, чтобы это выяснить. Мы относимся к производительности, задержке и надежности как к первоклассным функциям продукта, а не как к пункту, который нужно отметить перед запуском. Влияние важнее всего, хотя мы поддерживаем обмен работой и open-source вклад, которые продвигают область вперед. Ваша работа должна быть заметной. Плоская структура, быстрые итерации, минимальная бюрократия.

Требования

Год назад надежно работающие агентские системы и мультимодальный инференс за субсекунду в больших масштабах практически не существовали. Ни у кого нет десятилетнего опыта в этой области. Поэтому мы ищем не по шаблону резюме, а сильных людей с разным опытом, которые быстро учатся, преуспевают в неопределенности и могут показать нам, что они построили, сломали и поняли.

Полезный опыт

Вам не обязательно иметь все это. Но нужно достаточно, чтобы аргументировать свою кандидатуру.

Оптимизация инференса. Глубокое понимание современных фреймворков и техник обслуживания, таких как vLLM или TRT-LLM
Ускорение моделей. Практический опыт в области квантования, дистилляции, стратегий кэширования, непрерывной пакетной обработки, страничного внимания (paged attention) и спекулятивного декодирования
Высокопроизводительные системы. Владение C++, CUDA, Rust или высокооптимизированным Python. Вы знаете, как профилировать код и выжать максимум производительности из NVIDIA GPU
Распределенные системы и масштабирование. Опыт работы с Kubernetes, Ray, пользовательской балансировкой нагрузки, мульти-GPU/мульти-узловой инференс и надежная обработка тысяч одновременных соединений
Публичная работа. Нетривиальные проекты системного программирования, вклад в open-source основных движков инференса или глубокие технические статьи
Полная ответственность. Вы можете взять модель от исследовательской группы, контейнеризировать ее, оптимизировать ее обслуживание и обеспечить ее надежную работу в продакшене
Образование. PhD в области Computer Science, физики, математики или эквивалентный практический опыт создания бэкенд- или ML-систем
Профессиональное владение английским языком (письменным и устным) требуется, так как вы будете ежедневно сотрудничать с нашим руководством и инженерными командами, базирующимися в США

Кто преуспевает у нас

Вам не нужна дорожная карта, чтобы начать двигаться; вы комфортно выбираете направление и строите карту по ходу дела
Вы верите, что инжиниринг не закончен, пока он не выпущен и не стабилен. Вы отдаете приоритет влиянию, а не чисто теоретическим оптимизациям
Вы не просто пишете код; вы одержимы пониманием «почему». Вы первым подвергаете сомнению архитектуру, если считаете, что есть лучший способ решить основную проблему задержки или пропускной способности
Вас не удовлетворяет «так сказал менеджер продукта». Вы цените глубокий контекст и хотите понять фундаментальную логику каждого принимаемого нами решения

Условия

Местоположение: Германия Тип занятости: FullTime

Для кандидатов, заинтересованных в переезде в район залива Сан-Франциско в будущем, может быть доступна полная поддержка в оформлении визы и релокации в США, в зависимости от потребностей бизнеса и применимых юридических требований и требований к разрешению на работу.

Senior / Lead Machine Learning Engineer, Serving - Germany

Team: ML Engineering Location: Germany Employment type: FullTime

About Inworld

Inworld is a product-oriented research lab of top AI researchers and engineers, developing best-in-class realtime multimodal models and the only realtime orchestration platform optimized for thousands of queries per second.

We’ve raised more than $125M from Lightspeed, Section 32, Kleiner Perkins, Microsoft’s M12 venture fund, Founders Fund, Meta and Stanford, among others. Our technology has powered experiences from companies such as NVIDIA, Microsoft Xbox, Niantic, Logitech Streamlabs, Wishroll, Little Umbrella and Bible Chat. We’ve also been recognized by CB Insights as one of the 100 most promising AI companies globally and have been named one of LinkedIn's Top 10 Startups in the USA.

Who We're Looking For

A year ago, reliably working agentic systems and sub-second multimodal inference at scale barely existed. Nobody has a decade of experience here. So we're not screening for a resume template — we're looking for strong people from varied backgrounds who learn fast, thrive in ambiguity, and can show us what they've built, broken, and understood.

Experience We Find Useful

You don't need all of this. But you need enough to make a case.

Inference Optimization. Deep understanding of modern serving frameworks and techniques like vLLM or TRT-LLM.
Model Acceleration. Hands-on experience with quantization, distillation, caching strategies , continuous batching, paged attention, and speculative decoding.
High-Performance Systems. Proficiency in C++, CUDA, Rust, or highly optimized Python. You know how to profile code and squeeze every ounce of performance out of NVIDIA GPUs.
Distributed Systems & Scaling. Experience with Kubernetes, Ray, custom load balancing, multi-GPU/multi-node inference, and reliably handling thousands of concurrent connections.
Public work. Non-trivial systems programming projects, open-source contributions to major inference engines, or deep-dive technical write-ups.
Full-cycle ownership. You can take a model from the research team, containerize it, optimize its serving, and ensure it runs reliably in production.
Background. PhD in CS, Physics, Math, or equivalent practical experience building backend or ML systems.
Professional fluency in English (written and spoken) is required, as you will be collaborating daily with our US-based leadership and engineering teams.

Who Thrives Here

You don’t need a roadmap to start walking; you’re comfortable picking a direction and building the map as you go.
You believe engineering isn't finished until it’s shipped and stable. You have a bias for impact over purely theoretical optimizations.
You don't just ship code; you obsess over the why. You’re the first to question an architecture if you think there’s a better way to solve the core latency or throughput problem.
You aren't satisfied with "the PM said so." You thrive on deep context and want to understand the fundamental logic behind every decision we make.

What Working Here Is Like

We hand you unclear problems and expect you to make them clear. We value engineers who say "I don't know yet" and then design the benchmark or prototype that finds out. We treat performance, latency, and reliability as first-class product features, not a box to check before launch. Impact comes before everything else, though we support sharing work and open-source contributions that move the field forward. Your work should be visible. Flat structure, fast iterations, minimal process theater.

For candidates interested in relocating to the San Francisco Bay Area in the future, full U.S. visa and relocation support may be available, subject to business needs and applicable legal and work authorization requirements.

Подходит ли тебе эта вакансия?

Сравним навыки, грейд, формат работы и зарплату

Ключевые навыки

vLLM
TRT LLM
Quantization
Distillation
Caching
Continuous Batching
Paged Attention
Speculative Decoding
C++
CUDA
Rust
Python
GPU Profiling
Kubernetes
Ray
Распределенные системы

Оценка зарплаты

152 000EURв год

Чаще всего от 123 000 до 162 000