Должность: Staff / Principal Machine Learning Engineer, Inference - Switzerland Компания: Inworld AI Местоположение: Швейцария / Удаленно

О Inworld

Inworld — это исследовательская лаборатория и поставщик инференс-сервисов, специализирующаяся на ИИ в реальном времени для потребительских приложений. Мы создаем собственные речевые модели, обслуживаем LLM и выполняем инференс для модульных API, разработанных для высоконагруженных сценариев работы в реальном времени.

Ежедневно сотни миллионов пользователей взаимодействуют с приложениями на базе Inworld, и мы обрабатываем более 10 триллионов токенов LLM в месяц. Наши модели и инфраструктура поддерживают потребительские приложения в сферах компаньонов, здравоохранения, фитнеса, образования, медиа и многого другого. Наша работа охватывает исследования моделей, инференс в реальном времени, масштабируемую инфраструктуру обслуживания и API, которые разработчики используют для внедрения этих возможностей в производство.

Мы привлекли более 125 миллионов долларов от Lightspeed Venture Partners, Section 32, Kleiner Perkins, венчурного фонда Microsoft M12, Founders Fund, Meta, Stanford и других. Наши технологии использовались в проектах таких компаний, как NVIDIA, Microsoft Xbox, Niantic, Logitech Streamlabs, Wishroll, Little Umbrella и Bible Chat. Inworld также была признана CB Insights одной из 100 самых перспективных ИИ-компаний в мире и названа одним из 10 лучших стартапов США по версии LinkedIn.

Кого мы ищем

Год назад надежные агентивные системы и мультимодальный инференс менее чем за секунду в больших масштабах практически не существовали. Ни у кого нет десятилетнего опыта в этой области. Поэтому мы не отсеиваем кандидатов по шаблону резюме — мы ищем сильных людей из разных областей, которые быстро учатся, преуспевают в условиях неопределенности и могут показать нам, что они создали, сломали и поняли.

Полезный опыт

Вам не нужно иметь всё это. Но нужно достаточно, чтобы обосновать свою кандидатуру.

• Оптимизация инференса. Глубокое понимание современных фреймворков и методов обслуживания, таких как vLLM или TRT-LLM.
• Ускорение моделей. Практический опыт в области квантования, дистилляции, стратегий кэширования, непрерывной пакетной обработки, страничного внимания (paged attention) и спекулятивного декодирования.
• Высокопроизводительные системы. Уверенное владение C++, CUDA, Rust или высокооптимизированным Python. Вы знаете, как профилировать код и выжимать максимум производительности из графических процессоров NVIDIA.
• Распределенные системы и масштабирование. Опыт работы с Kubernetes, Ray, пользовательской балансировкой нагрузки, многопроцессорным/многоузловым инференсом и надежной обработкой тысяч одновременных соединений.
• Публичные работы. Нетривиальные проекты системного программирования, вклад в open-source основные инференс-движки или глубокие технические статьи.
• Полный цикл владения. Вы можете взять модель от команды исследователей, упаковать ее в контейнер, оптимизировать ее обслуживание и обеспечить ее надежную работу в производственной среде.
• Образование. PhD в области CS, физики, математики или эквивалентный практический опыт создания серверных или ML-систем.
• Требуется профессиональное владение английским языком (устным и письменным), поскольку вы будете ежедневно сотрудничать с нашим руководством и инженерными командами в США.

Кто преуспевает у нас

• Вам не нужна дорожная карта, чтобы начать двигаться; вы комфортно выбираете направление и строите карту по ходу дела.
• Вы считаете, что инженерия не закончена, пока продукт не выпущен и не стал стабильным. Вы ориентированы на результат, а не на чисто теоретические оптимизации.
• Вы не просто пишете код; вы одержимы пониманием «почему». Вы первым ставите под сомнение архитектуру, если считаете, что есть лучший способ решить основную проблему задержки или пропускной способности.
• Вас не удовлетворяет ответ «так сказал менеджер по продукту». Вы стремитесь к глубокому пониманию контекста и хотите разобраться в фундаментальной логике каждого нашего решения.

Каково работать у нас

Мы ставим перед вами неясные задачи и ожидаем, что вы сделаете их ясными. Мы ценим инженеров, которые говорят «Я пока не знаю» и затем разрабатывают бенчмарк или прототип, чтобы это выяснить. Мы относимся к производительности, задержке и надежности как к первоклассным функциям продукта, а не как к пункту, который нужно отметить перед запуском. Результат важнее всего, хотя мы поддерживаем обмен опытом и вклад в open-source, который продвигает эту область вперед. Ваша работа должна быть заметной. Плоская структура, быстрые итерации, минимум бюрократии.

Местоположение и трудоустройство

• Местоположение: удаленно в пределах Швейцарии
• Тип занятости: Полная занятость, постоянное трудоустройство
• Модель найма: Трудоустройство через Employer of Record (EOR)

Кандидаты должны уже иметь законное право на работу в Швейцарии, поскольку визовая поддержка для этой должности не предоставляется. Для кандидатов, заинтересованных в переезде в район залива Сан-Франциско в будущем, может быть предоставлена полная визовая поддержка и поддержка при переезде в США, в зависимости от потребностей бизнеса и применимых юридических требований и требований к разрешению на работу.