Staff / Principal Software Engineer - USA

Команда: Platform Местоположение: Маунтин-Вью, Калифорния, США Тип занятости: FullTime

О Inworld

Inworld — это ориентированная на продукт исследовательская лаборатория ведущих специалистов в области ИИ, разрабатывающая лучшие в своем классе мультимодальные модели в реальном времени и единственную в своем роде платформу оркестрации реального времени, оптимизированную для тысяч запросов в секунду.

Мы привлекли более 125 миллионов долларов от Lightspeed, Section 32, Kleiner Perkins, венчурного фонда Microsoft M12, Founders Fund, Meta, Stanford и других. Наши технологии лежали в основе проектов таких компаний, как NVIDIA, Microsoft Xbox, Niantic, Logitech Streamlabs, Wishroll, Little Umbrella и Bible Chat. Мы также были признаны CB Insights одной из 100 самых перспективных ИИ-компаний в мире и названы одним из 10 лучших стартапов LinkedIn в США.

О РОЛИ:

Inworld недавно запустила несколько захватывающих новых продуктов (Inworld TTS, Inworld STT, Speech-to-Speech / Realtime API и Inworld Router) для потребительских ИИ-приложений, и мы ищем амбициозного и способного Staff/Principal Backend Engineer, который присоединится к нам и поможет вывести платформу Inworld AI на новый уровень. Вот чем вы будете заниматься:

• Inworld Router: интеллектуальный уровень маршрутизации, предоставляющий разработчикам единый API для доступа к более чем 200 LLM. Вы будете отвечать за основные системы для обеспечения отказоустойчивости между несколькими поставщиками, маршрутизации на основе стоимости/задержки, A/B-тестирования в реальном времени и наблюдаемости в реальном времени в огромных масштабах.
• Realtime API
• Сервисы моделей на основе API: Наши пользовательские модели TTS/STT и API включают бесплатное мгновенное клонирование голоса. Помимо TTS, есть также LLM, Knowledge/RAG, STT и многое другое.
• Новые захватывающие продукты, амбициозные и крупномасштабные, запланированные к запуску позднее в этом году.
• Сервисы для контроля и оптимизации. Мы только начинаем осваивать эти более глубокие возможности.
• Наконец, сложные и захватывающие инфраструктурные проекты: платформизация нового предлагаемого продукта, разработка и интеграция лучших инструментов разработки, проекты, такие как общесистемное биллинг и так далее.

В качестве Staff/Principal Software Engineer вы будете играть значительную роль в одной или нескольких из этих областей. Ключевые проблемы:

• Быстрая доставка. ИИ развивается еженедельно, поэтому существует множество возможностей. Мы хотим действовать быстро, чтобы использовать эти возможности, пока они еще свежи и полны потенциала.
• От нуля к единице. Платформа — это не просто копия. У нас есть видение глубокой платформы/набора возможностей, которые значительно упрощают для разработчиков масштабирование и развитие их ИИ.
• Режим реального времени, онлайн. По мере того, как потребительские приложения становятся более способными слушать и говорить, производительность будет иметь значение, и ИИ также должен адаптироваться в режиме реального времени. Это смелые, но захватывающие задачи.
• Сложность мультипоставщика в масштабе. Inworld Router должен интеллектуально маршрутизировать данные между сотнями моделей и поставщиков, обеспечивая отказоустойчивость, сеансы привязки, оптимизацию затрат и условную логику, и все это с минимальными накладными расходами на задержку.

Наконец, почти все здесь — это сотрудничество с нашими родственными ML-командами, поскольку ML и ИИ критически важны для обеспечения обучения и адаптивности, центральных для этого видения.

Обратите внимание: Эта роль ориентирована на прямой технический вклад. Мы ищем человека, который любит непосредственный технический вклад вместе с очень способными коллегами.

ЧТО ВЫ БУДЕТЕ ДЕЛАТЬ:

• Установление значительного объема работ: Сотрудничество с продакт-менеджерами, инженерами и руководителями для определения наиболее важных продуктовых потребностей, на которых следует сосредоточиться.
• Действовать с технической автономией: У вас есть значительная свобода действий в предложении способов решения конкретной области, включая привлечение новых технических зависимостей или стандартов, если это лучший выбор.
• Сотрудничать, выполнять, доставлять: Это основа цикла разработки. Мы стремимся оптимизировать как скорость, так и качество, несмотря на то, что управление этим компромиссом исключительно хорошо далеко не очевидно.
• Рефлексировать и стимулировать улучшения: Особенно в качестве Staff Engineer, отстаивать и реализовывать системные улучшения, как связанные с ключевыми функциями, так и независимые от них.

ОЖИДАЕМЫЙ ОПЫТ:

Обязательно

• Отличные навыки программирования и опыт работы со статически типизированным серверным языком программирования, предпочтительно Go, Python, C++ или Rust
• Опыт разработки и развертывания облачных сервисов для обслуживания по крайней мере сотен запросов в секунду (предпочтительно больше)
• Опыт работы с реляционными базами данных (PostgreSQL или MySQL)
• Практический опыт работы с кэшированием (Redis или Memcached), pubsub/очередями, конвейерами данных (Flink, Beam) и облачным хранилищем
• Отличные навыки устного и письменного общения, умение легко сотрудничать и координировать работу с другими специалистами, надежный и уважаемый член команды

Дополнительные квалификации

• Опыт создания API-шлюзов, слоев маршрутизации/прокси или систем оркестрации с несколькими поставщиками
• Опыт работы с базами данных аналитики или временных рядов (ClickHouse, Timescale, InfluxDB)
• Опыт работы с OpenTelemetry
• Опыт работы с C++

Кандидаты должны проживать в районе залива Сан-Франциско или быть готовыми к переезду (вы будете работать в нашем офисе в Южном заливе несколько дней в неделю).

Диапазон базовой годовой заработной платы в США для этой должности с полной занятостью составляет 280 000 - 350 000 долларов США. Помимо базовой оплаты, общая компенсация включает опционы на акции и льготы.