Staff / Principal Software Engineer - USA
Команда: Platform
Местоположение: Маунтин-Вью, Калифорния, США
Тип занятости: FullTime
О Inworld
Inworld — это ориентированная на продукт исследовательская лаборатория ведущих специалистов в области ИИ, разрабатывающая лучшие в своем классе мультимодальные модели в реальном времени и единственную в своем роде платформу оркестрации реального времени, оптимизированную для тысяч запросов в секунду.
Мы привлекли более 125 миллионов долларов от Lightspeed, Section 32, Kleiner Perkins, венчурного фонда Microsoft M12, Founders Fund, Meta, Stanford и других. Наши технологии лежали в основе проектов таких компаний, как NVIDIA, Microsoft Xbox, Niantic, Logitech Streamlabs, Wishroll, Little Umbrella и Bible Chat. Мы также были признаны CB Insights одной из 100 самых перспективных ИИ-компаний в мире и названы одним из 10 лучших стартапов LinkedIn в США.
О РОЛИ:
Inworld недавно запустила несколько захватывающих новых продуктов (Inworld TTS, Inworld STT, Speech-to-Speech / Realtime API и Inworld Router) для потребительских ИИ-приложений, и мы ищем амбициозного и способного Staff/Principal Backend Engineer, который присоединится к нам и поможет вывести платформу Inworld AI на новый уровень. Вот чем вы будете заниматься:
- Inworld Router: интеллектуальный уровень маршрутизации, предоставляющий разработчикам единый API для доступа к более чем 200 LLM. Вы будете отвечать за основные системы для обеспечения отказоустойчивости между несколькими поставщиками, маршрутизации на основе стоимости/задержки, A/B-тестирования в реальном времени и наблюдаемости в реальном времени в огромных масштабах.
- Realtime API
- Сервисы моделей на основе API: Наши пользовательские модели TTS/STT и API включают бесплатное мгновенное клонирование голоса. Помимо TTS, есть также LLM, Knowledge/RAG, STT и многое другое.
- Новые захватывающие продукты, амбициозные и крупномасштабные, запланированные к запуску позднее в этом году.
- Сервисы для контроля и оптимизации. Мы только начинаем осваивать эти более глубокие возможности.
- Наконец, сложные и захватывающие инфраструктурные проекты: платформизация нового предлагаемого продукта, разработка и интеграция лучших инструментов разработки, проекты, такие как общесистемное биллинг и так далее.
В качестве Staff/Principal Software Engineer вы будете играть значительную роль в одной или нескольких из этих областей. Ключевые проблемы:
- Быстрая доставка. ИИ развивается еженедельно, поэтому существует множество возможностей. Мы хотим действовать быстро, чтобы использовать эти возможности, пока они еще свежи и полны потенциала.
- От нуля к единице. Платформа — это не просто копия. У нас есть видение глубокой платформы/набора возможностей, которые значительно упрощают для разработчиков масштабирование и развитие их ИИ.
- Режим реального времени, онлайн. По мере того, как потребительские приложения становятся более способными слушать и говорить, производительность будет иметь значение, и ИИ также должен адаптироваться в режиме реального времени. Это смелые, но захватывающие задачи.
- Сложность мультипоставщика в масштабе. Inworld Router должен интеллектуально маршрутизировать данные между сотнями моделей и поставщиков, обеспечивая отказоустойчивость, сеансы привязки, оптимизацию затрат и условную логику, и все это с минимальными накладными расходами на задержку.
Наконец, почти все здесь — это сотрудничество с нашими родственными ML-командами, поскольку ML и ИИ критически важны для обеспечения обучения и адаптивности, центральных для этого видения.
Обратите внимание: Эта роль ориентирована на прямой технический вклад. Мы ищем человека, который любит непосредственный технический вклад вместе с очень способными коллегами.
ЧТО ВЫ БУДЕТЕ ДЕЛАТЬ:
- Установление значительного объема работ: Сотрудничество с продакт-менеджерами, инженерами и руководителями для определения наиболее важных продуктовых потребностей, на которых следует сосредоточиться.
- Действовать с технической автономией: У вас есть значительная свобода действий в предложении способов решения конкретной области, включая привлечение новых технических зависимостей или стандартов, если это лучший выбор.
- Сотрудничать, выполнять, доставлять: Это основа цикла разработки. Мы стремимся оптимизировать как скорость, так и качество, несмотря на то, что управление этим компромиссом исключительно хорошо далеко не очевидно.
- Рефлексировать и стимулировать улучшения: Особенно в качестве Staff Engineer, отстаивать и реализовывать системные улучшения, как связанные с ключевыми функциями, так и независимые от них.
ОЖИДАЕМЫЙ ОПЫТ:
Обязательно
- Отличные навыки программирования и опыт работы со статически типизированным серверным языком программирования, предпочтительно Go, Python, C++ или Rust
- Опыт разработки и развертывания облачных сервисов для обслуживания по крайней мере сотен запросов в секунду (предпочтительно больше)
- Опыт работы с реляционными базами данных (PostgreSQL или MySQL)
- Практический опыт работы с кэшированием (Redis или Memcached), pubsub/очередями, конвейерами данных (Flink, Beam) и облачным хранилищем
- Отличные навыки устного и письменного общения, умение легко сотрудничать и координировать работу с другими специалистами, надежный и уважаемый член команды
Дополнительные квалификации
- Опыт создания API-шлюзов, слоев маршрутизации/прокси или систем оркестрации с несколькими поставщиками
- Опыт работы с базами данных аналитики или временных рядов (ClickHouse, Timescale, InfluxDB)
- Опыт работы с OpenTelemetry
- Опыт работы с C++
Кандидаты должны проживать в районе залива Сан-Франциско или быть готовыми к переезду (вы будете работать в нашем офисе в Южном заливе несколько дней в неделю).
Диапазон базовой годовой заработной платы в США для этой должности с полной занятостью составляет 280 000 - 350 000 долларов США. Помимо базовой оплаты, общая компенсация включает опционы на акции и льготы.