Technical Support Engineer (Inference) - India Weekends

Должность: Инженер технической поддержки (Inference) - выходные дни в Индии Компания: Together AI Местоположение: Удаленно / Пуна или Бангалор, Индия

О роли В качестве инженера технической поддержки в передовой компании в области ИИ вы будете первой линией защиты клиентов, помогая им создавать решения для обучения, дообучения (fine tuning) и инференса (inference) с помощью Together AI. Вы будете глубоко погружаться в сложные технические проблемы, предоставляя быстрые и эффективные решения, выступая в роли эксперта по продукту. В составе отдела клиентского опыта вы будете тесно сотрудничать с отделами продукта и продаж, способствуя непрерывному совершенствованию наших предложений. Это захватывающая возможность для глубоко технического специалиста, увлеченного ИИ и успехом клиентов, оказать значительное влияние в быстро развивающейся, инновационной среде.

Требуемые часы работы Это полная ставка с работой в дневное время по индийскому времени. Работа будет включать выходные дни (субботу и воскресенье), а также два дополнительных будних дня. Это 4-дневная рабочая неделя, по 10 часов в день, с 2 дополнительными часами дежурства по вызову в субботу и воскресенье. В первые несколько месяцев работа будет проходить с понедельника по пятницу, чтобы позволить вам освоиться и учиться у коллег. После того, как вы будете признаны полностью освоившимся, роль перейдет на 4-дневную сменную работу по выходным.

Обязанности Прямое взаимодействие с клиентами для решения сложных технических проблем, связанных с нашими передовыми GPU-кластерами и нашими сервисами инференса и дообучения; обеспечение быстрых и эффективных решений каждый раз. Выступать в качестве клиентского SRE для обеспечения работоспособности, стабильности и производительности клиентских конечных точек инференса (работающих на Kubernetes). Стать экспертом по всем нашим Gen AI-решениям, выступая последней линией технической защиты перед эскалацией проблем в команды разработки и продукта. Помощь в миграции аппаратного обеспечения и платформ путем проверки работоспособности системы и маршрутизации трафика. Мониторинг панелей мониторинга для выявления аномалий и эскалации с анализом, основанным на данных. Управление коммуникациями с клиентами во время инцидентов и сбоев; перевод глубоких технических выводов (регрессии задержки, проблемы провайдера, падения сетевой доступности) в четкие, подкрепленные доказательствами обновления без раскрытия внутренних деталей платформы. Внесение изменений в инфраструктуру для развертывания моделей, перебалансировки мощностей и конфигурации кластера. Вы будете выполнять изменения инфраструктуры через pull-запросы (infra-as-code) для таких задач, как конфигурация конечных точек, запуск/остановка моделей и масштабирование мощностей. Сообщать об ошибках на уровне движка с логами и шагами воспроизведения для команды разработки. Беспрепятственное сотрудничество с командами разработки, исследований и продукта для решения проблем клиентов; сотрудничество с высшим руководством как внутри компании, так и за ее пределами для обеспечения высочайшего уровня удовлетворенности клиентов. Превращение инсайтов клиентов в действия путем выявления закономерностей в случаях поддержки и работы с командами разработки и Go-To-Market для продвижения дорожной карты Together (например, будущие модели для поддержки). Ведение подробной документации по конфигурациям системы, процедурам, руководствам по устранению неполадок и FAQ для обмена знаниями с командой и клиентами. Быть гибким в обеспечении поддержки во время праздников, ночей и выходных по мере необходимости бизнес-потребностей для обеспечения последовательного и надежного обслуживания наших клиентов.

Требования 6+ лет опыта работы на клиентских технических должностях, SRE, DevOps или в области инжиниринга инфраструктуры, с опытом работы в службе поддержки AI-сервиса не менее 1 года. Сильный технический бэкграунд, знание технологий AI, ML, GPU и их интеграции в высокопроизводительные вычислительные среды (HPC). Продвинутый опыт работы на продакшен-уровне с инфраструктурными сервисами (например, Kubernetes, SLURM), решениями Infrastructure as Code (например, Ansible), высокопроизводительными сетевыми фабриками, управлением хранилищами на основе NFS и контейнерной инфраструктурой. Знакомство с работой систем хранения данных в HPC-средах, таких как Vast и Weka. Подтвержденная способность диагностировать сложные проблемы на сетевом уровне и читать трассировки. Глубокое знание Python, TypeScript и/или JavaScript с опытом тестирования/отладки с использованием инструментов типа curl и Postman. Подтвержденный опыт работы с инструментами наблюдаемости (например, Prometheus, Grafana) в масштабе. Глубокое знакомство с отладкой REST API и семантикой HTTP. Опыт работы с фреймворками инференса LLM и дообучением LoRA, а также с распространенными сценариями сбоев при обучении. Опыт работы с Infrastructure as Code и Git-основанными рабочими процессами. Опыт управления GPU-кластерами. Опыт работы с облачными платформами (AWS, GCP и/или Azure). Базовое понимание установки, конфигурации, администрирования, устранения неполадок и обеспечения безопасности вычислительных кластеров. Сложное техническое решение проблем и устранение неполадок, с проактивным подходом к разрешению проблем. Способность работать кросс-функционально с командами продаж, разработки, поддержки, продукта и исследований для достижения успеха клиентов. Сильное чувство ответственности и готовность изучать новые навыки для обеспечения успеха как команды, так и клиентов. Отличные коммуникативные и межличностные навыки, способность объяснять сложные технические концепции нетехническим заинтересованным сторонам. Способность работать в динамичной среде, умение управлять несколькими проектами и комфорт при частом переключении контекста и расстановке приоритетов.

О Together AI Together AI, AI Native Cloud, создан специально для AI-инженеров. Разработчики AI-приложений получают высокопроизводительный инференс, который надежно масштабируется, дообучение и обучение с подкреплением для создания специализированных моделей передового уровня, а также предварительное обучение в огромном масштабе для полностью пользовательских интеллектов, и все это вокруг маркетплейса ведущих открытых моделей, которые команды могут запускать, адаптировать и которыми владеть. Together, которому доверяют Cursor, Decagon, ElevenLabs, Salesforce и Zoom, обслуживает более 400 триллионов токенов в месяц.

Компенсация Мы предлагаем конкурентоспособную компенсацию, долю в стартапе, медицинскую страховку и другие льготы, а также гибкость в плане удаленной работы для соответствующего региона найма. Наши диапазоны заработной платы определяются местоположением, уровнем и должностью. Индивидуальная компенсация будет определяться опытом, навыками и знаниями, связанными с работой.

Равные возможности Together AI является работодателем, предоставляющим равные возможности, и гордится тем, что предоставляет равные возможности трудоустройства всем, независимо от расы, цвета кожи, происхождения, религии, пола, национальности, сексуальной ориентации, возраста, гражданства, семейного положения, инвалидности, гендерной идентичности, статуса ветерана и многого другого. Пожалуйста, ознакомьтесь с нашей политикой конфиденциальности по адресу .