RocketHuntУмный поиск работы
Together AI
Сингапур, Сингапур3 месяца назад
Грейд
Senior
Опыт работы
от 5 лет
Формат работы
Удаленно, Офис
Уровень английского
B2 - Выше среднего
ИИ напишет его по твоему резюме, останется только отправить
Название: Инженер по внедрению (Inference & Post-Training) — владеющий китайским (мандарин) Компания: Together AI Местоположение: Удаленно / Сингапур
В качестве инженера по внедрению (Forward Deployed Engineer — FDE), специализирующегося на Inference & Post-Training, вы будете непосредственным техническим партнером для наших наиболее стратегических клиентов — производственных команд ИИ, стремящихся использовать высококачественные модели и выполнять инференс (inference) в масштабе. Для нас FDE — это не замена архитектора решений (Solutions Architect); вы будете работать в партнерстве с нашими SA в качестве глубокого отраслевого специалиста по оптимизации инференса, пайплайнам дообучения (fine-tuning) и производственному развертыванию. Являясь ключевыми участниками организаций по работе с клиентами (CX), инжиниринга и продаж, FDE приносят огромную ценность, гарантируя, что мы можем удовлетворить требования наших наиболее сложных пилотных проектов (POC), способствовать успешному внедрению платформы и руководить индивидуальными усилиями по оптимизации — напрямую влияя на успех клиентов, рост компании и укрепление нашей основной платформы.
Должен быть постоянным жителем или гражданином Сингапура.
Выбор, настройка и оптимизация движка инференса на основе аппаратного обеспечения, архитектуры модели и профиля рабочей нагрузки.
Разработка обновлений конфигурации для выигрыша в критически важных пилотных проектах (POC), бенчмарках и оптимизации развертываний клиентов; настройка KV cache, применение спекулятивного декодирования (speculative decoding), определение оптимального тензорного параллелизма (tensor parallelism) и выбор стратегии квантования (quantization) для достижения целевых показателей пропускной способности и задержки.
Проведение практических тренировок RL и оптимизация системного дизайна; консультирование клиентов по пайплайнам LoRA, SFT, DPO, RLHF и GRPO от экспериментов до продакшена.
Выступать в качестве основного технического контактного лица для закрепленных стратегических аккаунтов — мониторинг и оптимизация конфигураций конечных точек (endpoint), помощь клиентам в максимально эффективном использовании платформы и сотрудничество для обеспечения достижения критически важных этапов.
Установление прямой связи со стратегическими клиентами на этапе онбординга; обеспечение правильных конфигураций инференса и пост-тренинга с первого дня для сокращения времени до получения ценности (time-to-value).
Прямое влияние на нашу продуктовую и модельную дорожную карту путем предоставления аналитических данных с поля. Внесение вклада в продукт, где это необходимо, для поддержки требований клиентов или улучшения пользовательского опыта. Стимулирование раннего внедрения новых функций и исследований у стратегических клиентов.
Более 5 лет работы на технической должности с упором на системы инференса, развертывание LLM с открытым исходным кодом или рабочие процессы пост-тренинга.
Экспертный, практический опыт работы с движками инференса (например, vLLM, TensorRT-LLM, SGLang); способность диагностировать и устранять проблемы производительности на уровне движка.
Глубокие знания настройки KV cache, спекулятивного декодирования, тензорного параллелизма, параллелизма пайплайнов и методов квантования.
Практический опыт работы с пайплайнами дообучения и пост-тренинга, включая LoRA, SFT, DPO, RLHF и GRPO; способность консультировать по системному дизайну.
Широкие знания передовых моделей с открытым исходным кодом и сильное понимание выбора моделей для конкретных сценариев использования клиентов, аппаратных профилей и целевых показателей производительности.
Сильные навыки Python; комфортная работа в производственных средах.
Together AI, AI Native Cloud, специально разработан для инженеров ИИ. Разработчики приложений ИИ получают высокопроизводительный инференс, который надежно масштабируется, дообучение и обучение с подкреплением для создания специализированных моделей передового уровня, а также предварительное обучение в огромных масштабах для полностью настраиваемого интеллекта — и все это вокруг торговой площадки ведущих открытых моделей, которые команды могут запускать, адаптировать и владеть. Together, которому доверяют Cursor, Decagon, ElevenLabs, Salesforce и Zoom, обслуживает более 400 триллионов токенов в месяц.
Мы предлагаем конкурентоспособную компенсацию, опционы на акции стартапа, медицинскую страховку и другие льготы, а также гибкость в отношении удаленной работы. Наши диапазоны заработной платы определяются местоположением, уровнем и должностью. Индивидуальная компенсация будет определяться опытом, навыками и знаниями, связанными с работой.
Together AI является работодателем, предоставляющим равные возможности, и гордится тем, что предоставляет равные возможности трудоустройства всем, независимо от расы, цвета кожи, происхождения, религии, пола, национальности, сексуальной ориентации, возраста, гражданства, семейного положения, инвалидности, гендерной идентичности, статуса ветерана и многого другого.
Оценка RocketHunt по реальным зарплатам
