Название: Инженер по развертыванию (обучение)
Компания: Baseten
Местоположение: Сан-Франциско / Нью-Йорк / Гибрид
Вознаграждение: $200K - $400K в год
О BASETEN
Baseten обеспечивает работу критически важных систем инференса для самых динамичных компаний в области ИИ в мире, таких как Cursor, Notion, OpenEvidence, Abridge, Clay, Gamma и Writer. Объединяя прикладные исследования в области ИИ, гибкую инфраструктуру и бесшовные инструменты разработчика, мы позволяем компаниям, работающим на переднем крае ИИ, внедрять передовые модели в производство. Мы быстро растем и недавно привлекли $1,5 млрд в рамках раунда F, возглавляемого Altimeter Capital, Conviction Partners и Spark Capital. Присоединяйтесь к нам и помогите построить платформу, к которой обращаются инженеры для создания продуктов ИИ.
РОЛЬ
Инженеры по развертыванию (Forward Deployed Engineers) работают напрямую с крупнейшими и наиболее быстрорастущими компаниями в области ИИ в мире, отвечают за их технические результаты на Baseten и решают самые сложные задачи по обслуживанию и улучшению моделей в больших масштабах. Работа охватывает жизненный цикл модели: инференс, пост-тренировка и системы, которые сближают их.
- Выступать в роли фактического технического директора по Baseten для каждого клиента, неся полную ответственность за проектирование, запуск и масштабирование их рабочих нагрузок.
- Преобразовывать цели клиента из неопределенных в реализованные: формулировать проблему, определять спецификацию и критерии успеха, создавать PoC и быстро доводить его до продакшена, используя правильные инструменты для решения задачи.
- Разрабатывать оценки и бенчмарки, которые выявляют области, где качество или производительность недостаточны, а затем самостоятельно устранять разрыв, будь то оптимизация инференса, улучшение модели посредством пост-тренировки или переработка самой оценки.
- Быть первым ответственным за критически важные сбои, включая триаж, самостоятельное устранение неисправности или передачу в соответствующую команду и сохранение ответственности до момента устранения.
- Создавать внутренние системы, чтобы каждое взаимодействие было быстрее предыдущего. Это включает инструменты и автоматизацию для оценки и инфраструктуры развертывания, а также рецепты и эталонные реализации, которые делают продукт более самообслуживаемым.
- Формировать сам продукт, направляя потребности клиентов в дорожную карту и самостоятельно внедряя исправления и функции в кодовую базу Baseten.
- Делать все это одновременно для нескольких клиентов, выстраивая последовательность работы, привлекая нужных людей в нужное время и поддерживая клиентов и внутренних заинтересованных лиц в курсе статуса и рисков.
ТРЕБОВАНИЯ
- Минимум 1-2 года опыта разработки программного обеспечения, создания и поддержки кода в крупных производственных системах, желательно с широким охватом всего стека.
- Опыт отладки сложных производственных проблем — работа с логами, метриками и трассировками для выявления корневых причин проблем в незнакомых системах.
- Уверенность в решении неопределенных технических проблем. Это включает триаж, принятие решений в условиях неопределенности и знание того, когда следует привлекать других инженеров, ответственных за базовые системы.
- Мотивация, выходящая за рамки чистого инжиниринга. Интерес к работе напрямую с клиентами, пониманию их проблем из первых рук и влиянию на продукт.
- Четкая коммуникация по сложным техническим темам, будь то общение с инженерами клиента или их руководством.
- Искреннее любопытство к инференсу и обучению ИИ, а также стремление стать экспертом в инфраструктуре, обеспечивающей их работу.
- Готовность отвечать клиентам вне рабочего времени и участвовать в дежурствах по вызову.
- Энтузиазм в решении проблем для одних из самых крупных и быстрорастущих компаний в мире, использующих критически важные рабочие нагрузки ИИ.
ЧТО ВЫ ПРИВнесете
Мы не ожидаем, что один человек будет обладать всеми этими навыками — наиболее сильные кандидаты могут выделяться в одной или двух из следующих областей:
- Глубокие знания в основной области инфраструктуры, такой как системы хранения данных или сети (от облачного уровня до межсоединений кластеров, таких как InfiniBand и RoCE).
- Опыт работы с распределенными вычислительными платформами, такими как Kubernetes, Slurm или Ray, особенно для рабочих нагрузок GPU.
- Детальное понимание архитектур LLM и современных движков инференса, таких как vLLM, TensorRT-LLM или SGLang.
- Способность профилировать и оптимизировать рабочие нагрузки GPU, при обучении или обслуживании.
- Практический опыт пост-тренировочных методов, таких как SFT и RL, или более широкий опыт в глубоком обучении в сочетании со знанием библиотеки тензорных вычислений, такой как PyTorch или JAX.
- Операционная глубина — участие в дежурствах, управление реагированием на инциденты, отладка распределенных систем под давлением.
ПРЕИМУЩЕСТВА
- Конкурентоспособная компенсация, включая значительную долю в акционерном капитале.
- (Только для США) 100% покрытие медицинской, стоматологической и офтальмологической страховки для сотрудника и его иждивенцев.
- Гибкая политика отпусков, включая общекорпоративные зимние каникулы (наши офисы закрыты с кануна Рождества до Нового года!).
- Оплачиваемый отпуск по уходу за ребенком.
- Стипендия на репродуктивное здоровье и создание семьи через Carrot.
- (Только для США) Корпоративный 401(k) при содействии компании.
- Возможность познакомиться с различными стартапами в области ML, предлагая беспрецедентные возможности для обучения и налаживания контактов.
Подайте заявку сейчас, чтобы отправиться в приносящее удовлетворение путешествие по формированию будущего ИИ! Если вы мотивированный человек, увлеченный машинным обучением и желающий быть частью совместной и дальновидной команды, мы будем рады услышать вас.
В Baseten мы стремимся создавать разнообразную и инклюзивную рабочую среду. Мы предоставляем равные возможности трудоустройства всем сотрудникам и кандидатам независимо от расы, цвета кожи, религии, пола, сексуальной ориентации, гендерной идентичности или выражения, национального происхождения, возраста, генетической информации, инвалидности или статуса ветерана.
Мы являемся работодателем, предоставляющим равные возможности, и будем рассматривать кандидатов с судимостью в соответствии с применимым законодательством (например, требованиями Ордонанса Сан-Франциско о честных возможностях, где это применимо).
