Название: Инженер-программист — Системы производительности моделей
Компания: Baseten
Местоположение: Сан-Франциско / Торонто / Нью-Йорк / Монреаль / Сиэтл / Гибридный формат
Вознаграждение: $165 000 - $330 000 в год
О BASETEN
Baseten обеспечивает работу критически важных систем вывода для самых динамичных компаний в области ИИ, таких как Cursor, Notion, OpenEvidence, Abridge, Clay, Gamma и Writer. Объединяя прикладные исследования в области ИИ, гибкую инфраструктуру и бесшовные инструменты для разработчиков, мы позволяем компаниям, работающим на переднем крае ИИ, выводить передовые модели в продакшн. Мы быстро растем и недавно привлекли $1,5 млрд в рамках раунда F, возглавляемого Altimeter Capital, Conviction Partners и Spark Capital. Присоединяйтесь к нам и помогите построить платформу, которую инженеры используют для выпуска продуктов на базе ИИ.
РОЛЬ
Мы ищем инженеров-программистов в нашу команду. Это специализированная, высокоэффективная роль на стыке высокопроизводительных вычислений (HPC) и инжиниринга больших языковых моделей (LLM). Вы будете не просто создавать автоматизированный набор "спидометров и диагностики" для нашего ИИ-инфраструктуры следующего поколения; вы будете определять дорожную карту, принимать ключевые технические решения и нести полную ответственность за будущее этой работы.
ОБЯЗАННОСТИ
- Бенчмаркинг: Оценивайте, запускайте и автоматизируйте стандартные бенчмарки качества LLM (GSM8K, MMLU) наряду с пользовательскими наборами производительности для конкретных рабочих нагрузок (например, длинный контекст, повторное использование KV-кэша, распределенное обслуживание).
- Улучшение DevEx: Разрабатывайте и поддерживайте внутренние среды разработки с поддержкой GPU (аналогичные GitHub Codespaces). Вы будете обеспечивать команде бесшовные, высокопроизводительные "машины для разработки", оптимизированные для экспериментов с моделями.
- Разработка инструментов: Создавайте и вносите вклад в open-source инструменты, такие как InferenceMAX и genai-bench, для автоматизации оценки моделей, бенчмаркинга и анализа.
- Профилирование систем: Используйте профилировщики, такие как PyTorch Profiler, NVIDIA Nsight Systems и py-spy, для сбора профилей производительности, выявления узких мест и отладки стека вычислений/сети.
- Мониторинг и наблюдаемость: Разрабатывайте дашборды и оповещения в реальном времени для мониторинга состояния системы, времени запуска моделей и производительности во время выполнения.
- Непрерывная интеграция: Автоматизируйте тестирование производительности с помощью конвейеров CI/CD для выявления регрессий и автоматизации рабочего процесса выпуска для стека сред выполнения моделей.
- Автоматизация оптимизации: Создавайте инструменты для поиска "Парето-границы" — определения наилучшей возможной конфигурации (задержка против стоимости против качества) для данной модели и рабочей нагрузки.
ТРЕБОВАНИЯ
Это роль для специалистов среднего и старшего звена с высоким влиянием. Мы ценим вашу техническую глубину, сильные коммуникативные навыки для продвижения кросс-командных усилий, способность работать с нечеткими требованиями и наставлять других инженеров. Мы хотим поговорить с вами, если у вас есть:
- Любовь к системам и оборудованию: Вас интересует не только ИИ; вы хотите понимать подсистемы памяти GPU, InfiniBand и как данные перемещаются по кластеру.
- Автоматизированный подход: Вы считаете, что если задачу нужно выполнить дважды, ее следует автоматизировать. У вас есть страсть к стресс-тестированию и фаззингу для поиска "точки отказа" системы.
- Математическое любопытство: Желание понять базовую математику Transformer-моделей и то, как она преобразуется в FLOPs и требования к памяти.
- Технический инструментарий: Знание Python и стремление освоить стек программного обеспечения NVIDIA. Знание C++ будет плюсом.
ПОЧЕМУ ЭТА РОЛЬ
- Прямое влияние: Ваши инструменты будут служить "привратником", определяющим "хорошую" производительность для наших клиентов.
- Глубокое обучение (буквально): Вы получите мирового класса экспертизу в оркестрации GPU и выводе LLM, которой обладают немногие инженеры в отрасли.
- Высокая ответственность: Как руководитель небольшой команды, вы будете иметь автономию для создания инструментов с нуля и внесения вклада в open-source проекты.
ПРЕИМУЩЕСТВА
- Конкурентоспособная компенсация, включая существенные опционы
- (Только для США) 100% покрытие медицинского, стоматологического и офтальмологического страхования для сотрудника и его иждивенцев
- Гибкая политика PTO, включая общекорпоративные зимние каникулы (наши офисы закрыты с кануна Рождества до Нового года!)
- Оплачиваемый отпуск по уходу за ребенком
- Стипендия на рождаемость и построение семьи через Carrot
- (Только для США) Компания содействует оформлению 401(k)
- Знакомство с различными ML-стартапами, предлагающими непревзойденные возможности для обучения и нетворкинга.
Подайте заявку сейчас, чтобы отправиться в захватывающее путешествие по формированию будущего ИИ! Если вы мотивированный специалист с увлечением машинным обучением и желанием стать частью совместной и дальновидной команды, мы будем рады услышать вас.
В Baseten мы стремимся создавать разнообразную и инклюзивную рабочую среду. Мы предоставляем равные возможности трудоустройства всем сотрудникам и соискателям независимо от расы, цвета кожи, религии, пола, сексуальной ориентации, гендерной идентичности или выражения, национального происхождения, возраста, генетической информации, инвалидности или статуса ветерана.
Мы являемся работодателем, предоставляющим равные возможности, и будем рассматривать квалифицированных кандидатов с криминальным прошлым в соответствии с применимым законодательством (например, требованиями Ордонанса о справедливых шансах Сан-Франциско, где применимо).
