Software Engineer - GPU Kernels

Название: Инженер-программист - GPU Kernels Компания: Baseten Местоположение: Сан-Франциско / Торонто / Нью-Йорк / Монреаль / Сиэтл / Гибрид

Вознаграждение: $180K - $360K в год

О BASETEN

Baseten обеспечивает критически важные вычисления для самых динамичных AI-компаний мира, таких как Cursor, Notion, OpenEvidence, Abridge, Clay, Gamma и Writer. Объединяя прикладные AI-исследования, гибкую инфраструктуру и бесшовные инструменты для разработчиков, мы позволяем компаниям, работающим на переднем крае AI, внедрять передовые модели в производство. Мы быстро растем и недавно привлекли $1,5 млрд в рамках раунда F, возглавляемого Altimeter Capital, Conviction Partners и Spark Capital. Присоединяйтесь к нам и помогите создать платформу, которую инженеры используют для выпуска AI-продуктов.

РОЛЬ

Мы ищем инженера GPU Kernels, который присоединится к нашей команде на переднем крае AI-ускорения, где ваш код будет напрямую влиять на производительность современных моделей машинного обучения. В качестве инженера GPU Kernels вы будете создавать основу, которая обеспечивает работу современных AI-задач, оптимизируя каждую микросекунду вычислений для создания прорывных приложений.

Вы будете работать в быстро меняющейся, интеллектуально стимулирующей среде, где техническое превосходство имеет первостепенное значение, а ваш вклад напрямую влияет на производственные системы, обслуживающие миллионы пользователей в многочисленных продуктах. Эта роль предлагает исключительный потенциал роста для инженеров, увлеченных низкоуровневой оптимизацией и работой с высоконагруженными системами.

ПРИМЕРЫ ИНИЦИАТИВ

В рамках нашей команды Model Performance вы сможете работать над следующими типами проектов:

• Baseten Embeddings Inference: Самое быстрое доступное решение для эмбеддингов
• Baseten Inference Stack
• Оптимизация производительности моделей

ОБЯЗАННОСТИ

Основные инженерные обязанности

• Проектирование и реализация высокопроизводительных GPU-ядер для ключевых ML-операций, включая матричные умножения, механизмы внимания и маршрутизацию mixture-of-experts.
• Написание и оптимизация кода с использованием CUDA, PTX assembly и специфичных для архитектуры методов.
• Применение передовых методов оптимизации производительности, таких как memory coalescing, warp-level programming, tensor core acceleration и compute/memory overlap.

Производительность и инновации

• Реализация передовых функций, таких как квантование (FP8/FP4), разреженность (sparsity) и compute/communication overlap.
• Выявление и устранение узких мест в производительности с использованием таких инструментов, как Nsight Systems, Nsight Compute и Torch Profiler.
• Сотрудничество с исследовательскими командами для внедрения теоретических достижений в производство.

Влияние и сотрудничество

• Вклад во внутренние и open-source GPU-библиотеки.
• Представление технических достижений на отраслевых конференциях (например, NVIDIA GTC, AWS re:Invent).

ТРЕБОВАНИЯ

• Глубокое понимание архитектуры GPU и парадигм программирования:
  • Иерархия памяти (global, shared, registers, L1/L2 cache)
  • Организация потоков/блоков/сеток (thread/block/grid organization)
  • Методы синхронизации и митигация гоночных состояний (race condition mitigation)
• Опыт работы с C++ и инструментами профилирования производительности GPU.
• Знание:
  • CUDA C++ API
  • Паттернов доступа к памяти и оптимизации пропускной способности.
  • Стратегий численной точности и квантования.
  • Современных функций GPU (например, тензорные ядра, асинхронные операции).

ПРИВЕТСТВУЕТСЯ

• Опыт работы с Transformer-моделями и оптимизацией внимания (например, Flash Attention).
• Знакомство с библиотеками GPU-ядер: Cutlass, Triton, Thrust, CUB.
• Опыт в тюнинге GEMM и распределенных/многопроцессорных вычислениях.
• Участие в open-source GPU-проектах.
• Научные публикации или доклады на конференциях по производительности GPU.

ПРЕИМУЩЕСТВА

• Конкурентоспособная заработная плата, включая значительный пакет акций.
• (Только для США) 100% покрытие медицинского, стоматологического и офтальмологического страхования для сотрудника и его иждивенцев.
• Гибкая политика отпусков, включая общекорпоративный зимний отпуск (наши офисы закрыты с кануна Рождества до Нового года!).
• Оплачиваемый отпуск по уходу за ребенком.
• Стипендия на репродуктивные технологии и создание семьи через Carrot.
• (Только для США) Содействуемый компанией 401(k).
• Возможность познакомиться с различными ML-стартапами, предоставляя непревзойденные возможности для обучения и налаживания контактов.

Подайте заявку сейчас, чтобы отправиться в приносящее удовлетворение путешествие по формированию будущего AI! Если вы мотивированы, увлечены машинным обучением и стремитесь стать частью совместной и дальновидной команды, мы будем рады услышать вас.

В Baseten мы стремимся создавать разнообразную и инклюзивную рабочую среду. Мы предоставляем равные возможности трудоустройства всем сотрудникам и кандидатам независимо от расы, цвета кожи, религии, пола, сексуальной ориентации, гендерной идентичности или самовыражения, национального происхождения, возраста, генетической информации, инвалидности или статуса ветерана.

Мы являемся работодателем с равными возможностями и будем рассматривать кандидатов с судимостью в соответствии с применимым законодательством (например, требованиями Ордонанса о справедливых шансах Сан-Франциско, где это применимо).