Название: Старший инженер по инфраструктуре вычислений ИИ
Компания: Payward
Местоположение: Великобритания / Бразилия / Ирландия / Перу / Коста-Рика / Латвия / Аргентина / Румыния / Кипр / Португалия / Словения / Литва / Южная Африка / Чешская Республика / Панама / Эстония / Канада / Венгрия / Мексика / Польша / Испания / Болгария / Удаленно
СТРОИМ БУДУЩЕЕ ОТКРЫТЫХ ФИНАНСОВ
Payward — материнская компания Kraken, NinjaTrader, Breakout, xStocks, Payward Services и CF Benchmarks — за последние 15 лет создала одну из самых современных и глобально доступных платформ финансовой инфраструктуры в отрасли, предназначенную для развития открытой глобальной финансовой системы.
КОМАНДА
Kraken, основанная в 2011 году, является одной из старейших криптовалютных платформ в мире, которой доверяют более 10 миллионов частных лиц и учреждений по всему миру. Она предлагает спотовую торговлю, маржинальную торговлю, фьючерсы, стейкинг и услуги внебиржевой торговли (OTC), с продуктами, разработанными как для розничных инвесторов, так и для институциональных клиентов.
Kraken создает специализированную команду по вычислениям и инфраструктуре искусственного интеллекта (ИИ) для обеспечения следующего поколения обучения моделей, инференса, оценки и экспериментов на всей бирже. Эта команда подчиняется руководству инженерного отдела и отвечает за инфраструктурный уровень, который позволяет Kraken выполнять рабочие нагрузки ИИ с контролем, скоростью, надежностью и дисциплиной расходов.
Команда отвечает за инфраструктуру GPU и ускорителей, эксплуатацию кластеров, планирование, обслуживание моделей, наблюдаемость, планирование мощностей и экономически эффективные вычисления в масштабе. Это основа, которая позволяет Kraken обучать, обслуживать, оценивать и итерировать системы ИИ внутри компании там, где это важно для конфиденциальности, задержки, надежности, затрат или дифференциации продукта.
Вы присоединитесь к небольшой, опытной команде с высоким уровнем воздействия, работающей напрямую с исследователями ИИ/МО, инженерами платформы, командами безопасности и продуктовыми командами. Задача проста: воплотить амбиции Kraken в области ИИ в реальность, создав вычислительную инфраструктуру, которая будет быстрой, надежной, эффективной и готовой к производству.
ВОЗМОЖНОСТИ
- Владеть и управлять кластерами GPU и ускорителей, используемыми для обучения, инференса, оценки и экспериментов, включая драйверы, среды выполнения, ядра, плагины устройств, конфигурацию узлов, примитивы планирования и изоляцию рабочих нагрузок.
- Проектировать инфраструктуру, позволяющую командам Kraken запускать модели локально на GPU, где это стратегически и экономически предпочтительнее, сокращая ненужную зависимость от внешних поставщиков и контролируя расходы на вычисления.
- Создавать и улучшать системы планирования, оркестрации, размещения, управления квотами и использования в гетерогенных средах ускорителей.
- Оптимизировать конвейеры инференса по задержке, пропускной способности, надежности, эффективности памяти и стоимости с использованием таких фреймворков, как vLLM, Triton Inference Server, TensorRT или эквивалентных стеков обслуживания.
- Сотрудничать с инженерами и исследователями МО для устранения узких мест в рабочих процессах обучения, оценки, пакетного инференса, онлайн-инференса, развертывания и отладки в производственной среде.
- Создавать средства наблюдаемости для использования GPU, нагрузки на память, глубины очереди, насыщения, пропускной способности токенов, задержки запросов, сбоев рабочих нагрузок, нагрузки на мощности и расходов.
- Обеспечивать надежность, реагирование на инциденты, оповещения, ролбуки и улучшения после инцидентов для круглосуточной вычислительной инфраструктуры ИИ.
- Оценивать и интегрировать новое оборудование, семейства облачных экземпляров, специализированные ускорители, среды выполнения, планировщики и фреймворки обслуживания по мере развития ландшафта инфраструктуры ИИ.
- Создавать инструменты, которые делают использование GPU видимым, подотчетным и более простым для внутренних команд, не требуя от них становления экспертами по инфраструктуре.
- Участвовать в принятии долгосрочных архитектурных решений, которые сбалансируют производительность, экономическую эффективность, масштабируемость, операционную простоту и безопасность производства.
ЧТО ВЫ ПРИВНОСИТЕ
- Опыт работы в области инфраструктурного инжиниринга более 5 лет, со значительным опытом работы с вычислениями на GPU, инфраструктурой МО, распределенными системами, высокопроизводительными вычислениями или крупномасштабными производственными платформами.
- Практический опыт эксплуатации кластеров GPU или инфраструктуры с поддержкой ускорителей в производственных или близких к производственным средах, включая планирование, оркестрацию, мониторинг использования и оптимизацию затрат.
- Прочные фундаментальные знания системного инжиниринга в области Linux, сетей, хранения данных, контейнеров, Kubernetes, распределенных сред выполнения и производственной отладки.
- Опыт работы с фреймворками обслуживания МО, такими как vLLM, Triton Inference Server, TensorRT, TorchServe, KServe, Ray Serve или эквивалентными системами.
- Уверенное владение Python для автоматизации инфраструктуры, создания инструментов, отладки, интеграции и операционных рабочих процессов.
- Практическое понимание компромиссов в производительности при пакетной обработке, параллелизме, использовании памяти, использовании GPU, размере модели, задержке, пропускной способности, доступности и стоимости.
- Подтвержденный опыт оптимизации затрат на вычисления при сохранении четких ожиданий по производительности, надежности и доступности.
- Опыт создания наблюдаемых систем с полезными метриками, логами, трассировками, панелями мониторинга, оповещениями и рабочими процессами реагирования на инциденты.
- Комфортное пребывание в условиях высокой ответственности и круглосуточной работы, где критически важны время безотказной работы, пропускная способность, корректность и операционная дисциплина.
- Четкая коммуникабельность, позволяющая переводить компромиссы в инфраструктуре для исследователей, продуктовых команд, инженеров платформы, представителей отдела безопасности и руководства инженерного отдела.
ПРИЯТНО ИМЕТЬ
- Опыт работы в передовой лаборатории ИИ, гиперскейлере, фирме, занимающейся высокочастотной торговлей, исследовательской платформе или крупномасштабной организации МО.
- Знакомство с собственным кремнием или специализированными ускорителями, такими как TPU, AWS Trainium, Gaudi или аналогичными платформами.
- Опыт в области планирования мощностей, ввода данных о закупках, стратегии резервирования мощностей, экономики облачных ускорителей или управления затратами на парк GPU.
- Опыт работы с фреймворками распределенного обучения, такими как DeepSpeed, Megatron-LM, FSDP, Ray или эквивалентными системами.
- Опыт отладки проблем с CUDA, NCCL, ядрами, драйверами, средами выполнения, памятью, сетями или низкоуровневой производительностью.
- Опыт работы с Rust, C++, Go, CUDA или другими системными языками, используемыми для критически важной по производительности инфраструктуры.
- Опыт работы с криптовалютами, финансовыми услугами, торговой инфраструктурой или производственной инфраструктурой с высокими требованиями к безопасности.
Если в описании вакансии не указана конкретная дата окончания приема заявок, то заявки принимаются на постоянной основе.
Обратите внимание, что заявителям разрешается ретушировать или удалять информацию из своего резюме, которая идентифицирует возраст, дату рождения или даты посещения или окончания учебного заведения.
Мы рассматриваем квалифицированных кандидатов с судимостями для трудоустройства в нашей команде, оценивая кандидатов в порядке, соответствующем требованиям Ордонанса о добросовестном шансе Сан-Франциско.
НАША ПРИВЕРЖЕННОСТЬ
Payward — это компания, в которой работают люди со всего мира, и мы ценим разнообразные таланты, опыт, вклад и уникальные взгляды, которые каждый привносит в команду. Мы нанимаем на основе заслуг, ищем людей с соответствующими способностями, знаниями и навыками для выполнения работы. Мы призываем вас подавать заявки на вакансии, которым вы не полностью соответствуете перечисленным требованиям, особенно если вы увлечены криптографией или обладаете знаниями в этой области.
Мы можем попросить кандидатов пройти тесты на профессиональные навыки или стиль работы в рамках процесса найма. Эти тесты оценивают компетенции, относящиеся к должности, и применяются последовательно ко всем кандидатам на аналогичные должности. Результаты рассматриваются вместе с опытом и результатами собеседований и не являются единственной основой для принятия каких-либо кадровых решений.
Как работодатель, предоставляющий равные возможности, мы не терпим дискриминации или домогательств любого рода, будь то по признаку расы, этнической принадлежности, возраста, гендерной идентичности, гражданства, религии, сексуальной ориентации, инвалидности, беременности, статуса ветерана или любой другой защищенной характеристики, изложенной в федеральных, государственных или местных законах.
Оставайтесь на связи
Подпишитесь на нас в Twitter
Узнайте больше в блоге Kraken
Свяжитесь с нами в LinkedIn
Уведомление о конфиденциальности кандидата
