Software Engineer - Hosted Model Infrastructure

Должность: Инженер-программист - Хостинговая инфраструктура моделей Местоположение: Нью-Йорк, Нью-Йорк / гибрид

Компания, меняющая мир

Palantir создает ведущее в мире программное обеспечение для принятия решений и операций на основе данных. Предоставляя нужные данные нужным людям, наши платформы позволяют нашим партнерам разрабатывать жизненно важные лекарства, прогнозировать сбои в цепочках поставок, находить пропавших детей и многое другое.

Должность

Мы — команда инженеров-программистов, специализирующихся на внедрении ML-моделей в производственную среду. Мы развертываем ИИ-модели для работы в различных средах: изолированных правительственных сетях, передовых оборонных средах, периферийных узлах и корпоративных системах со строгими требованиями к суверенитету данных. Наши клиенты полагаются на нас в получении передовых возможностей ИИ, работающих на контролируемом ими оборудовании, часто с ограниченными ресурсами GPU и ограниченным прямым доступом. Преодоление этих проблем и соответствие этим ожиданиям — это то, в чем Palantir преуспевает.

Мы относимся к моделям как к любому другому программному обеспечению: постоянно тестируем, постоянно доставляем, упаковываем для воспроизводимого развертывания и создаем для долгосрочного сопровождения. Вы будете полностью отвечать за сервисы, работая по всему стеку, от вычислительных движков до планирования GPU, конвейеров развертывания, наблюдаемости и интеграции с платформой Palantir. Цель — быстро и непрерывно предоставлять новые модели и возможности.

Присоединяйтесь к нам, если вы хотите решать задачи на стыке инфраструктуры и машинного обучения, которые напрямую помогают критически важным клиентам.

Технологии, которые мы используем

Различные серверные языки, включая Java, Rust, Python и Go Движки для обслуживания моделей для инференса с ускорением GPU Docker и Kubernetes для контейнеризации и оркестрации Стандартные инструменты сборки, включая Gradle и GitHub

Основные обязанности

Создание высокопроизводительной инфраструктуры обслуживания моделей, интегрированной с моделями безопасности, аппаратными ограничениями и различными движками инференса Проектирование интеллектуальной обработки запросов, включая аутентификацию, ограничение скорости, контроль параллелизма и аудит для многопользовательского доступа к моделям Создание и поддержка конвейеров упаковки и развертывания, обеспечивающих быстрое, безопасное и надежное внедрение моделей как в локальных, так и в изолированных средах Разработка средств наблюдаемости для производственных ИИ-систем для обеспечения простого мониторинга сервисов и быстрого выявления и устранения инцидентов Отладка сложных проблем и проблем производительности во всем стеке, включая движки инференса с открытым исходным кодом, среды выполнения контейнеров и драйверы GPU, в средах, к которым у вас не всегда может быть прямой доступ Проектирование и запуск инфраструктуры тестирования и бенчмаркинга, которая проверяет развертывание моделей на различных GPU-устройствах перед их выводом в производственную среду Работа с командами продуктов и клиентами для понимания требований, отладки производственных проблем и предоставления необходимых им моделей и возможностей Интеграция хостинговой инфраструктуры моделей с системами развертывания, конфигурации и идентификации Palantir

Что мы ценим

Предпринимательский подход и стремление к качеству. Наше программное обеспечение работает в средах, где прямой доступ для отладки ограничен или недоступен. Высокая эмпатия к потребностям клиентов и стремление предоставлять надежные, простые в использовании модели Способность эффективно работать с несколькими языками и уровнями стека, от серверных сервисов и инструментов ML до оркестрации контейнеров и конфигурации развертывания Сильные навыки отладки и мотивация для отслеживания проблем от кода приложения через контейнеры, оркестрацию и оборудование Любопытство к новым возможностям ИИ и способность быстро оценивать и интегрировать новые модели и технологии по мере развития ландшафта Активная или возможность получения американской визы безопасности является преимуществом, но не обязательна

Что мы требуем

4+ года профессионального опыта в разработке и эксплуатации производственных систем Инженерное образование в области компьютерных наук, математики, программной инженерии, физики или смежной области Сильные навыки программирования с подтвержденной компетенцией в таких языках программирования, как Java, C++, Python, Rust или аналогичных. Знакомство с экосистемой Python ML будет полезным. Опыт работы с контейнерами, Kubernetes и развертыванием серверных сервисов в производственных средах Отличные навыки письменного и устного общения, способность быстро работать с коллегами, принимать обратную связь и поддерживать высокие стандарты качества

Зарплата

Примерный диапазон заработной платы для этой должности составляет 145 000 - 200 000 долларов США в год. Общая компенсация для этой должности также может включать опционы на акции (Restricted Stock units), единовременный бонус при найме и другие потенциальные будущие стимулы. Обратите внимание, что общая компенсация для этой должности будет определяться индивидуальными соответствующими квалификациями, опытом работы, навыками и другими факторами. Эта оценка не включает стоимость любого потенциального бонуса при найме; стоимость любых предлагаемых льгот; и потенциальную будущую стоимость любых долгосрочных стимулов.

Наши льготы направлены на содействие здоровью и благополучию во всех сферах жизни сотрудников Palantir. Мы постоянно совершенствуем наши предложения и прислушиваемся к нашему сообществу при их разработке и обновлении. Список ниже содержит наши доступные льготы и некоторые бонусы, которыми могут пользоваться сотрудники Palantir Technologies.

Льготы

• Сотрудники (и их имеющие право иждивенцы) могут оформить медицинскую, стоматологическую и офтальмологическую страховку, а также добровольное страхование жизни • Сотрудники автоматически охвачены базовым страхованием жизни, страхованием от несчастных случаев и инвалидности от Palantir • Транспортные льготы • Помощь при переезде • Оплачиваемый отпуск по необходимости, без начисления • 2 недели оплачиваемого отпуска в конце каждого года (в зависимости от потребностей команды и бизнеса) • 10 оплачиваемых праздников в течение календарного года • Поддерживающая программа отпусков, включая отпуск для прохождения военной службы и по медицинским показаниям • Оплачиваемый отпуск для новых родителей и субсидируемый уход за детьми для всех родителей • Льготы на лечение бесплодия и создание семьи, включая, но не ограничиваясь усыновлением, суррогатным материнством и сохранением репродуктивных функций • Стипендия для покрытия расходов, связанных с рождением ребенка • Сотрудники могут оформить пенсионный план Palantir (401k)

Жизнь в Palantir

Мы хотим, чтобы каждый сотрудник Palantir добивался наилучших результатов, поэтому мы отмечаем сильные стороны, навыки и интересы каждого человека — от первого собеседования до долгосрочного роста, а не полагаемся на традиционные карьерные лестницы. Внимание к потребностям нашего сообщества позволяет нам оптимизировать возможности для роста и обеспечивает множество путей к успеху в Palantir. Содействие здоровью и благополучию во всех сферах жизни сотрудников — лишь один из способов, которым мы инвестируем в наше сообщество. Узнайте больше на Life at Palantir и обратите внимание, что наши предложения могут различаться в зависимости от региона.

В соответствии с ценностями и культурой Palantir мы считаем, что сотрудники «лучше вместе», и работа в офисе предоставляет возможности для более творческих результатов. Поэтому мы поощряем сотрудников работать в наших офисах для налаживания связей и инноваций. Многие команды предлагают гибридные варианты (удаленная работа один-два дня в неделю), позволяя нашим сотрудникам найти правильный баланс для своей личной продуктивности. В зависимости от потребностей бизнеса, некоторые должности допускают «удаленную» работу в исключительных случаях. Если вы претендуете на одну из этих должностей, вы должны работать из штата, в котором вы трудоустроены. Если в объявлении указано «Очно», вы должны работать в офисе.

Если вы хотите расширить возможности важнейших институтов мира, вам сюда. Palantir ценит превосходство независимо от происхождения. Мы гордимся тем, что являемся равным работодателем для всех, включая, помимо прочего, ветеранов и людей с ограниченными возможностями. Palantir стремится сделать процесс подачи заявок и найма доступным для всех и предоставит разумные условия для людей с ограниченными возможностями. Если вам требуются условия для процесса подачи заявок или найма, пожалуйста, свяжитесь с нами и сообщите, как мы можем помочь.

Обратите внимание, что вас никогда не попросят предоставить платежную информацию или поделиться финансовой информацией для участия в нашем процессе собеседования. Если вы подозреваете, что с вами связался мошенник, мы рекомендуем прекратить все общение с этим лицом и рассмотреть возможность сообщить о нем в соответствующие органы, такие как Интернет-центр по рассмотрению жалоб на киберпреступления (IC3) ФБР США.

Если вы хотите больше узнать о том, как Palantir обрабатывает ваши личные данные, ознакомьтесь с нашей Политикой конфиденциальности.