Software Engineer - Hosted Model Infrastructure

Заголовок: Инженер-программист – инфраструктура размещенных моделей Местоположение: Пало-Альто, Калифорния / гибридный формат

Компания, меняющая мир

Palantir создает ведущее в мире программное обеспечение для принятия решений и операций на основе данных. Предоставляя нужные данные людям, которые в них нуждаются, наши платформы позволяют нашим партнерам разрабатывать жизненно важные лекарства, прогнозировать сбои в цепочках поставок, находить пропавших детей и многое другое.

Роль Мы — команда инженеров-программистов, специализирующаяся на развертывании ML-моделей в производственной среде. Мы развертываем модели ИИ для работы в различных средах: изолированных государственных сетях, передовых оборонных системах, периферийных узлах и на предприятиях со строгими требованиями к суверенитету данных. Наши клиенты полагаются на нас в вопросах передовых ИИ-возможностей, работающих на оборудовании, которое они контролируют, часто с ограниченными ресурсами GPU и ограниченным прямым доступом. Palantir преуспевает в решении этих проблем и удовлетворении этих ожиданий.

Мы относимся к моделям как к любому другому программному обеспечению: постоянно тестируем, непрерывно поставляем, упаковываем для воспроизводимого развертывания и создаем для долгосрочной поддержки. Вы будете полностью отвечать за сервисы, работая на всем стеке — от движков инференса, планирования GPU до конвейеров развертывания, наблюдаемости и интеграции с платформой Palantir. Цель — быстро и непрерывно доставлять новые модели и возможности.

Присоединяйтесь к нам, если вы хотите решать проблемы на стыке инфраструктуры и машинного обучения, которые непосредственно помогают критически важным клиентам.

Используемые технологии

• Различные серверные языки, включая Java, Rust, Python и Go
• Движки обслуживания моделей для инференса с ускорением GPU
• Docker и Kubernetes для контейнеризации и оркестрации
• Отраслевые инструменты сборки, включая Gradle и GitHub

Основные обязанности

• Создание высокопроизводительной инфраструктуры обслуживания моделей, интегрирующейся с моделями безопасности, аппаратными ограничениями и различными движками инференса
• Проектирование интеллектуальной обработки запросов, включая аутентификацию, ограничение скорости, контроль параллелизма и аудит для многопользовательского доступа к моделям
• Создание и поддержка конвейеров упаковки и развертывания, обеспечивающих быструю, безопасную и надежную выкатку моделей на локальных и изолированных средах
• Разработка средств наблюдаемости для производственных ИИ-систем, обеспечивающих простой мониторинг сервисов и быструю сортировку и устранение инцидентов
• Отладка сложных проблем и проблем производительности по всему стеку, включая движки инференса с открытым исходным кодом, среды выполнения контейнеров и драйверы GPU, в средах, к которым у вас не всегда есть прямой доступ
• Проектирование и запуск инфраструктуры тестирования и бенчмаркинга, которая проверяет развертывание моделей на различных GPU-устройствах перед их попаданием в производственную среду
• Взаимодействие с продуктовыми командами и клиентами для понимания требований, отладки производственных проблем и предоставления необходимых им моделей и возможностей
• Интеграция инфраструктуры размещенных моделей с системами развертывания, конфигурации и управления идентификацией Palantir

Что мы ценим

• Ответственность и стремление к качеству. Наше программное обеспечение работает в средах, где прямой доступ для отладки ограничен или отсутствует.
• Высокая эмпатия к потребностям клиентов и стремление предоставлять надежные, простые в использовании модели
• Способность эффективно работать с несколькими языками и уровнями стека, от серверных сервисов и инструментов ML до оркестрации контейнеров и конфигурации развертывания
• Сильные навыки отладки и мотивация отслеживать проблемы от кода приложения через контейнеры, оркестрацию и аппаратное обеспечение
• Любознательность в отношении новых ИИ-возможностей и способность быстро оценивать и интегрировать новые модели и технологии по мере развития ландшафта
• Наличие действующей американскойSecurity clearance или возможность и желание получить американскуюSecurity clearance приветствуются, но не являются обязательными

Что мы требуем

• Более 4 лет профессионального опыта в разработке программного обеспечения, создании и эксплуатации производственных систем
• Инженерное образование в области компьютерных наук, математики, разработки программного обеспечения, физики или смежной области
• Отличные навыки программирования с подтвержденной компетенцией в таких языках программирования, как Java, C++, Python, Rust или аналогичных. Знакомство с экосистемой Python ML будет плюсом.
• Опыт работы с контейнерами, Kubernetes и развертыванием серверных сервисов в производственных средах
• Отличные навыки письменного и устного общения, а также способность быстро взаимодействовать с членами команды, принимать обратную связь и поддерживать высокие стандарты качества

Зарплата Предполагаемый диапазон заработной платы для этой должности составляет от 145 000 до 200 000 долларов США в год. Общая компенсация за эту должность также может включать Restricted Stock units, бонус за подписание и другие потенциальные будущие стимулы. Далее следует отметить, что общая компенсация за эту должность будет определяться соответствующей квалификацией, опытом работы, навыками и другими факторами каждого человека. Эта оценка исключает стоимость любого потенциального бонуса за подписание; стоимость любых предлагаемых льгот; и потенциальную будущую стоимость любых долгосрочных стимулов.

Наши льготы направлены на содействие здоровью и благополучию во всех сферах жизни Palantirians. Мы постоянно работаем над улучшением наших предложений и прислушиваемся к нашему сообществу при их разработке и обновлении. Ниже приведен список доступных льгот и некоторых бонусов, которые могут быть доступны сотрудникам Palantir Technologies.

Льготы

• Сотрудники (и их соответствующие иждивенцы) могут оформить медицинскую, стоматологическую и офтальмологическую страховку, а также добровольное страхование жизни
• Сотрудники автоматически охватываются базовым страхованием жизни, AD&D и страхованием от нетрудоспособности от Palantir
• Коммунальные льготы
• Помощь при переезде
• Оплачиваемый отпуск по мере необходимости, не накапливаемый
• 2 недели оплачиваемого отпуска в конце каждого года (в зависимости от команды и потребностей бизнеса)
• 10 оплачиваемых праздничных дней в течение календарного года
• Программа поддержки отпусков, включая отпуск по военной службе и медицинским показаниям
• Оплачиваемый отпуск для новых родителей и субсидируемый присмотр за детьми для всех родителей
• Льготы на лечение бесплодия и создание семьи, включая, но не ограничиваясь усыновлением, суррогатным материнством и сохранением репродуктивных клеток
• Стипендия для покрытия расходов, связанных с новым ребенком
• Сотрудники могут оформить план 401k от Palantir

Жизнь в Palantir

Мы хотим, чтобы каждый Palantirian достиг своих лучших результатов, поэтому мы отмечаем сильные стороны, навыки и интересы каждого человека, от первого собеседования до долгосрочного роста, вместо того чтобы полагаться на традиционные карьерные лестницы. Внимание к потребностям нашего сообщества позволяет нам оптимизировать возможности для роста и обеспечить множество путей к успеху в Palantir. Содействие здоровью и благополучию во всех сферах жизни Palantirians — это лишь один из способов, которым мы инвестируем в наше сообщество. Узнайте больше на Life at Palantir и обратите внимание, что наши предложения могут различаться в зависимости от региона.

В соответствии с ценностями и культурой Palantir, мы считаем, что сотрудники «лучше вместе», и работа в офисе дает возможность для более творческих результатов. Поэтому мы призываем сотрудников работать в наших офисах для содействия связям и инновациям. Многие команды предлагают гибридные варианты (работа из дома один или два дня в неделю), позволяя нашим сотрудникам найти правильный баланс для своей личной продуктивности. В зависимости от потребностей бизнеса, есть несколько должностей, которые допускают «удаленную» работу на исключительной основе. Если вы подаете заявление на одну из этих должностей, вы должны работать из штата, в котором вы трудоустроены. Если вакансия указана как «на месте», вы обязаны работать из офиса.

Если вы хотите расширить возможности самых важных институтов мира, вам к нам. Palantir ценит превосходство независимо от происхождения. Мы гордимся тем, что являемся равным работодателем для всех, включая, но не ограничиваясь ветеранами и людьми с ограниченными возможностями. Palantir стремится сделать процесс подачи заявления и найма доступным для всех и предоставит разумное размещение для людей с ограниченными возможностями. Если вам требуется размещение для процесса подачи заявления или найма, пожалуйста, свяжитесь с нами и сообщите, как мы можем помочь.

Обратите внимание, что вас никогда не попросят предоставить оплату или финансовую информацию для участия в нашем процессе собеседования. Если вы подозреваете, что с вами связался мошенник, мы рекомендуем прекратить все общение с этим лицом и рассмотреть возможность сообщения о нем в соответствующие органы, такие как US FBI Internet Crime Complaint Center (IC3).

Если вы хотите больше узнать о том, как Palantir обрабатывает ваши личные данные, ознакомьтесь с нашей Политикой конфиденциальности.