Инженер-программист, развертывание моделей — ChatGPT Engineering
Компания: OpenAI
Местоположение: Лондон, Великобритания / Гибридный / Удаленный
О КОМАНДЕ
ChatGPT полагается на большой и растущий парк GPU для надежного и эффективного обслуживания рабочих нагрузок инференса. Мы разрабатываем системы и инструменты, которые позволяют внедрять новые модели, управлять производственными развертываниями, реагировать на операционные проблемы и эффективно использовать инфраструктуру в масштабе.
Наша работа охватывает распределенные системы, платформенную инженерию, автоматизацию инфраструктуры и опыт разработчиков. Мы тесно сотрудничаем с исследовательскими, инфраструктурными и продуктовыми командами, чтобы сделать развертывание моделей более надежным, эффективным и простым в управлении.
О РОЛИ
Мы ищем инженера-программиста с опытом создания или эксплуатации крупномасштабных производственных систем.
Вы будете проектировать и разрабатывать системы, которые поддерживают жизненный цикл моделей в продакшене, включая оркестрацию развертывания, управление конфигурацией, операционную автоматизацию, надежность и управление мощностями. Вы поможете преобразовать сложные операционные процессы в масштабируемые платформенные возможности, которые позволят командам OpenAI с большей уверенностью и меньшими ручными усилиями развертывать модели и управлять ими.
Эта роль хорошо подходит для инженеров, которым нравится решать сложные операционные задачи и создавать программное обеспечение, которое упрощает эксплуатацию производственной инфраструктуры в масштабе.
В ЭТОЙ РОЛИ ВЫ БУДЕТЕ
- Создавать и развивать платформу, используемую для развертывания, настройки и управления моделями в ChatGPT.
- Разрабатывать системы для оркестрации развертывания, развертывания моделей, операционной видимости и готовности к продакшену.
- Создавать абстракции и инструменты, которые упрощают сложную инфраструктуру и улучшают опыт разработчиков.
- Автоматизировать операционные рабочие процессы, включая обнаружение инцидентов, диагностику, смягчение последствий и восстановление.
- Повышать надежность, масштабируемость и эффективность развертывания моделей и поддерживающей их инфраструктуры.
- Создавать системы, поддерживающие планирование мощностей, распределение ресурсов и использование инфраструктуры.
- Сотрудничать с исследовательскими, инфраструктурными и продуктовыми инженерными командами для выявления общих проблем и предоставления повторно используемых платформенных возможностей.
- Определять техническое направление платформы управления моделями по мере развития ChatGPT и ее базовых систем.
ВАМ МОЖЕТ ПОДОЙТИ ЭТА РОЛЬ, ЕСЛИ ВЫ
- Создавали или эксплуатировали внутренние платформы, распределенные системы или крупномасштабную производственную инфраструктуру.
- Любите превращать сложные операционные задачи в надежное программное обеспечение и повторно используемые абстракции.
- Имеете опыт работы с системами развертывания, оркестрации, управления конфигурацией или автоматизации инфраструктуры.
- Понимаете производственную надежность, наблюдаемость, планирование мощностей и реагирование на инциденты.
- Заботитесь об опыте разработчиков и создании инструментов, которые делают другие инженерные команды более эффективными.
- Комфортно работаете в условиях организационных границ и берете на себя ответственность от проектирования системы до эксплуатации в продакшене.
- Преуспеваете в быстро меняющихся средах со значительной технической неопределенностью.
- Заинтересованы в обслуживании моделей или ML-инфраструктуре, но не имеете специализированного опыта работы с GPU или низкоуровневым оборудованием.
КВАЛИФИКАЦИЯ
- Пять или более лет опыта работы инженером-программистом в области создания производственной инфраструктуры.
- Сильные навыки программирования на Go, Python, C++, Rust или сопоставимом языке.
- Опыт проектирования или эксплуатации высокодоступных распределенных систем.
- Опыт работы в области платформенной инженерии, инфраструктурной инженерии, производственной инженерии, инженерии надежности сайта (SRE) или аналогичных дисциплин.
- Сильные навыки системного проектирования, отладки и решения операционных проблем.
- Отличные коммуникативные навыки и опыт сотрудничества с инженерными командами.
