Engineering Manager, ChatGPT Search Infrastructure

Компенсация: $401K - $445K в год

О команде

Команда ChatGPT Search Infrastructure создает фундаментальные системы, которые обеспечивают работу поисковых функций во всем ChatGPT. Мы разрабатываем инфраструктуру, которая связывает модели с поисковыми системами и другими источниками информации в режиме реального времени, позволяя ChatGPT предоставлять пользователям по всему миру своевременные, релевантные и достоверные ответы.

Наша работа находится на стыке продуктовой инженерии, ИИ и крупномасштабной инфраструктуры. Мы создаем общие платформы и абстракции, которые позволяют продуктовым командам самостоятельно разрабатывать, оценивать и запускать новые поисковые возможности. Эти платформы предоставляют механизмы контроля, возможности тестирования, наблюдаемость и элементы управления развертыванием, необходимые для предотвращения регрессий в области надежности, масштабируемости, качества и задержки, одновременно поддерживая быструю итерацию продукта.

Команда тесно сотрудничает с:

• Post-Training по запуску моделей, экспериментам и оптимизации промптов
• Поисковыми продуктовыми вертикалями по новым пользовательским возможностям
• Inference по эффективности GPU
• Indexing и Retrieval по системам, которые идентифицируют и доставляют релевантную информацию
• Командой Capacity/Fleet для обеспечения оптимального регионального распределения GPU и CPU

О роли

Мы ищем Engineering Manager, который возглавит команду, ответственную за инфраструктуру поиска ChatGPT.

Вы будете определять техническое и организационное направление развития систем, которые интегрируют поисковые возможности в ChatGPT. Вы будете руководить принятием архитектурных решений в области оркестровки поиска, интеграции моделей и промптов, инфраструктуры обслуживания, экспериментирования, наблюдаемости, оценки и интеграции с продуктами. Вы будете балансировать между текущими задачами запуска продукта и долгосрочной надежностью, масштабируемостью, задержкой и поддерживаемостью платформы.

Ключевая обязанность этой роли — создание рычагов для поисковых продуктовых вертикалей. Вы будете руководить разработкой расширяемых платформ, которые позволят этим командам самостоятельно создавать, тестировать и запускать функции без постоянного участия основной команды инфраструктуры. Эти платформы должны включать надежные интерфейсы и автоматизированные механизмы контроля, которые обеспечивают быструю итерацию, защищая при этом надежность, масштабируемость, задержку и качество поиска ChatGPT.

Эта роль требует глубоких технических знаний всего стека поиска и способности понимать и влиять на системы, принадлежащие партнерским командам. Вы будете отвечать за разработку согласованного технического направления, охватывающего поведение моделей, инференс, оркестровку поиска, индексирование, ретривал, экспериментирование и инфраструктуру, даже когда реализация охватывает несколько организационных границ.

Вы будете руководить несколькими сложными рабочими процессами, наделять опытных инженеров ответственностью за ключевые технические области и сотрудничать с командами Product, Research, Post-Training, Search Quality, Inference, Indexing, Retrieval и Infrastructure для преобразования новых возможностей моделей и поиска в надежные решения, работающие в глобальном масштабе.

В этой роли вы будете:

• Определять и продвигать техническую стратегию, архитектуру и дорожную карту для ChatGPT Search Infrastructure, охватывающую оркестровку поиска, API, интеграцию моделей и промптов, обслуживание, экспериментирование, оценку, наблюдаемость и интеграцию с продуктами.
• Возглавлять и развивать команду опытных инженеров, создавать значимые возможности для владения задачами, способствовать формированию инклюзивной культуры высокого доверия с четкой ответственностью и высокими стандартами.
• Сотрудничать с Post-Training по запуску моделей, A/B-экспериментам, оценке поведения поиска и оптимизации промптов, преобразуя улучшения моделей в готовые к продакшен продуктовые решения.
• Создавать повторно используемые платформы, которые позволяют командам поисковых продуктовых вертикалей самостоятельно внедрять, тестировать и запускать функции, с автоматизированными механизмами контроля, защищающими надежность, масштабируемость, качество и задержку.
• Сотрудничать с командами Inference, Indexing и Retrieval для развития сквозной архитектуры поиска, адаптации оптимизаций обслуживания и улучшения продуктовых результатов по всему стеку.
• Определять и поддерживать цели обслуживания с доступностью не менее 99,9%, задержкой менее секунды, где это требуется пользовательским опытом, и масштабируемостью, необходимой для поддержки непрерывного роста ChatGPT.
• Устанавливать надежные инженерные практики в области проектирования систем, тестируемости, наблюдаемости, экспериментирования, планирования мощностей, безопасности развертывания, операционной готовности и предотвращения инцидентов.
• Самостоятельно управлять несколькими сложными рабочими процессами, устранять технические и организационные препятствия, выстраивать взаимодействие между продуктовыми, исследовательскими и инфраструктурными командами в неопределенных и быстро меняющихся условиях.

Вам может понравиться эта роль, если вы:

• Имеете опыт управления старшими инженерами и руководства командами, ответственными за сложную, крупномасштабную инфраструктуру, онлайн-обслуживание или распределенные системы.
• Обладаете значительной технической глубиной в области бэкенд-инфраструктуры, платформенной инженерии, API, низкозадержечного обслуживания, платформ для экспериментов или разработки продуктов на основе ИИ.
• Понимаете, как модели, промпты, системы инференса, оркестровка поиска, индексирование, ретривал и инфраструктура работают вместе для обеспечения сквозного пользовательского опыта.
• Сотрудничали с исследовательскими командами или командами Post-Training для запуска моделей, проведения контролируемых экспериментов, оценки поведения моделей или оптимизации промптов в продакшене.
• Создавали общие платформы, которые позволяют другим инженерным командам самостоятельно разрабатывать и запускать функции в рамках четко определенных механизмов контроля надежности, масштабируемости, качества и производительности.
• Формировали архитектуру систем с высокими требованиями к доступности, задержке и масштабу, с учетом тестируемости, наблюдаемости, безопасного развертывания и операционного совершенства с самого начала.
• Уверенно ориентируетесь между технической глубиной, продуктовой стратегией, организационным лидерством и управлением персоналом, принимая взвешенные решения в неопределенных условиях.
• Строите прочные кросс-функциональные партнерские отношения, наделяете опытных инженеров лидерскими функциями и глубоко заботитесь о развитии людей и создании инклюзивной, устойчивой командной культуры.

О OpenAI

OpenAI — это компания, занимающаяся исследованиями и внедрением ИИ, призванная обеспечить, чтобы универсальный искусственный интеллект приносил пользу всему человечеству. Мы раздвигаем границы возможностей систем ИИ и стремимся безопасно внедрять их в мир через наши продукты. ИИ — это чрезвычайно мощный инструмент, который должен создаваться с учетом безопасности и потребностей человека в его основе, и для достижения нашей миссии мы должны охватывать и ценить множество различных точек зрения, голосов и опыта, которые составляют полный спектр человечества.

В OpenAI мы верим, что искусственный интеллект имеет потенциал помочь людям решить огромные глобальные проблемы, и мы хотим, чтобы преимущества ИИ были широко распространены. Присоединяйтесь к нам в формировании будущего технологий.