Engineering Manager, Guardian

Команда Guardian разрабатывает практические системы безопасности и надзора для все более способных ИИ-агентов. Наша цель — дать возможность агентам выполнять более длительные задачи с более высокой степенью автономии, сохраняя при этом значимые гарантии безопасности, уважая намерения пользователя и вмешиваясь, когда действия могут привести к серьезному или труднообратимому вреду.

Автоматический обзор — это ранний пример этой работы. Когда агент достигает границы разрешений, отдельная модель оценивает предлагаемое действие в контексте и определяет, следует ли его выполнять. В настоящее время команда расширяет эту основу, создавая более совершенные системы надзора, которые учитывают более богатый контекст пользователя, поддерживают более широкий спектр пользовательского опыта и интегрируются в продукты OpenAI.

Guardian находится на стыке инженерии, исследований в области согласования (alignment research), продуктовой разработки, инфраструктуры и безопасности. Команда уже имеет прочную инженерную базу в Лондоне и продолжит расти там как сконцентрированная, высоко collaborative группа.

О роли

Мы ищем менеджера по инженерии (Engineering Manager) для руководства и развития команды Guardian в Лондоне. Вы будете отвечать за инженерную стратегию и реализацию производственных систем, которые оценивают поведение агентов, выявляют риски и принимают соответствующие меры, не создавая ненужных препятствий для пользователей.

Это роль builder-manager с существенной технической глубиной. Вы будете определять направление, развивать инженеров и создавать операционный ритм для высокоэффективной команды, оставаясь при этом достаточно близко к работе, чтобы формировать архитектуру, рецензировать проекты, отлаживать сложные проблемы и писать код, когда это наиболее эффективный способ помочь команде двигаться вперед.

Роль очень заметна и кросс-функциональна. Вы будете тесно сотрудничать с исследователями в области согласования (alignment researchers), чтобы преобразовывать новые исследования в надежные системы, и с продуктовыми командами, чтобы сделать безопасность агентов фундаментальной возможностью во всех продуктах OpenAI.

Эта роль основана в нашем лондонском офисе.

OpenAI — это компания, занимающаяся исследованиями и развертыванием ИИ, призванная обеспечить, чтобы общий искусственный интеллект принес пользу всему человечеству. Мы расширяем границы возможностей систем ИИ и стремимся безопасно развертывать их в мире посредством наших продуктов. ИИ — чрезвычайно мощный инструмент, который должен создаваться с учетом безопасности и потребностей человека в его основе, и для достижения нашей миссии мы должны охватывать и ценить множество различных точек зрения, голосов и опыта, которые составляют полный спектр человечества.

В OpenAI мы верим, что искусственный интеллект имеет потенциал помочь людям решить огромные глобальные проблемы, и мы хотим, чтобы преимущества ИИ были широко распространены. Присоединяйтесь к нам в формировании будущего технологий.

• Руководить, нанимать и развивать команду инженеров в Лондоне, работающих над безопасностью агентов, бэкенд-системами, прикладным ИИ и инфраструктурой продукта
• Определять техническую дорожную карту для Auto-review и более широкой платформы Guardian, балансируя безопасность, полезность продукта, задержку (latency) и операционную надежность
• Создавать производственные системы, которые оценивают действия агентов в режиме реального времени, обнаруживают потенциально вредоносное поведение и поддерживают безопасные пути восстановления или эскалации
• Улучшать способы понимания системами надзора намерений пользователя, контекста окружения, разрешений и соответствующих сигналов персонализации, одновременно защищая конфиденциальность и избегая ненужных препятствий
• Тесно сотрудничать с исследователями в области согласования (alignment researchers), чтобы превращать прототипы, оценки и новые методы мониторинга в масштабируемые продуктовые возможности
• Взаимодействовать с командами Product, Security, Infrastructure и другими инженерными командами для интеграции возможностей Guardian в опыт агентов по всему OpenAI
• Устанавливать строгие практики оценки и эксплуатации, включая состязательное тестирование (adversarial testing), анализ сбоев, мониторинг и метрики производительности безопасности, ложных срабатываний, задержки и влияния на пользователя

• Имеете значительный опыт руководства инженерными командами, которые полностью реализовали сложные, критически важные производственные системы
• Работали с AI-агентами или большими языковыми моделями в основном продукте, стартапе или в рамках технически серьезного независимого проекта, и понимаете уникальные проблемы систем агентов
• Обладаете сильным продуктово-инженерным чутьем и можете находить компромиссы между безопасностью, удобством использования, скоростью и надежностью
• Можете эффективно сотрудничать с исследовательскими командами, преобразовывать открытые результаты в инженерные планы и четко общаться между различными техническими дисциплинами
• Имеете продуманную систему управления для найма, коучинга, оценки производительности и выполнения задач
• Глубоко заботитесь о создании систем ИИ, которые полезны, заслуживают доверия и безопасны