Principal Research Scientist - AI Safety

Должность: Ведущий научный сотрудник – Безопасность ИИ Местоположение: Лондон / Гибридный формат

ПОЧЕМУ FACULTY?

Мы основали Faculty в 2014 году, потому что считали, что ИИ станет самой важной технологией нашего времени. С тех пор мы работали с более чем 350 клиентами по всему миру, трансформируя их показатели с помощью человеко-ориентированного ИИ. О наших реальных достижениях можно прочитать здесь.

Мы не гонимся за модными трендами. Мы разрабатываем, создаем и внедряем ответственный ИИ, который реально меняет ситуацию, и мы знаем, как делать это хорошо. Мы предлагаем непревзойденную глубину технических знаний, продуктовых и исполнительских навыков нашим клиентам из сферы правительства, финансов, розничной торговли, энергетики, наук о жизни и обороны.

Наш бизнес и репутация быстро растут, и мы всегда находимся в поиске людей, разделяющих наше интеллектуальное любопытство и желание оставить положительный след в мире с помощью технологий.

ИИ — это технология, определяющая эпоху. Присоединяйтесь к компании, где вы сможете представить его наиболее мощные приложения и воплотить их в жизнь.

О команде

Faculty проводит критически важные «красные команды» (red teaming) и разрабатывает оценки возможностей злоупотребления в чувствительных областях, таких как химическое, биологическое, радиологическое и ядерное оружие (ХБРЯ), кибербезопасность и международная безопасность, для нескольких ведущих разработчиков передовых моделей и национальных институтов безопасности; примечательно, что наша работа была упомянута в системной карте OpenAI для o1.

Наши обязательства также распространяются на проведение фундаментальных технических исследований по стратегиям смягчения последствий, результаты которых публикуются на рецензируемых конференциях и предоставляются институтам национальной безопасности. В дополнение к этому мы разрабатываем оценки для разработчиков моделей в более широких областях, связанных с безопасностью, включая социальные последствия все более мощных передовых моделей, демонстрируя нашу экспертизу в области безопасности.

О роли

Ведущий научный сотрудник по безопасности ИИ будет движущей силой небольшой, высокоэффективной исследовательской команды Faculty, формируя будущее безопасных систем ИИ. Вы будете руководить научной исследовательской повесткой дня в области безопасности ИИ, уделяя особое внимание большим языковым моделям и другим критически важным системам. Эта роль предполагает руководство исследователями, продвижение внешних публикаций и обеспечение соответствия коммерческим амбициям Faculty по созданию надежного ИИ, предоставляя вам возможность внести значительный вклад в стремительно развивающуюся и критически важную область.

Что вы будете делать:

• Руководить амбициозной исследовательской программой команды по безопасности ИИ, устанавливая приоритеты в соответствии с долгосрочными целями компании.

• Проводить и контролировать передовые исследования в области безопасности ИИ, в частности, для больших языковых моделей и критически важных систем ИИ.

• Публиковать результаты исследований с высоким влиянием на ведущих академических конференциях и в журналах.

• Формировать исследовательскую программу, определяя наиболее эффективные возможности и балансируя между научными и практическими приоритетами.

• Помогать в построении и наставничестве растущей команды исследователей, способствуя развитию инновационной и совместной культуры.

• Сотрудничать в проведении оценок и проектов «красной команды» в высокорисковых областях, таких как ХБРЯ и кибербезопасность.

• Позиционировать Faculty как лидера мнений в области безопасности ИИ посредством исследований и взаимодействия со стратегическими заинтересованными сторонами.

Кого мы ищем:

• У вас есть подтвержденный опыт проведения значимых исследований в области ИИ, подтвержденный публикациями в ведущих академических изданиях или эквивалентным опытом.

• У вас есть глубокие знания в области языковых моделей и развивающейся области безопасности ИИ.

• Вы обладаете сильным исследовательским чутьем и обширным опытом в области безопасности ИИ, включая разработку и реализацию новых направлений исследований.

• У вас есть способность проводить и контролировать сложные технические исследовательские проекты, а также продвинутые навыки программирования (Python, стандартный набор инструментов для науки о данных) для проверки работы команды.

• Вы обладаете отличными навыками устной и письменной коммуникации, способными доносить сложные идеи до разной аудитории.

• У вас есть глубокое понимание ландшафта исследований в области безопасности ИИ и способность налаживать связи для обеспечения ресурсами значимой работы.

Наш процесс собеседования

1. Скрининг с командой по подбору персонала (30 минут)

2. Собеседование по опыту и теории (45 минут)

3. Презентация исследования и собеседование по кодированию (75 минут)

4. Собеседование по лидерству и принципам (60 минут)

5. Финальный этап с нашим генеральным директором (45 минут)

НАШ ПОДХОД К ПОДБОРУ ПЕРСОНАЛА

Мы стремимся собрать лучшую команду – а не самую похожую. Мы знаем, что разнообразие людей способствует разнообразию мыслей, что укрепляет наш принцип поиска истины. И мы знаем по опыту, что разнообразные команды выполняют лучшую работу, релевантную миру, в котором мы живем. Нас объединяет глубокое интеллектуальное любопытство и стремление использовать наши способности для достижения измеримого положительного влияния. Мы настоятельно призываем подавать заявки людей всех национальностей, этнических групп, полов, религий и сексуальных ориентаций.

Если вы чувствуете, что не соответствуете всем требованиям, но вас увлекает эта роль и вы знаете, что обладаете некоторыми ключевыми сильными сторонами, пожалуйста, не стесняйтесь подавать заявку, так как вы можете подойти для этой роли или других ролей. Мы открыты к обсуждению гибкого графика работы.

Примечание об ИИ: мы будем рады, если вы будете использовать его для исследований и подготовки к собеседованию, но, пожалуйста, не используйте его для генерации ответов во время живых собеседований. Мы также используем ИИ-записыватель (Metaview) во время собеседований, чтобы интервьюеры могли оставаться сосредоточенными (вы можете отказаться, просто дайте нам знать), и каждая заявка рассматривается человеком, а не принимается решением ИИ.