Должность: Научный сотрудник/инженер (Агентные системы)
Компания: White Circle
Местоположение: Париж / Лондон / Гибридный / Удаленный
КРАТКО: Мы ищем научного сотрудника для создания автономных крупномасштабных сред, которые доводят LLM-агентов (одиночных и многоагентных) до отказа и изучают, как они на самом деле ломаются.
О нас
White Circle — это компания, занимающаяся безопасностью ИИ, которая создает уровень безопасности, надежности и оптимизации для систем ИИ. В основе нашей платформы лежат политики — простые правила на естественном языке, определяющие, что модель ИИ должна и не должна делать. Мы автоматически тестируем, применяем и постоянно улучшаем эти политики в масштабе.
- Недавно мы завершили раунд финансирования Серии А, общий объем финансирования составил 70 миллионов долларов. Среди наших инвесторов — ведущие фонды, основатели и старшие руководители OpenAI, Anthropic, HuggingFace, Mistral, DeepMind, Datadog, Sentry и другие.
- Мы обрабатываем более 100 миллионов вызовов API каждый месяц.
- Мы дообучаем и тренируем наши собственные LLM, чтобы они работали быстрее и дешевле, чем любая открытая или проприетарная модель.
Мы — небольшая, высоко сфокусированная команда. Если вы хотите глубоко работать над сложными задачами, быстро внедрять свои наработки в производство и влиять на то, как на самом деле строится безопасность ИИ — вы тот, кто нам нужен.
О команде
Команда фундаментальных исследований White Circle занимается наукой о том, как системы ИИ терпят неудачу: где агенты ломаются, почему возникает несогласованность и небезопасное поведение, и как их выявить до того, как они попадут в реальный мир. Мы создаем оценки, бенчмарки, среды и инструментарий, которые эмпирически изучают наиболее актуальные проблемы безопасности ИИ — некоторые из которых становятся защитными механизмами, используемыми в наших продуктах, а некоторые — публичными статьями.
Что вы будете делать
- Создавать враждебные среды для агентов: сложные, неопределенные настройки, находящиеся на границе возможностей и согласованности агента, где отказ является информативным, а не тривиальным.
- Создавать реалистичные многоагентные среды и оснащать их инструментами, чтобы можно было наблюдать возникающие сбои — отказы, возникающие сами по себе от агентов, а не скриптованные извне.
- Проводить эксперименты от начала до конца, против внешних API и наших собственных моделей, оркестрируя множество агентов параллельно.
- Каталогизировать конкретные режимы отказа агентов и создавать инструменты для их выявления в масштабе.
- Превращать результаты в внутренние модели поведения агентов и в публичные статьи.
Вы отлично впишетесь, если вы
- Создали как минимум одну нетривиальную среду для агентов или автоматизированный исследовательский конвейер, который работал от начала до конца (одиночный или многоагентный), и можете рассказать, что сломалось и почему.
- Обладаете сильными навыками программирования и инженерии ИИ. Можете самостоятельно оркестрировать множество агентов и контейнеров параллельно, не испытывая проблем с оркестрацией.
- Имеете опыт эмпирических исследований в области агентов, red-teaming или пост-тренировки, где вы определяли вопрос, проводили его и делали обоснованный вывод.
- Являетесь быстрым эмпирическим итератором, который комфортно определяет вопрос, когда нет готового решения: можете взять расплывчатую проблему («сговариваются ли эти агенты под давлением?») и превратить ее в конкретный, опровергаемый эксперимент.
- Являетесь опытным пользователем ИИ — свободно владеете передовыми моделями и пишете код для агентов в повседневной работе.
Большой плюс
- Опубликованные исследования в авторитетных изданиях по автоматизированному red-teaming, агентным средам или пост-тренировке.
- Опыт создания мониторинга отказов моделей и аномального поведения.
- Опыт воспроизведения результатов публичных бенчмарков и поиска слабых или вводящих в заблуждение мест в исходной методологии.
- Степень магистра или доктора наук в области машинного обучения, компьютерных наук, когнитивных наук, вычислительной нейронауки, физики или смежной количественной области.
- Стипендия по безопасности ИИ (MATS, ASTRA, Anthropic Fellows и т. д.) или сопоставимый самостоятельный исследовательский опыт.
Компенсация и льготы
- Конкурентоспособная компенсация, включая опционы.
- Гибкий график отпусков.
- Офис в центре Лондона/Парижа с гибким гибридным графиком.
- Поддержка при переезде в Париж, доступна после испытательного срока.
- Премиальная частная медицинская страховка.
- Поддержка психического здоровья, включая покрытие терапии при необходимости.
- Обед и ужин оплачиваются при работе в офисе.
- Поддержка обучения и развития для курсов, конференций и возможностей для повышения квалификации.
- Все необходимое оборудование, подписки, инструменты и услуги.
Процесс
- Вступительный звонок с отделом кадров.
- Тестовое задание.
- Техническое интервью с руководителем отдела фундаментальных исследований.
- Финальное интервью с генеральным директором.
