Staff+ Research Scientist, Multi-Agent

Миссия Anthropic — создавать надежные, интерпретируемые и управляемые системы ИИ. Мы хотим, чтобы ИИ был безопасным и полезным для наших пользователей и для общества в целом. Наша команда — это быстрорастущая группа преданных своему делу исследователей, инженеров, экспертов по политике и бизнес-лидеров, работающих вместе над созданием полезных систем ИИ. Мультиагентные системы становятся все более важной частью того, как развертывается ИИ, будь то быстрые суб-агенты с малыми моделями внутри продукта или большие группы агентов, решающих очень крупные задачи. Обучение Claude максимальной эффективности и безопасности в больших группах — это сложная новая область обучения с подкреплением, представляющая собой новую ось для масштабирования вычислительных ресурсов во время тестирования. Мы ищем исследователей, имеющих опыт обучения мультиагентных систем в самом большом масштабе и понимающих принципы стимулирования и проектирования механизмов, которые в них используются. Мы призываем вас подать заявку, даже если вы не соответствуете всем требованиям. Не все сильные кандидаты соответствуют всем перечисленным требованиям. Исследования показывают, что люди, идентифицирующие себя как принадлежащие к недопредставленным группам, более склонны испытывать синдром самозванца и сомневаться в своей кандидатуре, поэтому мы настоятельно призываем вас не исключать себя преждевременно и подавать заявку, если вас интересует эта работа. Мы считаем, что системы ИИ, подобные тем, которые мы строим, имеют огромные социальные и этические последствия. Мы считаем, что это делает представительство еще более важным, и мы стремимся к разнообразию мнений в нашей команде. Мы считаем, что наиболее значимые исследования в области ИИ будут относиться к «большой науке». В Anthropic мы работаем как единая сплоченная команда над несколькими крупномасштабными исследовательскими проектами. И мы ценим результат — продвижение наших долгосрочных целей по созданию управляемого, надежного ИИ — а не работу над мелкими и узкоспециализированными задачами. Мы рассматриваем исследования в области ИИ как эмпирическую науку, имеющую столько же общего с физикой и биологией, сколько и с традиционными направлениями в компьютерных науках. Мы — чрезвычайно совместная группа, и мы проводим частые исследовательские дискуссии, чтобы гарантировать, что мы занимаемся наиболее важными задачами в любой момент времени. Таким образом, мы очень ценим коммуникативные навыки. Самый простой способ понять наши исследовательские направления — прочитать наши последние исследования. Эти исследования продолжают многие направления, над которыми наша команда работала до Anthropic, включая: GPT-3, интерпретируемость на основе схем (Circuit-Based Interpretability), мультимодальные нейроны (Multimodal Neurons), законы масштабирования (Scaling Laws), ИИ и вычисления (AI & Compute), конкретные проблемы в области безопасности ИИ (Concrete Problems in AI Safety) и обучение на основе человеческих предпочтений (Learning from Human Preferences). Присоединяйтесь к нам!

Помогать в создании и оптимизации сред и данных для обучения моделей, которые максимизируют производительность или простоту использования Claude в агентских задачах Инициировать, разрабатывать и сравнивать производительность различных конфигураций агентов (например, память, управление контекстом, архитектуры связи для агентов) Разрабатывать и внедрять строгие количественные бенчмарки для крупномасштабных агентских задач Работать с нашим продуктовым отделом над поиском решений для наших наиболее сложных задач по применению агентов в наших продуктах Разработка и создание сред обучения с подкреплением для обучения групп Claude эффективному совместному решению проблем Разработка и создание возможностей агентов, открывающих новые возможности и масштабы для агентов, учитывая «горький урок» (Bitter Lesson) Разработка и создание нового механизма оценки (eval), который измеряет, как большие группы агентов взаимодействуют в группах для решения проблем

Вы можете подойти, если вы: Имеете опыт крупномасштабного обучения с подкреплением на языковых моделях Имеете опыт обучения мультиагентных систем Любите глубоко разбираться в сути проблемы и понимать ее основы, а не поверхностные проявления. Обладаете хорошими коммуникативными навыками и заинтересованы в работе с другими исследователями над сложными задачами Увлечены обеспечением безопасности мощных технологий и их общественной пользы Воодушевлены работой в организации, ориентированной на миссию, где работа идет быстро и имеет большое значение Минимальное образование: степень бакалавра или эквивалентное сочетание образования, обучения и/или опыта Требуемая область обучения: область, релевантная роли, подтвержденная курсовой работой, обучением или профессиональным опытом Минимальный стаж работы: требуемый стаж работы будет коррелировать с требованиями к внутреннему уровню должности

Вознаграждение (годовой оклад): 500 000 – 850 000 долларов США в год

Годовой диапазон компенсации для этой должности указан ниже. Для позиций в продажах указанный диапазон представляет собой целевой диапазон заработка («OTE»), что означает, что диапазон включает как целевые комиссионные/бонусы по продажам, так и годовой базовый оклад для данной должности. Годовой оклад: 500 000 — 850 000 долларов США Логистика Гибридная политика на основе местоположения: в настоящее время мы ожидаем, что все сотрудники будут находиться в одном из наших офисов не менее 25% времени. Однако некоторые должности могут требовать большего времени, проведенного в наших офисах. Визовая поддержка: Мы предоставляем визовую поддержку! Однако мы не можем успешно оказывать визовую поддержку для каждой должности и каждого кандидата. Но если мы сделаем вам предложение, мы приложим все разумные усилия, чтобы получить для вас визу, и для этого мы привлекаем иммиграционного юриста. Anthropic — это корпорация, приносящая общественную пользу (public benefit corporation), со штаб-квартирой в Сан-Франциско. Мы предлагаем конкурентоспособную компенсацию и льготы, опциональное софинансирование акций (equity donation matching), щедрый отпуск и отпуск по уходу за ребенком, гибкий график работы и прекрасное офисное пространство для совместной работы с коллегами. Руководство по использованию ИИ кандидатами: Узнайте о нашей политике использования ИИ в процессе подачи заявки.