Название: Менеджер по продукту (исследовательский), поведение моделей Местоположение: Сан-Франциско, Калифорния | Нью-Йорк, Нью-Йорк Отдел: Управление продуктом, поддержка и эксплуатация

О компании Anthropic

Миссия Anthropic — создавать надежные, интерпретируемые и управляемые системы искусственного интеллекта. Мы хотим, чтобы ИИ был безопасным и полезным для наших пользователей и для общества в целом. Наша команда — это быстрорастущая группа преданных своему делу исследователей, инженеров, экспертов в области политики и бизнес-лидеров, работающих вместе над созданием полезных систем ИИ.

О вакансии:

Как менеджер по продукту в области поведения моделей, вы будете сотрудничать с командой по тонкой настройке согласованности (Alignment Finetuning), чтобы определять и формировать характер, поведение и сигналы подкрепления Клода — работу, которая напрямую влияет на то, как миллионы людей взаимодействуют с ИИ. Вы будете систематически выявлять улучшения поведения с высоким приоритетом, координировать действия между командами исследований, продукта и безопасности (Safeguards), и ускорять нашу способность выпускать хорошо согласованные модели. Идеальный кандидат сочетает в себе глубокое понимание пользователя с рассудительностью для решения сложных вопросов поведения, на которые нет однозначно правильных ответов.

Обязанности:

• Определение поведенческих стандартов по умолчанию и ограничений управляемости
• Разработка и поддержание таксономии поведения модели в различных областях возможностей
• Выявление, анализ и расстановка приоритетов проблем и возможностей в поведении, координация вклада от пользователей, команд исследований, продукта и безопасности (Safeguards)
• Внедрение прорывов в исследованиях согласованности (alignment), перевод их в улучшения продукта, процессов и модели
• Глубокое понимание шаблонов взаимодействия с пользователем для выявления улучшений поведения, которые делают Клода более полезным и безопасным
• Участие в разработке оценочных тестов (evals), измеряющих прогресс в согласованности
• Выявление и масштабирование инициатив и инструментов, которые помогают исследователям быстрее внедрять улучшения согласованности

Вы можете нам подойти, если вы:

• Горячо увлечены ИИ и большими языковыми моделями (LLM) и испытываете к ним любопытство. Регулярно используете ИИ.
• Имеете 5+ лет опыта в управлении продуктом, руководя масштабируемыми продуктами в области разговорного ИИ.
• Являетесь мыслителем, опирающимся на принципы (first-principles), с умением ориентироваться и действовать в условиях неопределенности, гибко переключаясь на разные области в зависимости от бизнес-задачи и находя простые, легко понимаемые решения
• Имеете подтвержденный опыт поставки продуктов и функций конечным пользователям (фокус на потребительском рынке или b2b для конечных пользователей)
• Обладаете сильным пониманием пользователя (user empathy) и способностью синтезировать расплывчатую или противоречивую обратную связь в действенные приоритеты
• Обладаете здравым рассудком и хорошим вкусом в отношении моделей (model taste), способностью принимать компромиссные решения, когда нет однозначно правильного ответа
• Хорошо разбираетесь в концепциях машинного обучения (ML) и готовы глубоко погружаться в технические решения
• Обладаете интеллектуальным любопытством без эго — вам комфортно задавать вопросы и учиться самостоятельно
• Творчески подходите к оценке рисков и преимуществ новых технологий, выходя за рамки прошлых чек-листов и шаблонов
• Обладаете творческим, хакерским духом и любите решать головоломки

Годовой диапазон компенсации для этой роли указан ниже.

Для торговых ролей указанный диапазон представляет собой диапазон целевого дохода ("OTE") для данной роли, то есть включает как цель по комиссионным/бонусам от продаж, так и годовую базовую зарплату.

Годовая зарплата:

$305 000—$385 000 USD

Логистика

Минимальное образование: Степень бакалавра или эквивалентное сочетание образования, подготовки и/или опыта

Требуемая область обучения: Область, соответствующая роли, что подтверждается учебными курсами, подготовкой или профессиональным опытом

Минимальный опыт работы: Требуемый опыт работы будет коррелировать с внутренними требованиями к уровню должности

Гибридная политика, основанная на местоположении: В настоящее время мы ожидаем, что весь персонал будет находиться в одном из наших офисов не менее 25% рабочего времени. Однако для некоторых ролей может потребоваться больше времени в наших офисах.

Спонсорство визы: Мы спонсируем визы! Однако мы не можем успешно спонсировать визы для каждой роли и каждого кандидата. Но если мы сделаем вам предложение, мы приложим все разумные усилия, чтобы получить для вас визу, и для этого мы пользуемся услугами иммиграционного юриста.

Мы призываем вас подать заявку, даже если вы считаете, что не соответствуете каждому отдельному требованию. Не все сильные кандидаты будут соответствовать каждому перечисленному требованию. Исследования показывают, что люди, относящие себя к недостаточно представленным группам, чаще подвержены синдрому самозванца и сомневаются в силе своей кандидатуры, поэтому мы настоятельно просим вас не исключать себя преждевременно и подать заявку, если эта работа вам интересна. Мы считаем, что такие системы ИИ, как те, которые мы создаем, имеют огромные социальные и этические последствия. Мы считаем, что это делает репрезентативность еще более важной, и мы стремимся включить в нашу команду разнообразные точки зрения.

Ваша безопасность важна для нас. Чтобы защитить себя от возможных мошенничеств, помните, что рекрутеры Anthropic связываются с вами только с адресов электронной почты @anthropic.com. В некоторых случаях мы можем сотрудничать с проверенными кадровыми агентствами, которые будут представляться как работающие от имени Anthropic. Будьте осторожны с письмами с других доменов. Законные рекрутеры Anthropic никогда не будут просить деньги, комиссионные или банковскую информацию до вашего первого рабочего дня. Если вы когда-либо не уверены в сообщении, не переходите по ссылкам — зайдите напрямую на anthropic.com/careers, чтобы увидеть подтвержденные открытые вакансии.

Чем мы отличаемся

Мы считаем, что самые значимые исследования в области ИИ будут представлять собой большую науку (big science). В Anthropic мы работаем как единая сплоченная команда над несколькими крупными исследовательскими проектами. И мы ценим влияние — продвижение к нашим долгосрочным целям создания управляемого, надежного ИИ — а не работу над более мелкими и узкоспециализированными задачами. Мы рассматриваем исследования ИИ как эмпирическую науку, которая имеет столько же общего с физикой и биологией, сколько и с традиционными усилиями в области информатики. Мы чрезвычайно склонны к сотрудничеству, и мы часто проводим исследовательские дискуссии, чтобы убедиться, что мы в любой момент времени занимаемся самой важной работой. Поэтому мы очень ценим коммуникативные навыки.

Самый простой способ понять наши исследовательские направления — прочитать наши недавние исследования. Эти исследования продолжают многие направления, над которыми наша команда работала до Anthropic, включая: GPT-3, интерпретируемость на основе цепей (Circuit-Based Interpretability), мультимодальные нейроны, законы масштабирования (Scaling Laws), ИИ и вычислительные мощности (Compute), конкретные проблемы безопасности ИИ (Concrete Problems in AI Safety) и обучение на основе человеческих предпочтений (Learning from Human Preferences).

Присоединяйтесь к нам!

Anthropic — это корпорация, работающая в интересах общества (public benefit corporation), со штаб-квартирой в Сан-Франциско. Мы предлагаем конкурентоспособную компенсацию и льготы, возможность участия в программе соответствия благотворительных взносов акциями (optional equity donation matching), щедрый отпуск и отпуск по уходу за ребенком, гибкий график работы и прекрасное офисное пространство для сотрудничества с коллегами. Рекомендации по использованию ИИ кандидатами: Узнайте о нашей политике использования ИИ в процессе подачи заявок