Название: Инженер-исследователь, Кибербезопасность RL (обучение с подкреплением) Компания: Anthropic Местоположение: Цюрих, CH

О компании Anthropic

Миссия Anthropic — создавать надежные, интерпретируемые и управляемые системы ИИ. Мы хотим, чтобы ИИ был безопасным и полезным для наших пользователей и общества в целом. Наша команда — это быстро растущая группа преданных своему делу исследователей, инженеров, экспертов по политике и бизнес-лидеров, работающих вместе над созданием полезных систем ИИ.

О команде

Команда безопасности защищает системы ИИ Anthropic и поддерживает доверие наших пользователей и общества.

О роли

В Anthropic мы осваиваем новые рубежи в области ИИ, которые могут принести огромную пользу обществу. Однако разработка передовых ИИ также сопряжена с рисками, если они не защищены должным образом. В качестве инженера-исследователя вы будете помогать безопасно расширять возможности наших моделей в области реагирования на инциденты, анализа безопасности, устранения уязвимостей и других областях оборонительной кибербезопасности.

Эта роль сочетает в себе исследования и инжиниринг, требуя от вас как разработки новых подходов, так и их реализации в коде. Ваша работа будет включать в себя проектирование и реализацию сред RL, проведение экспериментов и оценок, внедрение вашей работы в производственные циклы обучения и сотрудничество с другими исследователями, инженерами и специалистами по кибербезопасности внутри и за пределами Anthropic.

Эта роль требует опыта в области ML в сочетании с предметными знаниями в области кибербезопасности. Вы можете быть исследователем ML с опытом работы в кибербезопасности или специалистом по безопасности с опытом работы в ML.

Обязанности

• Сотрудничать с исследователями и группами по безопасности в Anthropic для понимания их аналитических потребностей и создания решений.
• Разрабатывать агентные интеграции, позволяющие системам ИИ автономно исследовать аналитические выводы и действовать на их основе.
• Вносить вклад в стратегическое направление команды, включая решения о том, что создавать, с кем сотрудничать и куда инвестировать.
• Эта роль может потребовать участия в ротации дежурств.

Вы можете нам подойти, если вы

• Имеете опыт работы с машинным обучением.
• Имеете опыт исследований в области кибербезопасности.
• Обладаете сильными навыками разработки программного обеспечения.
• Можете сбалансировать исследовательскую работу с инженерной реализацией.
• Увлечены потенциалом ИИ и стремитесь к разработке безопасных и полезных систем.

Сильные кандидаты также могут иметь

• Профессиональный опыт в области инжиниринга безопасности, фаззинга, обнаружения и реагирования или другой прикладной оборонительной работы.
• Опыт участия в соревнованиях CTF и киберполигонах или их создания.
• Опыт академических исследований в области кибербезопасности или другой экспериментальный и исследовательский опыт.
• Знакомство с методами и средами RL.
• Знакомство с методологиями обучения LLM.

Логистика

• Минимальное образование: степень бакалавра или эквивалентное сочетание образования, обучения и/или опыта.
• Требуемая область обучения: область, соответствующая роли, подтвержденная курсовой работой, обучением или профессиональным опытом.
• Минимальное количество лет опыта: количество лет опыта, требуемое для позиции, будет коррелировать с требованиями к внутреннему уровню должности.
• Гибридная политика на основе местоположения: в настоящее время мы ожидаем, что все сотрудники будут находиться в одном из наших офисов не менее 25% времени. Однако некоторые должности могут требовать больше времени в наших офисах.
• Визовая поддержка: мы предоставляем визовую поддержку! Однако мы не можем успешно оказывать визовую поддержку для каждой должности и каждого кандидата. Но если мы сделаем вам предложение, мы приложим все разумные усилия, чтобы получить для вас визу, и мы привлекаем иммиграционного адвоката для помощи в этом.

Мы призываем вас подавать заявку, даже если вы не соответствуете всем указанным квалификациям. Не все сильные кандидаты соответствуют всем перечисленным квалификациям. Исследования показывают, что люди, идентифицирующие себя как принадлежащие к недопредставленным группам, более склонны испытывать синдром самозванца и сомневаться в своей кандидатуре, поэтому мы настоятельно призываем вас не исключать себя преждевременно и подавать заявку, если вы заинтересованы в этой работе. Мы считаем, что системы ИИ, подобные тем, которые мы строим, имеют огромные социальные и этические последствия. Мы считаем, что это делает представительство еще более важным, и мы стремимся включать в нашу команду разнообразные точки зрения.

Ваша безопасность имеет для нас значение. Чтобы защитить себя от возможных мошенничеств, помните, что рекрутеры Anthropic связываются с вами только по адресам электронной почты @anthropic.com. В некоторых случаях мы можем сотрудничать с проверенными рекрутинговыми агентствами, которые будут представляться как работающие от имени Anthropic. Будьте осторожны с письмами с других доменов. Легитимные рекрутеры Anthropic никогда не будут запрашивать деньги, сборы или банковскую информацию до вашего первого дня. Если вы когда-либо сомневаетесь в сообщении, не переходите по ссылкам — перейдите непосредственно на страницу подтвержденных вакансий.

Чем мы отличаемся

Мы считаем, что наиболее значимые исследования в области ИИ будут крупномасштабными. В Anthropic мы работаем как единая сплоченная команда над несколькими крупномасштабными исследовательскими проектами. И мы ценим влияние — достижение наших долгосрочных целей по созданию управляемого, надежного ИИ — а не работу над мелкими и более специфическими задачами. Мы рассматриваем исследования в области ИИ как эмпирическую науку, которая имеет столько же общего с физикой и биологией, сколько с традиционными направлениями в компьютерных науках. Мы очень совместная группа, и мы проводим частые исследовательские дискуссии, чтобы гарантировать, что мы проводим наиболее значимую работу в любое данное время. Поэтому мы высоко ценим коммуникативные навыки.

Самый простой способ понять наши исследовательские направления — это ознакомиться с нашими последними исследованиями. Эти исследования продолжают многие из направлений, над которыми наша команда работала до Anthropic, включая: GPT-3, интерпретируемость на основе схем, мультимодальные нейроны, законы масштабирования, ИИ и вычисления, конкретные проблемы в области безопасности ИИ и обучение на основе человеческих предпочтений.

Присоединяйтесь к нам!

Anthropic — это общественная корпорация (public benefit corporation) со штаб-квартирой в Сан-Франциско. Мы предлагаем конкурентоспособную компенсацию и льготы, добровольное сопоставление пожертвований акциями, щедрый отпуск и отпуск по уходу за ребенком, гибкий график работы и прекрасное офисное пространство для сотрудничества с коллегами.

Руководство по использованию ИИ кандидатами: Узнайте о нашей политике использования ИИ в процессе подачи заявки.