Cyber Evaluations Engineer

Компенсация (годовая зарплата): 300 000 – 405 000 USD в год

О Anthropic

Миссия Anthropic — создавать надежные, интерпретируемые и управляемые системы ИИ. Мы хотим, чтобы ИИ был безопасным и полезным для наших пользователей и для общества в целом. Наша команда — это быстрорастущая группа преданных своему делу исследователей, инженеров, экспертов по политике и бизнес-лидеров, работающих вместе над созданием полезных систем ИИ.

О роли

Мы ищем инженеров по кибербезопасности для разработки и проведения оценок, которые измеряют кибербезопасные возможности и обеспечивают надежность наших моделей. Вы будете разрабатывать новые оценки, проводить тестирование надежности перед каждым выпуском и анализировать данные об обходах защиты (jailbreaks) и уязвимостях промптов, чтобы понять, где наши меры безопасности работают, а где нет. Вы также разработаете многие зонды, которые обнаруживают злоупотребления в киберпространстве в производственной среде, и будете участвовать в формировании общей архитектуры обнаружения вместе с командой по политике.

Ключевые обязанности

• Разрабатывать и проводить оценки возможностей, улучшения и безопасности для оценки рисков, связанных с кибербезопасностью, в новых моделях
• Выполнять тестирование надежности механизмов защиты перед каждым выпуском перед крупными запусками моделей
• Анализировать результаты оценки и четко сообщать о выводах команде и заинтересованным сторонам
• Разрабатывать, прототипировать и настраивать зонды обнаружения для злоупотреблений в киберпространстве
• Работать с командой по политике кибербезопасности над превращением политических положений в многоуровневую, надежную архитектуру обнаружения злоупотреблений и измерять ее точность и охват с течением времени
• Создавать и поддерживать внутренние инструменты, используемые для проведения и оценки результатов
• Сотрудничать с партнерами по политике и инженерии для преобразования результатов оценки в улучшения механизмов защиты

Минимальные требования

• Опыт разработки или проведения оценок, тестов или наборов тестов для программного обеспечения или ML-систем, включая предоставление результатов в сжатые, фиксированные сроки
• Практический опыт работы в области кибербезопасности (например, участие в CTF, исследование уязвимостей, разработка эксплойтов или исследования в области безопасности)
• Владение Python
• Отличная способность сообщать о результатах оценки различным кросс-функциональным заинтересованным сторонам или потенциальным заинтересованным сторонам по вопросам политики

Предпочтительные квалификации

• Глубокий опыт в области атакующей безопасности или исследований в области безопасности, включая опыт разработки бенчмарков безопасности ИИ
• Опыт анализа данных об атаках или злоупотреблениях (например, обходы защиты, уязвимости промптов, телеметрия вторжений или мошенничества)
• Опыт работы на месте с государственными партнерами по тестированию или оценке
• Опыт работы с фреймворками оценки ИИ/МО
• Знакомство с практиками скоординированного раскрытия уязвимостей
• Опыт тестирования предрелизного или предразвертываемого программного обеспечения или моделей в условиях конфиденциальности
• Опыт написания контента для обнаружения (например, Sigma, YARA, Suricata, правила SIEM) или создания систем обнаружения злоупотреблений на основе машинного обучения
• Действующее разрешение на работу секретного уровня или выше, или право на его получение

Годовой диапазон компенсации для этой роли указан ниже.

Для ролей, связанных с продажами, указанный диапазон представляет собой диапазон целевого дохода ("OTE") для данной роли, что означает, что диапазон включает как целевые комиссионные/бонусы по продажам, так и годовой базовый оклад для данной роли.

Годовая зарплата: $300 000 — $405 000 USD

Логистика

Минимальное образование: Степень бакалавра или эквивалентная комбинация образования, обучения и/или опыта

Требуемая область обучения: Область, соответствующая роли, подтвержденная курсовой работой, обучением или профессиональным опытом

Минимальный опыт работы: Необходимый опыт работы будет коррелировать с внутренними требованиями к уровню должности для данной позиции

Гибридная политика, основанная на местоположении: В настоящее время мы ожидаем, что все сотрудники будут находиться в одном из наших офисов не менее 25% времени. Однако некоторые роли могут требовать большего присутствия в наших офисах.

Визовая поддержка: Мы предоставляем визовую поддержку! Однако мы не можем успешно оказывать визовую поддержку для каждой роли и каждого кандидата. Но если мы сделаем вам предложение, мы приложим все разумные усилия, чтобы получить для вас визу, и для этого мы привлечем иммиграционного адвоката.

Мы призываем вас подать заявку, даже если вы считаете, что не соответствуете всем требованиям. Не все сильные кандидаты соответствуют всем перечисленным требованиям. Исследования показывают, что люди, идентифицирующие себя как принадлежащие к недопредставленным группам, более склонны испытывать синдром самозванца и сомневаться в своей кандидатуре, поэтому мы настоятельно призываем вас не исключать себя преждевременно и подавать заявку, если вы заинтересованы в этой работе. Мы считаем, что системы ИИ, подобные тем, которые мы создаем, имеют огромные социальные и этические последствия. Мы считаем, что это делает представительство еще более важным, и мы стремимся к разнообразию точек зрения в нашей команде.

Ваша безопасность важна для нас. Чтобы защитить себя от возможных мошенников, помните, что рекрутеры Anthropic связываются с вами только с адресов электронной почты @anthropic.com. В некоторых случаях мы можем сотрудничать с проверенными рекрутинговыми агентствами, которые представятся как работающие от имени Anthropic. Будьте осторожны с письмами с других доменов. Легитимные рекрутеры Anthropic никогда не будут просить деньги, оплату или банковскую информацию до вашего первого дня. Если вы когда-либо сомневаетесь в сообщении, не переходите по ссылкам — посетите сайт напрямую для подтверждения открытых вакансий.

Чем мы отличаемся

Мы считаем, что исследования ИИ с наивысшим потенциалом воздействия — это «большая наука». В Anthropic мы работаем как единая, сплоченная команда над несколькими крупномасштабными исследовательскими проектами. И мы ценим влияние — продвижение наших долгосрочных целей по созданию управляемого, надежного ИИ — а не работу над мелкими и более специфическими задачами. Мы рассматриваем исследования ИИ как эмпирическую науку, которая имеет столько же общего с физикой и биологией, сколько с традиционными областями информатики. Мы чрезвычайно коллаборативная группа, и мы проводим частые научные дискуссии, чтобы гарантировать, что мы занимаемся работой с наибольшим потенциалом воздействия в любой момент времени. Таким образом, мы высоко ценим коммуникативные навыки.

Самый простой способ понять наши исследовательские направления — это ознакомиться с нашими последними исследованиями. Эти исследования продолжают многие из направлений, над которыми работала наша команда до Anthropic, включая: GPT-3, Circuit-Based Interpretability, Multimodal Neurons, Scaling Laws, AI & Compute, Concrete Problems in AI Safety, и Learning from Human Preferences.

Присоединяйтесь к нам!

Anthropic — это корпорация, действующая в общественных интересах, со штаб-квартирой в Сан-Франциско. Мы предлагаем конкурентоспособную компенсацию и льготы, возможность пожертвования доли в компанию, щедрый отпуск и отпуск по уходу за ребенком, гибкий график работы и прекрасное офисное пространство для сотрудничества с коллегами. Руководство по использованию ИИ кандидатами: Узнайте о нашей политике использования ИИ в процессе подачи заявки.