Используем cookie для работы сайта и статистики. «Хорошо» разрешит ещё и запись сессий.
Anthropic
Сан-Франциско, Соединенные Штаты6 дней назад
405 000 – 485 000 USD
в год
Формат работы
Гибрид
Уровень английского
B2, выше среднего
Релокация
Соединенные Штаты
Письмо на почту или сообщение рекрутеру в Telegram
Миссия Anthropic — создавать надежные, интерпретируемые и управляемые системы ИИ. Мы хотим, чтобы ИИ был безопасным и полезным для наших пользователей и общества в целом. Наша команда — это быстрорастущая группа преданных своему делу исследователей, инженеров, экспертов по политике и бизнес-лидеров, работающих вместе над созданием полезных систем ИИ.
Миссия Anthropic — создавать надежные, интерпретируемые и управляемые системы ИИ. Мы хотим, чтобы ИИ был безопасным и полезным для наших пользователей и общества в целом. Наша команда — это растущая группа преданных своему делу исследователей, инженеров, экспертов по политике и бизнес-лидеров, работающих вместе над созданием полезных систем ИИ.
Миссия команды Agent Security — безопасно расширить возможности агентов для выполнения мировых задач, начиная с внутренних задач Anthropic.
Claude теперь пишет и развертывает код, проводит эксперименты и действует от имени людей в течение нескольких часов подряд. Насколько больше он сможет взять на себя, зависит от того, насколько безопасно он сможет работать. В худшем случае, если агент будет вести себя некорректно, Anthropic и общественность могут понести последствия. Наша задача — смягчить этот риск, и от этого зависит миссия Anthropic.
Команда Partnerships подбирает инженеров по безопасности для команд Anthropic, которые разрабатывают Claude, создают агентов и полагаются на агентов. Эти команды — наши партнеры. Когда команда хочет, чтобы ее агенты делали больше, мы моделируем угрозы для их планов и совместно разрабатываем средства контроля. Большая часть этого не имеет готовых решений, поэтому мы часто создаем новые средства контроля с нуля. Те, которые работают, становятся частью нашего инструментария, распространяются на другие команды, а в некоторых случаях внедряются в наши продукты.
Мы ищем менеджера по инжинирингу, который возглавит эту команду инженеров по безопасности. Это в первую очередь роль лидера команды. Эта роль находится на переднем крае. Каждое новое поколение моделей и каждая новая оболочка приносят новые вызовы. Количество команд, работающих над агентами, постоянно растет, и команды-партнеры не всегда будут согласны с вашими решениями. Взамен вы получите возможность непосредственно способствовать успешному развитию трансформационного ИИ, что является сердцем нашей миссии.
В прошлом команда:
Мы считаем, что системы ИИ, подобные тем, которые мы создаем, имеют огромные социальные и этические последствия. Мы считаем, что это делает представительство еще более важным, и мы стремимся включить в нашу команду разнообразные точки зрения.
Мы считаем, что наиболее влиятельные исследования в области ИИ будут относиться к "большой науке". В Anthropic мы работаем как единая сплоченная команда над несколькими масштабными исследовательскими проектами. И мы ценим влияние — продвижение наших долгосрочных целей по созданию управляемого, надежного ИИ — а не работу над мелкими и более узкими задачами. Мы рассматриваем исследования в области ИИ как эмпирическую науку, которая имеет столько же общего с физикой и биологией, сколько и с традиционными направлениями компьютерных наук. Мы чрезвычайно совместная группа, и мы проводим частые исследовательские дискуссии, чтобы гарантировать, что мы занимаемся наиболее влиятельной работой в любой данный момент времени. Как таковые, мы очень ценим коммуникативные навыки.
Самый простой способ понять наши исследовательские направления — прочитать наши последние исследования. Эти исследования продолжают многие направления, над которыми наша команда работала до Anthropic, включая: GPT-3, интерпретируемость на основе схем, мультимодальные нейроны, законы масштабирования, ИИ и вычисления, конкретные проблемы в безопасности ИИ и обучение на основе предпочтений человека.
Anthropic — это общественная корпорация, расположенная в Сан-Франциско.
Немногие занимались обеспечением безопасности агентов в масштабе, особенно в передовой лаборатории, поэтому мы не ожидаем, что вы уже делали это. Мы ожидаем, что вы руководили командами инженеров по безопасности, и нас больше всего волнует, как вы управляете людьми и рассуждаете о безопасности.
Отличные навыки управления людьми. Вы нанимали, развивали и управляли старшими инженерами и инженерами высшей категории, способствовали росту инженеров до уровня высшей категории или ведущих ролей и поддерживали работоспособность команды в условиях меняющихся приоритетов
Глубокий опыт управления безопасностью. Вы управляли командами инженеров по безопасности и отчитывались перед руководством о рисках и компромиссах
Отличные навыки письменного и устного общения. Вы объясняли сложные компромиссы руководству и инженерам простыми словами
Устойчивость, эмоциональный интеллект, низкое эго и высокая эмпатия
Опыт руководства крупными миграциями и сильно межфункциональной работой
Готовность вникать в детали для принятия решений в сложных компромиссах без очевидного ответа и способность отстаивать эти решения
Минимальное образование: Степень бакалавра или эквивалентная комбинация образования, обучения и/или опыта
Требуемая область обучения: Область, связанная с ролью, подтвержденная курсовой работой, обучением или профессиональным опытом
Минимальный стаж работы: Требуемый стаж работы будет соответствовать требованиям к внутреннему уровню должности
Годовой диапазон компенсаций для этой роли указан ниже. Для ролей, связанных с продажами, указанный диапазон — это целевой диапазон заработка ("OTE"), что означает, что диапазон включает как целевые комиссионные/бонусы по продажам, так и годовой базовый оклад для данной роли.
Годовой оклад: $405,000 — $485,000 USD
Мы предлагаем конкурентоспособную заработную плату и льготы, добровольное сопоставление пожертвований акциями, щедрый отпуск и отпуск по уходу за ребенком, гибкий график работы и прекрасное рабочее место для сотрудничества с коллегами.
Anthropic’s mission is to create reliable, interpretable, and steerable AI systems. We want AI to be safe and beneficial for our users and for society as a whole. Our team is a quickly growing group of committed researchers, engineers, policy experts, and business leaders working together to build beneficial AI systems.
Anthropic's mission is to create reliable, interpretable, and steerable AI systems. We want AI to be safe and beneficial for our users and for society as a whole. Our team is a growing group of committed researchers, engineers, policy experts, and business leaders working together to build beneficial AI systems.
Agent Security's mission is to safely increase how much of the world's work agents can do, starting inside Anthropic.
Claude now writes and ships code, runs experiments and acts on people's behalf, for hours at a time. How much more it can take on depends on how safely it can operate. If, in the worst case, an agent misbehaves, Anthropic and the public may bear the consequences. Our mandate is to mitigate this risk, and Anthropic’s mission depends on it.
The Partnerships team pairs security engineers with the teams at Anthropic that build Claude, build agents and rely on agents. Those teams are our partners. When a team wants its agents to do more, we threat model the plan with them and build the controls together. Most of this has no playbook, so we have often created new controls from first principles. The ones that work become part of our toolbox, spread to other teams, and in some cases ship in our products.
We're hiring an Engineering Manager to lead this team of security engineers. This is first and foremost a people leadership role. Few have secured agents at scale, especially at a frontier lab, so we don't expect you to have done it. We do expect you to have led security engineering teams, and we care most about how you lead people and reason about security.
This role operates at the frontier. Each model generation, and each new harness, brings new challenges. The number of teams building on agents keeps growing, and partner teams won't always agree with your calls. In return, you will have the chance to directly contribute to making transformative AI go well, which is the heart of our mission.
In the past, the team has:
The annual compensation range for this role is listed below. For sales roles, the range provided is the role’s On Target Earnings ("OTE") range, meaning that the range includes both the sales commissions/sales bonuses target and annual base salary for the role.
Annual Salary: $405,000 — $485,000 USD
For roles performing work in California: We will consider for employment all qualified applicants, including those with arrest or conviction records or criminal histories, in a manner consistent with the requirements of applicable state and local laws, including the San Francisco Fair Chance Ordinance, the City of Los Angeles’ Fair Chance Initiative for Hiring Ordinance, the Los Angeles County Fair Chance Ordinance for Employers, and the California Fair Chance Act.
We encourage you to apply even if you do not believe you meet every single qualification. Not all strong candidates will meet every single qualification as listed. Research shows that people who identify as being from underrepresented groups are more prone to experiencing imposter syndrome and doubting the strength of their candidacy, so we urge you not to exclude yourself prematurely and to submit an application if you're interested in this work. We think AI systems like the ones we're building have enormous social and ethical implications. We think this makes representation even more important, and we strive to include a range of diverse perspectives on our team.
Your safety matters to us. To protect yourself from potential scams, remember that Anthropic recruiters only contact you from @anthropic.com email addresses. In some cases, we may partner with vetted recruiting agencies who will identify themselves as working on behalf of Anthropic. Be cautious of emails from other domains. Legitimate Anthropic recruiters will never ask for money, fees, or banking information before your first day. If you're ever unsure about a communication, don't click any links—visit anthropic.com/careers directly for confirmed position openings.
We believe that the highest-impact AI research will be big science. At Anthropic we work as a single cohesive team on just a few large-scale research efforts. And we value impact — advancing our long-term goals of steerable, trustworthy AI — rather than work on smaller and more specific puzzles. We view AI research as an empirical science, which has as much in common with physics and biology as with traditional efforts in computer science. We're an extremely collaborative group, and we host frequent research discussions to ensure that we are pursuing the highest-impact work at any given time. As such, we greatly value communication skills.
The easiest way to understand our research directions is to read our recent research. This research continues many of the directions our team worked on prior to Anthropic, including: GPT-3, Circuit-Based Interpretability, Multimodal Neurons, Scaling Laws, AI & Compute, Concrete Problems in AI Safety, and Learning from Human Preferences.
Anthropic is a public benefit corporation headquartered in San Francisco. We offer competitive compensation and benefits, optional equity donation matching, generous vacation and parental leave, flexible working hours, and a lovely office space in which to collaborate with colleagues. Guidance on Candidates' AI Usage: Learn about our policy for using AI in our application process.
Сравним навыки, грейд, формат работы и зарплату
Чаще всего от 370 000 до 501 000