Исследователь/инженер по безопасности ИИ
Местоположение: Северная Америка, ЕС, Великобритания
Исследователь/инженер по безопасности ИИ
Удаленно или гибридно - предпочтительно Лондон, но принимаются кандидаты из Северной Америки, ЕС, Великобритании
О Brave:
Brave ставит своей миссией защиту права человека на конфиденциальность в интернете. Мы создали бесплатный веб-браузер, который по умолчанию блокирует навязчивую рекламу и трекеры, приватный поисковик с действительно независимым индексом, приватный ИИ-ассистент, новейшие функции конфиденциальности и безопасности, а также приватную рекламную сеть (opt-in!), которая напрямую вознаграждает вас за внимание. Уже более 120 миллионов человек регулярно используют Brave для более быстрого и конфиденциального интернета. Ежемесячно к нам присоединяются миллионы.
Интернет — это море рекламы, хакеров и эхо-камер. Крупные технологические компании получают огромную прибыль от наших данных и диктуют нам, что правда, а что нет. Brave дает отпор. Присоединяйтесь к нам!
Резюме
Мы ищем исследователя/инженера для снижения рисков безопасности, связанных с созданием систем ИИ, особенно веб-агентов и чат-ботов на базе LLM. На этой должности вы будете разрабатывать и внедрять архитектуры, ориентированные на безопасность, проводить аудит наших веб-агентов и чат-ботов на базе LLM, а также помогать определять направление развития Brave в области идентификации, измерения и снижения рисков безопасности в продуктах ИИ.
Обязанности
- Разработка и проведение состязательных оценок для выявления сбоев в веб-агентах и чат-ботах на базе LLM (например, инъекция промптов, злоупотребление инструментами, утечка данных)
- Анализ поведения модели (включая внутренние рассуждения) для понимания и прогнозирования рисков безопасности в передовых моделях
- Разработка и прототипирование методов обучения и дообучения, ориентированных на безопасность
- Усиление веб-агентов принципами безопасности, включая контроль информационных потоков, контроль привилегий и контекстную безопасность
- Партнерство с инженерами и исследователями (в области конфиденциальности, машинного обучения и криптографии) для преобразования результатов в изменения продуктов, тесты и измеримые улучшения безопасности
- Помощь в определении перспективной стратегии и политики безопасности для создания и ответственного выпуска веб-агентов — защита интересов пользователей
Вы можете нам подойти, если у вас есть
- Подтвержденный опыт работы в области безопасного ИИ (инъекция промптов и защитные механизмы)
- Сильная публикационная активность в области безопасности ИИ, безопасности машинного обучения или смежных областях
- Опыт выпуска продуктов и функций в быстро меняющейся среде
- Сильные навыки программирования на Python и знакомство с фреймворками машинного обучения, такими как PyTorch или JAX
- Опыт обучения, дообучения и оценки больших языковых моделей
- Глубокое знакомство с большими языковыми моделями и веб-агентами, принципами их работы и обучения
- Опыт применения принципов безопасности (например, контроль информационных потоков, контроль доступа/минимальные привилегии)
- Подтвержденный успех в привнесении ясности и ответственности в неоднозначные технические проблемы
- Ученая степень Ph.D. в области компьютерных наук очень желательна, но мы можем рассмотреть некоторые исключения при наличии опыта работы в индустрии
Навыки, которые выделят вас среди конкурентов
- Знание систем ИИ (конвейеры, оценка безопасности и т. д.)
- Проекты с открытым исходным кодом в области безопасности/конфиденциальности
- Опыт работы с конфиденциальными вычислениями и протоколами ZKP/SMPC
- Ученая степень Ph.D. в области компьютерных наук от ведущего учебного заведения
- Сильная публикационная активность в ведущих изданиях по системам, производительности или машинному обучению
- Опыт работы в индустрии желателен
Работа в Brave — Что мы предлагаем
- Возможность работать в перспективном и хорошо финансируемом международном стартапе со штаб-квартирой в Сан-Франциско
- Передовые технологии, позволяющие работать с самыми современными инструментами и программными решениями
- Конкурентоспособная оплата и множество возможностей для личного роста
- Отличный международный опыт и атмосфера в команде
Мы хотим нанять в Лондоне, но готовы рассмотреть исключительного кандидата из других стран Европы.
ТОЛЬКО НЕ АГЕНТСТВА или РЕКРУТЕРЫ — К сожалению, мы не можем работать с третьими сторонами по этим вакансиям.
