Должность: Инженер по безопасности ИИ (наступательная и оборонительная)
Местоположение: Любое / гибрид
Присоединяйтесь к пионеру криптоиндустрии на Филиппинах!
Coins — самый известный криптобренд на Филиппинах, завоевавший доверие более 18 миллионов пользователей. С помощью простого в использовании мобильного приложения пользователи могут покупать и продавать различные криптовалюты и получать доступ к широкому спектру финансовых услуг.
Coins полностью регулируется Bangko Sentral ng Pilipinas (BSP) и является первой в Азии криптокомпанией, получившей лицензии на виртуальную валюту и выпуск электронных денег от центрального банка.
Обязанности:
- Ответственность за обзор безопасности ИИ-агентов и тестирование на проникновение, включая разработку и внедрение защиты от возникающих угроз, таких как злоупотребление инструментами ИИ, отравление контекста, различные формы отравления данных/промптов и внедрение промптов.
- Ответственность за разработку и создание автоматизированных инструментов обнаружения безопасности на базе ИИ, позволяющих автоматизировать сортировку оповещений, атрибуцию атак и повысить эффективность операций по обеспечению безопасности.
- Участие в создании систем аудита поведения агентов и обнаружения аномалий, выявлении цепочек аномального поведения во время выполнения агента, построении платформы операций по обеспечению безопасности на базе ИИ, а также изучении, разработке и внедрении решений по защите и противодействию на основе реальных бизнес-сценариев.
- Сочетание рисков безопасности облачной инфраструктуры (K8S, Docker, облачные сервисы) для оценки поверхности атаки сред выполнения агентов и разработка решений "защита в глубину" (defense-in-depth).
Требования:
- Опыт в области наступательной/оборонительной безопасности (тестирование на проникновение/практика Red Team) не менее 3 лет, опыт в области безопасности LLM (больших моделей) — не менее 1 года; предпочтителен обширный практический опыт Red Team.
- Знакомство с сетевой архитектурой и стеками облачных технологий, включая K8S, безопасность контейнеров Docker и облачную безопасность (IAM, сетевая изоляция, модели угроз облачных сред и т. д.), с возможностью оценки рисков безопасности в сложных инфраструктурах.
- Практические навыки разработки агентов, способность самостоятельно создавать/модифицировать ИИ-агентов (например, на основе таких фреймворков, как LangChain), а также практические навыки наступательной деятельности против агентов (практическое создание и проверка методов атак, таких как злоупотребление инструментами, внедрение промптов, отравление контекста).
- Знакомство с фреймворками безопасности, такими как OWASP Top 10 for LLM и MITRE ATT&CK, распространенными методами атак ИИ, состязательной логикой и решениями по защите, с сильной страстью к безопасности ИИ.
- Владение как минимум одним языком программирования, таким как Python/Go/C++, с возможностью разработки инструментов наступательной/оборонительной безопасности или выполнения глубокой вторичной разработки на платформах безопасности с открытым исходным кодом.
Желательно:
- Знакомство с основными фреймворками ИИ (PyTorch, TensorFlow, LangChain и т. д.), практический опыт локального развертывания и оптимизации больших языковых моделей.
- Практический опыт облачной безопасности (AWS) или соответствующие сертификаты.
Присоединяйтесь к команде Coins прямо сейчас!
Значимое сотрудничество — успешный кандидат будет работать кросс-функционально с другими соответствующими командами для реализации решений, которые улучшат и окажут влияние на качество обслуживания клиентов.
Масштабируемый рост — станьте частью быстрорастущей организации с видением расширения своей деятельности за пределы АТР, что предоставит возможности для карьерного роста.
Пространство для блестящих идей — позвольте вашим блестящим идеям воплотиться в значимые изменения! Культура Coins приветствует новые идеи, подкрепленные данными, для создания положительного эффекта.
