Software Engineer, Trust & Safety

Вознаграждение: $215K - $285K в год

О КОМПАНИИ OPENROUTER

OpenRouter — это ведущий уровень маршрутизации и инфраструктуры ИИ, который компании используют для доступа, управления и оптимизации лучших больших языковых моделей от различных поставщиков — без привязки к поставщику, ограничений по пропускной способности или лишних затрат. Мы предоставляем инфраструктуру самым передовым командам в области ИИ, давая им возможность быстро развиваться, масштабироваться с уверенностью и оставаться на шаг впереди по мере развития моделей.

По мере ускорения внедрения ИИ в компаниях OpenRouter занимает центральное место в том, как организации используют LLM в исследованиях, разработке продуктов и производственных процессах.

О РОЛИ

Мы ищем инженера-программиста в нашу команду Trust & Safety (Доверие и безопасность), который будет отвечать за системы обнаружения, принуждения и проверки, предотвращающие злоупотребления, мошенничество, вредоносных пользователей и незаконный контент на платформе. Миллионы запросов LLM и большой объем платежей ежедневно проходят через OpenRouter, и поддержание безопасности, целостности и доверия к нашей платформе является приоритетом. Вы будете создавать системы для обнаружения злоупотреблений и мошенничества, эвристики для автоматических действий и смягчения последствий злоупотреблений, инструменты, через которые работают наши рецензенты, а также механизмы защиты, которые не позволяют нам ошибочно блокировать правильные аккаунты.

Вы будете отвечать за проактивное проектирование архитектуры предотвращения злоупотреблений для нового уровня стека ИИ, в то время как паттерны злоупотреблений еще только зарождаются. Модель угроз быстро меняется, и создаваемые вами системы должны обнаруживать новые виды злоупотреблений, не создавая при этом препятствий для легитимных разработчиков и компаний, использующих нашу платформу. При правильном подходе эта работа позволит защитить миллионы ежедневных запросов, наши отношения с поставщиками и доверие, которое компании оказывают OpenRouter.

Это самостоятельная роль с широкой зоной ответственности, охватывающей путь инференса, платежный путь, внутренние инструменты проверки и платформу данных под всем этим. Между вами и релизом минимум процессов, а ваша работа имеет прямые последствия для реальных пользователей, поэтому требования к суждениям высоки.

ЧТО ВЫ БУДЕТЕ ДЕЛАТЬ

• Создавать и эксплуатировать технические системы, охватывающие регистрацию, платежи и использование, для раннего обнаружения злоупотреблений и мошенничества.

• Полностью отвечать за конвейер технического принуждения, от обнаружения, предлагающего кандидата, до его проверки человеком и применения ограничений в наших системах.

• Создавать внутренние инструменты для поддержки расследования и принятия решений о принуждении. Это включает создание очередей дел, сводок доказательств, массовой проверки и исполнения, а также механизмов оповещения для инициирования расследований.

• Разрабатывать технические решения для обеспечения безопасности контента на пути инференса: обнаружение и отчетность по незаконному контенту, системы KYC или внешние источники данных для более эффективного и проактивного обнаружения и предотвращения мошенничества и злоупотреблений.

• Способствовать тому, чтобы злоупотребления стали невыгодными, путем создания систем, инструментов и эвристик для быстрого обнаружения и масштабируемого принуждения.

• Участвовать в расследовании инцидентов непосредственно на основе данных и создавать аналитическую плоскость, чтобы мы могли быстро определить, что произошло, оценить масштаб проблемы и отделить реальные злоупотребления от ложных срабатываний.

• Создавать надежный мониторинг рисков, всплесков злоупотреблений и мошенничества, одновременно сокращая количество ложных срабатываний.

• Определять техническое направление развития методов предотвращения злоупотреблений по мере роста и эволюции платформы, а также определять паттерны, на основе которых будут работать другие инженеры.

• Работать с специалистами по данным над исследованием признаков и обучением моделей машинного обучения для оценки рисков и выявления злоупотреблений.

ЧТО МЫ ИЩЕМ

• 4+ года опыта разработки и эксплуатации продакшн-систем, в идеале включая работу в области Trust & Safety, борьбы с мошенничеством, платежными рисками, безопасности или предотвращения злоупотреблений.

• Владение React, TypeScript, Next.js и средами выполнения JS.

• Умение писать SQL-запросы к большим наборам событий и рассуждать о базовых частотах, точности и полноте, а также о стоимости ошибочного решения.

• Здравый смысл при работе с неполными данными.

• Высокая степень самостоятельности и склонность к действию; выявление проблем, итерации и выпуск без ожидания постановки задач.

• Ориентация на ИИ в рабочем процессе, частое использование кодирующих агентов, поиск интересных способов автоматизации своей работы и наличие собственного мнения о том, что работает, а что нет.

• Комфортная работа в небольшой, быстроразвивающейся среде, где границы между командами намеренно размыты.

• Дискретность и устойчивость, поскольку часть этой роли может включать рассмотрение или обсуждение тревожного контента и работу с конфиденциальными пользовательскими данными.

• Сильные навыки письменной и устной коммуникации, способность объяснять результаты расследований инцидентов, правила обнаружения и системы различным аудиториям.

• Мотивация к решению задач, связанных с противоборством, где противник адаптируется ко всему, что вы выпускаете, и работа постоянно развивается.

ПРЕИМУЩЕСТВА

• Опыт работы с инструментами для борьбы с мошенничеством в платежах (Stripe Radar, процессы chargeback и оспаривания, риски криптоплатежей) или с системами идентификации и KYC.

• Опыт работы с злоупотреблениями, специфичными для LLM: jailbreaks, инъекции промптов, кража и перепродажа ключей, общие или украденные учетные данные, автоматизированное создание аккаунтов.

• Опыт эксплуатации крупномасштабных аналитических хранилищ данных (например, ClickHouse, BigQuery) и платформ наблюдаемости.

• Знакомство с обязательствами по отчетности и соответствию требованиям, связанными с размещенным ИИ, включая отчетность о незаконном контенте и требования политики поставщиков моделей.

• Существующий пользователь OpenRouter или активные сторонние проекты в области продуктов/инфраструктуры ИИ или инструментов для разработчиков.

Если вы не считаете, что соответствуете всем критериям ниже, но все же заинтересованы в этой должности, пожалуйста, подайте заявку. Никто не соответствует всем требованиям, и мы ищем человека, который будет рад присоединиться к команде.