Senior Principal AI Engineer

Наш инженерный отдел расширяет возможности в области ИИ под новым руководством, что открывает возможность формировать следующее поколение ИИ в Rapid7. Мы ищем ведущих инженеров по ИИ (Senior Principal AI Engineers), которые будут определять и влиять на техническое направление наших LLM-систем и агентных ИИ-систем в масштабах всей организации. Вам предстоит решать наши самые сложные технические задачи, устанавливать архитектурные принципы и инженерные стандарты, а также стимулировать инновации с нуля, которые принесут ощутимую пользу нашим клиентам по всему миру. Благодаря техническому лидерству и наставничеству вы будете формировать стратегические инвестиции в продукты и платформы и влиять на то, как мы строим и масштабируем ИИ в Rapid7. О команде ИИ меняет кибербезопасность с обеих сторон. Злоумышленники могут использовать ИИ для атак на машинной скорости, и только защита на базе ИИ может не отставать. В то же время организации могут внедрять ИИ с уверенностью только в том случае, если он безопасен. Rapid7 находится на стыке безопасности и ИИ, и мы создаем отраслевые продукты для этой новой эры. Команда AI Engineering Rapid7 создает ИИ, который обеспечивает работу нашей платформы безопасности. Мы — инженеры по ИИ и прикладные ученые, которые выводят модели из исследований в производство, сочетая открытые и передовые LLM, ИИ-агентов и быстрые предиктивные модели с более чем 20-летним опытом Rapid7 в области безопасности. Наша работа лежит в основе ключевых сценариев использования в области обнаружения и реагирования (Detection and Response), таких как сортировка оповещений, расследование угроз и автоматическое реагирование, а также в области оценки рисков и устранения уязвимостей (Exposure and Remediation), таких как приоритизация уязвимостей, оценка рисков поверхности атаки и управляемое устранение. Вместе это помогает клиентам быстрее выявлять угрозы и устранять наиболее важные проблемы. О роли В качестве ведущего инженера по ИИ (Senior Principal AI Engineer) вы будете определять техническое направление разработки, настройки и предоставления LLM и агентных систем Rapid7 в рамках ее продуктов безопасности. Вы понимаете LLM с нуля, от внутренних механизмов трансформеров и обучения до тонкой настройки и оптимизации вывода, и вы остаетесь в команде, решая самые сложные задачи. Вы знаете, где LLM преуспевают, а где терпят неудачу, и рассматриваете их как один из инструментов в наборе инструментов ИИ, наряду с предиктивным ИИ и классическим машинным обучением, выбирая подходящий подход для каждой задачи. Мы знаем, что лучшие идеи и решения исходят от многомерных команд. Это связано с тем, что такие команды отражают разнообразие происхождения и профессионального опыта.

В частности, ваша задача будет заключаться в следующем: Определять техническое видение, архитектуру и многолетний план развития LLM и агентных систем в области обнаружения и реагирования, а также оценки рисков и устранения уязвимостей. Определять общекорпоративную стратегию модели, включая случаи использования передовых или открытых моделей, когда следует выполнять тонкую настройку, дистилляцию или пост-обучение, и куда следует инвестировать в новые возможности. Руководить самыми сложными и рискованными техническими инициативами в рамках нескольких команд, включая тонкую настройку, дистилляцию и пост-обучение открытых LLM на данных безопасности. Устанавливать общекорпоративные стандарты для инженерии контекста, оптимизации вывода и оценки, используя оценки как ворота для выпуска каждой ИИ-системы, которую мы выпускаем. Руководить оптимизацией вывода LLM в масштабе, балансируя качество, задержку и стоимость. Руководить обзорами проектирования, разрешать самые сложные технические компромиссы и оставаться в команде, занимаясь прототипированием и созданием критически важного кода для моделей, обучения и вывода. Наставлять и развивать ведущих инженеров (Principal, Staff и Senior engineers), развивая глубину талантов в области инженерии ИИ по всей Rapid7. Представлять инженерный отдел ИИ Rapid7 руководству, клиентам и внешнему сообществу, влияя на стратегию продуктов, платформ и бизнеса.

Более 14 лет опыта разработки программного обеспечения или машинного обучения, в том числе более 2 лет создания производственных LLM или агентных ИИ-систем. Предпочтительна степень PhD в области компьютерных наук, машинного обучения, ИИ или смежной области, либо эквивалентная глубина знаний, подтвержденная отраслевым опытом и техническим вкладом. Опыт создания масштабируемых ИИ-систем и общих платформ производственного качества, используемых в нескольких продуктах, с общекорпоративным влиянием посредством технического лидерства, наставничества и стандартов. Передовые знания в области LLM, включая архитектуру трансформеров, внимание, токенизацию и позиционные кодировки, а также то, как модели обучаются и обслуживаются, с продвинутыми навыками PyTorch, охватывающими пользовательский код модели, смешанную точность и распределенное обучение (например, FSDP, DeepSpeed). Практический опыт тонкой настройки и пост-обучения открытых LLM, включая полные и параметро-эффективные методы (LoRA, QLoRA), дистилляцию и методы на основе предпочтений или обучения с подкреплением (например, DPO, GRPO), в идеале включая опыт обучения LLM с нуля. Глубокий опыт в инженерии контекста (получение, память и управление контекстом для длительных рабочих процессов агентов) и в определении стратегии оценки и бенчмарков для LLM и агентных систем. Глубокие знания в области оптимизации вывода, включая prefill и decode, управление KV-кэшем, непрерывную пакетную обработку, спекулятивное декодирование и квантование, а также масштабируемое обслуживание с использованием vLLM, SGLang или TensorRT-LLM, в идеале на AWS, включая работу с GPU-ядрами (CUDA или Triton). Сильные фундаментальные знания в области предиктивного ИИ, классического машинного обучения, распределенных систем и Python, с умением принимать эффективные, прозрачные решения между этими подходами и LLM на основе точности, задержки и стоимости. Берет на себя ответственность за технические результаты в масштабах всей организации, проактивно устраняя системные риски и барьеры на пути к реализации, одновременно обеспечивая соответствие технических решений стратегическим приоритетам. Влиятельный коммуникатор, способный четко излагать сложные архитектурные компромиссы, добиваться консенсуса и влиять на технические и продуктовые решения в масштабах всей организации. Добивается согласованности между отделами инженерии, продуктов и другими подразделениями в отношении технического направления, принимая решения, которые формируют инвестиции в продукты и платформы. Предвидит меняющиеся потребности клиентов и формирует ИИ-архитектуру и техническую стратегию для максимизации ценности для клиентов, принимая обоснованные компромиссы между возможностями, производительностью, стоимостью и масштабируемостью для руководства инвестициями в продукты и платформы. Преуспевает в условиях неопределенности на переднем крае ИИ, стимулируя изменения и ориентируясь на будущее по мере развития технологий и ландшафта угроз. Признание в качестве эксперта в области ИИ, подтвержденное публикациями, патентами, вкладом в открытый исходный код или участием в отраслевых мероприятиях. Воплощает наши основные ценности для развития культуры совершенства, которая обеспечивает значимое влияние и коллективный успех.