Principal AI Engineer

Наша инженерная организация расширяет свои возможности в области искусственного интеллекта под новым руководством, создавая возможность для разработки ИИ нового поколения в Rapid7. Мы ищем ведущих инженеров по ИИ, которые присоединятся к нам и помогут формировать будущее, определяя и влияя на техническое направление наших LLM и агентных систем ИИ. В качестве ведущего инженера по ИИ вы повысите планку инженерных стандартов и создадите передовые решения с нуля, которые окажут реальное влияние на наших глобальных клиентов. Благодаря вашему техническому лидерству и наставничеству вы поможете формировать наши инвестиции в продукты и платформы и влиять на то, как мы создаем и масштабируем ИИ во всей организации. ИИ меняет кибербезопасность с обеих сторон. Злоумышленники могут использовать ИИ для атак со скоростью машин, и только защита на основе ИИ может идти в ногу со временем. В то же время организации могут использовать ИИ с уверенностью только в том случае, если он безопасен. Rapid7 находится на стыке безопасности и ИИ, и мы создаем продукты, определяющие отрасль для этой новой эры. Команда инженеров по ИИ Rapid7 создает ИИ, который обеспечивает работу нашей платформы безопасности. Мы — инженеры по ИИ и прикладные ученые, которые выводят модели из исследований в продакшн, объединяя LLM с открытым исходным кодом и передовые LLM, агентные системы ИИ и быстрые предиктивные модели с более чем 20-летним опытом Rapid7 в области безопасности. Наша работа лежит в основе основных сценариев использования в области обнаружения и реагирования, таких как сортировка оповещений, расследование угроз и автоматизированное реагирование, а также в области оценки рисков и устранения уязвимостей, таких как приоритизация уязвимостей, оценка рисков поверхности атаки и управляемое устранение. Вместе это помогает клиентам быстрее обнаруживать угрозы и исправлять то, что наиболее важно. В качестве ведущего инженера по ИИ вы будете определять техническое направление того, как Rapid7 создает, настраивает и обслуживает LLM и агентные системы для своих продуктов безопасности. Вы понимаете LLM с нуля, от внутренней работы трансформеров и обучения до тонкой настройки и оптимизации вывода, и вы остаетесь в курсе самых сложных проблем. Вы знаете, где LLM преуспевают, а где они терпят неудачу, и относитесь к ним как к одному из инструментов в арсенале ИИ, наряду с предиктивным ИИ и классическим машинным обучением, выбирая правильный подход для каждой задачи. В Rapid7 наше видение — создать безопасный цифровой мир для наших клиентов, нашей отрасли и нашего сообщества. Мы достигаем этого, используя наш коллективный опыт и страсть, чтобы раздвинуть границы возможного и добиться выдающихся результатов. Мы создаем динамичную и совместную рабочую среду, где приветствуются новые идеи. Защита более 11 500 клиентов от злоумышленников и угроз означает, что мы продолжаем раздвигать границы, как и делали это последние 20 лет. Если вы готовы решать самые сложные задачи в области кибербезопасности, мы готовы помочь вам взять на себя ответственность за вашу карьеру. Присоединяйтесь к нам.

В частности, ваша цель будет заключаться в следующем: Определение архитектуры и технической дорожной карты для LLM и агентных систем ИИ в области обнаружения и реагирования, а также оценки рисков и устранения уязвимостей. Руководство стратегией моделей: когда использовать передовые или LLM с открытым исходным кодом, и когда проводить тонкую настройку, дистилляцию или постобучение. Тонкая настройка, дистилляция и постобучение LLM с открытым исходным кодом на данных безопасности, от курирования данных до обучения, оценки и развертывания. Установка инженерных стандартов для инженерии контекста, оптимизации вывода и оценки в командах. Оптимизация вывода LLM в масштабе с помощью таких методов, как спекулятивное декодирование, управление KV-кэшем, непрерывное пакетирование, квантование и пользовательские ядра, сбалансировав качество, задержку и стоимость. Установление оценок (evals) в качестве критерия выпуска для каждой системы ИИ, которую мы поставляем. Руководство обзорами проектирования и решение самых сложных технических компромиссов. Оставайтесь в курсе: самостоятельно прототипируйте и создавайте критически важный код модели, обучения и вывода. Наставничество старших инженеров и формирование инвестиций в продукты и платформы.

Более 12 лет опыта в разработке программного обеспечения или ML, включая более 2 лет создания производственных LLM или агентных систем ИИ. Предпочтительна степень PhD в области компьютерных наук, машинного обучения, ИИ или смежной области, или эквивалентная глубина знаний, подтвержденная отраслевым опытом и техническим вкладом. Опыт создания масштабируемых, производственных систем ИИ, используемых несколькими командами или продуктами, с сильной историей влияния на всю организацию через техническое лидерство, наставничество, общие платформы и стандарты. LLM с нуля: глубокое понимание архитектуры трансформеров, внимания, токенизации и позиционных кодировок, а также того, как модели обучаются и обслуживаются, с возможностью реализации основных компонентов с нуля. PyTorch: экспертный уровень, включая пользовательский код модели, циклы обучения, смешанную точность и распределенное обучение (например, FSDP, DeepSpeed). Тонкая настройка и постобучение: практический полный и параметро-эффективный тонкая настройка (LoRA, QLoRA) LLM с открытыми весами, дистилляция и методы на основе предпочтений или RL (например, DPO, GRPO). Инженерия контекста: извлечение, память и управление контекстом для длительных рабочих процессов агентов. Оптимизация вывода: глубокие знания преффил и декодирования, управления KV-кэшем (например, PagedAttention, префиксный кэш), непрерывного пакетирования, спекулятивного декодирования, FlashAttention и квантования, а также обслуживания в масштабе с помощью vLLM, SGLang или TensorRT-LLM. Оценки (Evals): определение стратегии оценки и бенчмарков для LLM и агентных систем. Прочные фундаментальные знания предиктивного ИИ и классического ML, а также умение выбирать между ними и LLM на основе точности, задержки и стоимости. Прочные фундаментальные знания распределенных систем и Python. Принимает на себя ответственность за значительные технические результаты в нескольких командах, проактивно выявляя и устраняя риски, решая сложные задачи и обеспечивая соответствие решений согласованным техническим и клиентским целям. Сильный коммуникатор, способный объяснять технические компромиссы инженерам, менеджерам по продуктам и руководству. Строит прочные кросс-функциональные партнерские отношения между отделами инженерии, продуктов и другими командами для согласования технического направления и достижения общих результатов. Связывает потребности клиентов и приоритеты бизнеса с техническими решениями, оценивая ценность, стоимость и компромиссы решений ИИ, чтобы гарантировать, что инвестиции принесут измеримые результаты для клиентов и бизнеса. Воплощает наши основные ценности для развития культуры совершенства, которая обеспечивает значительное влияние и коллективный успех.