SDE II - AI Platform

Должность: SDE II - AI Platform Местоположение: Bengaluru / onsite

Большинство советов директоров и руководителей в настоящее время работают вслепую, когда речь идет о киберрисках. Они угадывают. В Safe мы создали ИИ-движок, который наконец дает высшему руководству четкое, количественное и реальное представление об их положении в области безопасности. Мы не просто предоставляем данные; мы предоставляем уверенность. Мы являемся лидером категории с финансированием серии C в размере 170 миллионов долларов. Мы не работаем на среднем рынке; мы работаем на высшем уровне мировых корпораций. Сегодня мы с гордостью обслуживаем 10% компаний из списка Fortune 500, защищая мировые бренды, такие как Apple, Netflix, AT&T, Verizon и Victoria’s Secret. По мере того, как мы масштабируемся к нашей следующей главе, мы ищем высокопроизводительных специалистов, которые хотят сделать лучшую работу в своей карьере на стыке ИИ и кибербезопасности. Культурный меморандум: Наша операционная система Safe — это не типичная корпоративная среда. Мы — высокоинтенсивная, ориентированная на миссию команда. Мы ценим создателей, которые хотят определить категорию и работать вместе с людьми, столь же преданными совершенству. Экстремальная ответственность: Мы не говорим «это не моя работа». Мы нанимаем людей, которые видят пробел и берут на себя решение проблемы от начала до конца. Элитный стандарт: Мы обслуживаем самые требовательные компании на планете. Наша работа должна быть безупречной. Будь то строка кода или презентация для отдела продаж, мы стремимся к качеству уровня Tier-1 каждый раз. Методология и строгость: Мы не импровизируем. От Force Management и MEDDICC в продажах до спринтов, основанных на данных, в инжиниринге, мы полагаемся на проверенные методики, чтобы оставаться дисциплинированными и предсказуемыми. Радикальная откровенность: Мы движемся слишком быстро для политики или приукрашивания. Мы ценим прямую, честную обратную связь, которая помогает нам быстро найти правильное решение. "Hustle" Серии C: У нас есть стабильность хорошо финансируемого лидера, но сердце стартапа. Льготы и владение: Мы хотим, чтобы наша команда чувствовала себя владельцами, потому что они являются владельцами. Мы доверяем нашим людям управлять своими результатами и своим временем. Значительный опцион: Каждый "Safestar" является акционером. Вы не просто сотрудник; вы — партнер нашего успеха. Неограниченный отпуск: Мы не верим в отслеживание времени. Мы предлагаем неограниченный отпуск, потому что доверяем вам брать столько времени, сколько вам нужно для восстановления сил, оставаясь при этом приверженными миссии. Комплексные льготы: Мы предоставляем первоклассное медицинское страхование и льготы по оздоровлению, чтобы гарантировать, что вы и ваша семья будут хорошо обеспечены. Карьерная траектория: Мы агрессивно растем. Для высокопроизводительных специалистов путь продвижения соответствует скорости ваших амбиций.

ИИ — это не побочный проект в Safe — это движущая сила того, как мы количественно оцениваем киберриски для крупнейших предприятий мира. Агентные сервисы, LLM-аналитика и вычислительные нагрузки работают в производственной среде на реальных клиентских данных с соблюдением корпоративных ограничений безопасности.

Вы будете отвечать за платформу, лежащую в основе всего этого: GPU-кластеры, обслуживание выводов, жизненный цикл моделей и интерфейсы для разработчиков, чтобы каждая команда инженеров и ИИ/МО в Safe могла развертывать ИИ-нагрузки, не перестраивая инфраструктуру каждый раз.

Это роль инженера платформы и инфраструктуры, а не исследователя МО. Нам нужен инженер, который работал с GPU в производстве, а не только использовал их.

AI Platform — ваша основная задача. Как SDE II в команде платформы, вы также будете вносить свой вклад в основной инжиниринг платформы, многопользовательские микросервисы, API и облачную архитектуру, а также нести ту же ответственность за ревью, наставничество и доставку, что и любой SDE II в Safe.

Что вы будете делать: Создавать AI Platform: API, SDK и рабочие процессы самообслуживания, чтобы инженеры ИИ/МО развертывали, версионировали, оценивали и контролировали рабочие нагрузки, не касаясь необработанной инфраструктуры. Управлять GPU-инфраструктурой: проектирование кластера, предоставление ресурсов, планирование, изоляция и оптимизация использования в условиях совместного спроса нескольких команд. Запускать выводы в производстве: vLLM, Triton, KServe или Ray — непрерывное пакетное выполнение, автоматическое масштабирование, маршрутизация моделей и обслуживание нескольких моделей в соответствии с реальными SLO задержки и пропускной способности. Непрерывно оптимизировать: повышение производительности токенов/сек, p99 задержки, использования GPU и стоимости за токен за счет квантования, стратегии пакетной обработки и планирования мощностей. Разрабатывать GPU-aware Kubernetes: GPU Operator, плагины устройств, GPU-aware планирование, разделение MIG и распределенные рабочие нагрузки через NCCL. Отлаживать сложный уровень: GPU OOM, несоответствия драйверов и среды выполнения CUDA, узкие места взаимосвязи, снижение пропускной способности. Создавать основу MLOps: реестр моделей и версионирование, CI/CD для ИИ-нагрузок, а также безопасное развертывание/откат. Управлять уровнем оценки: средства оценки офлайн и онлайн, эталонные наборы данных, оценка LLM-as-a-judge, метрики точности и галлюцинаций, а также автоматизированные ворота регрессии, чтобы ни одно изменение модели, промпта или квантования не было развернуто без оценки качества. Сделать систему наблюдаемой: качество ответа и отклонение точности, задержка, пропускная способность, использование GPU и стоимость за пользователя — с SLO, оповещениями и реагированием на инциденты. Безопасность и многопользовательский режим по умолчанию: аутентификация/авторизация, секреты, защита данных, изоляция пользователей и управляемый доступ к моделям и GPU. Кодировать и руководить: Terraform для всего, HA и DR, а также направление архитектуры и наставничество в командах. Вносить вклад за пределы ИИ: проектировать и создавать безопасные, многопользовательские микросервисы и API на AWS, проводить тщательные ревью кода и нести полную ответственность за доставку функций совместно с Product и Design. Что мы ищем: 2-4 года опыта создания и эксплуатации производственного программного обеспечения и инфраструктуры с высокой степенью владения системами от начала до конца. Бакалавриат или магистратура в области компьютерных наук, инженерии или эквивалентный практический опыт. Сильный Python и/или Go — вы пишете и ревьюируете производственные сервисы, а не просто скрипты и манифесты. Глубокое знание Kubernetes и Docker: планирование, управление ресурсами, операторы, сети, отладка под нагрузкой. Прочные основы Linux, сетевых технологий, хранения данных и распределенных систем. Опыт работы с AWS/Azure/GCP в производстве — Lambda, API Gateway, EC2, S3, RDS и их эквиваленты — с Terraform в качестве основного инструмента. Рабочее знание SQL и NoSQL баз данных, включая проектирование схем и оптимизацию производительности. Опыт создания и эксплуатации бэкэнд-сервисов и API в многопользовательском SaaS-продукте. Навыки лидерства, ревью кода и наставничества, с полной ответственностью за доставку в гибкой среде. Практический опыт работы с управляемой ML/AI платформой — AWS SageMaker, Bedrock, GCP Vertex AI или Azure ML — включая понимание ее места и преимуществ саморазвернутой инфраструктуры по стоимости или контролю. Опыт работы с HA, масштабируемостью и DR в многопользовательских средах. Надежные практики наблюдаемости и CI/CD — метрики, трассировки, SLO, автоматизированная доставка. Опыт создания или эксплуатации систем оценки ИИ — измерение точности и качества, конвейеры LLM-as-a-judge, наборы данных для оценки и регрессионное тестирование моделей и промптов. Опыт в области платформенной инженерии, инфраструктуры, SRE, распределенных систем, ИИ-инфраструктуры или MLOps/LLMOps. Опыт работы с GPU и ИИ (обязательно) Практическая эксплуатация GPU-кластеров: предоставление ресурсов, планирование мощностей и повседневное владение. Экосистема NVIDIA и CUDA — драйверы, среда выполнения контейнеров, совместимость комплекта инструментов и их сбои. Планирование, выделение, изоляция и оптимизация использования GPU в условиях конкурирующих рабочих нагрузок. GPU-рабочие нагрузки Kubernetes: GPU Operator, плагины устройств, GPU-aware планирование. Поиск и устранение неисправностей и настройка GPU: память/OOM, сбои драйверов, узкие места взаимосвязи и пропускной способности. LLM-выводы и обслуживание моделей в производстве (vLLM, Triton, KServe, Ray или эквивалент) с продемонстрированным снижением затрат и повышением производительности. Опыт работы с управляемыми AI-платформами — SageMaker (тренировочные задания, конечные точки, компоненты вывода) или эквивалент — наряду с самостоятельно управляемым обслуживанием GPU. Желательно: SageMaker HyperPod, Bedrock или Vertex AI в больших масштабах · DCGM и Prometheus/Grafana для GPU-кластеров · MIG и разделение GPU в многопользовательских конфигурациях · NCCL и распределенные GPU-рабочие нагрузки · квантование и оптимизация выводов (FP8/INT8, AWQ/GPTQ, спекулятивное декодирование, настройка KV-кэша) · наблюдаемость LLM и трассировка (Langfuse, OpenTelemetry для LLM) · фреймворки оценки и маркировка human-in-the-loop · профилирование PyTorch · планировщики и очереди GPU-кластеров · векторные базы данных, RAG, LLM-шлюзы, агентные системы · разработка API TypeScript/Express · React или другие современные фронтенды · среды с ограничениями безопасности или соответствия требованиям. Что такое успех: AI-команды развертывают и откатывают модели через рабочие процессы самообслуживания, без ручной работы с инфраструктурой для каждого развертывания. Использование GPU измеряется, прогнозируется и постоянно оптимизируется по всему общему парку. Стоимость за токен снижается квартал за кварталом, и эти цифры отображаются на панели управления. SLO выводов соблюдаются под пиковой корпоративной нагрузкой, а частота GPU-инцидентов и время их устранения снижаются. Ни одно изменение модели, промпта или оптимизации не попадает в продакшн без прохождения автоматической оценки точности и качества. Если вы увлечены киберрисками, преуспеваете в быстро меняющейся среде и хотите стать частью команды, которая переосмысливает безопасность, мы хотим услышать от вас! 🚀