Title: Staff Site Reliability Engineer — AI Platform Company: Manychat Location: Amsterdam, Netherlands / Hybrid / Remote

КТО МЫ 🌍

Создавать контент, который находит отклик, — это здорово, а превращать это внимание в рост — еще лучше. Именно этим занимается Manychat.

Наши автоматизации на базе ИИ помогают создателям контента и брендам взаимодействовать с аудиторией через Instagram, Messenger, WhatsApp и TikTok — в нужный момент, с нужным сообщением, без ручной работы.

Мы — это более 400 человек на трех континентах, стоящих за ведущей платформой для роста через диалоги, где навыки ИИ формируют то, как мы строим, работаем и растем.

КТО НАМ НУЖЕН 🚀 🌟

Хотите формировать архитектуру ИИ-платформы с нуля, а не просто поддерживать то, что построил кто-то другой?

Manychat запускает ИИ-функции для бизнеса по всему миру, и мы ищем SRE, который будет отвечать за надежность, производительность и стоимость этой ИИ-инфраструктуры, а также повышать стандарты того, как вся наша инженерная организация строит на базе LLM.

Это не классическая SRE-роль с небольшим количеством ИИ. Нам нужен человек, рожденный в ИИ: вы уже понимаете, как современные LLM-системы ведут себя в продакшене, такие вещи, как пропускная способность токенов, лимиты запросов провайдеров, снижение качества модели и длинные хвосты задержки инференса, и вы относитесь ко всему этому как к первоочередной задаче надежности, а не как к дополнению.

Почему эта роль стоит вашего времени:

• ИИ-платформа еще молода, поэтому вы будете формировать ее архитектуру, стандарты и дорожную карту с нуля.
• Ставки реальны. ИИ-функции находятся прямо на критическом пути клиентской автоматизации, поэтому ваша работа действительно важна для бизнеса, а не только для дашборда.
• Вы будете напрямую сотрудничать с руководителем отдела инфраструктуры, обладая реальной автономией и видимостью того, как ваши решения работают.

Звучит как тот уровень ответственности, который вы искали?

ЧТО ВЫ БУДЕТЕ ДЕЛАТЬ 🚀

• Отвечать за надежность и производительность нашей ИИ-инфраструктуры: AI Gateway, сервисы инференса и интеграции с Amazon Bedrock, Azure OpenAI и другими LLM-провайдерами.
• Проектировать и развивать AI Gateway: маршрутизация, отказоустойчивость между провайдерами, ограничение скорости, кэширование и защитные механизмы.
• Создавать наблюдаемость для ИИ-систем: SLO для задержки/пропускной способности/ошибок по каждой модели и провайдеру, метрики на уровне токенов, сигналы качества и дрейфа.
• Управлять оптимизацией затрат и FinOps для ИИ-рабочих нагрузок: видимость затрат по функциям, правильный выбор размера моделей, стратегии кэширования, комбинация провайдеров.
• Планировать мощности и реагировать на инциденты для сервисов инференса; писать и улучшать runbooks и postmortems.
• Распространять экспертизу в области ИИ по организации: устанавливать стандарты, проводить ревью дизайнов и обучать команды, выпускающие функции на базе LLM.

ЧТОБЫ БЛИСТАТЬ В ЭТОЙ РОЛИ 💥

Вам понадобится:

• 5+ лет опыта в SRE / платформенной / инфраструктурной инженерии, включая владение продакшеном в значительных масштабах.
• Практический опыт работы с системами на базе LLM в продакшене: API провайдеров (Bedrock, OpenAI, Anthropic или аналогичные), конвейеры инференса, самохостинговое или управляемое обслуживание моделей.
• Глубокий опыт работы с облачными технологиями: AWS, Kubernetes, Terraform/IaC, CI/CD.
• Сильная практика наблюдаемости (Prometheus/Grafana, OpenTelemetry или эквивалент) и опыт определения SLO для недетерминированных систем.
• Подтвержденный опыт оптимизации затрат: вы можете показать, где вы сократили расходы на облако или инференс и как вы сделали затраты видимыми.
• Влияние на уровне Staff: вы устанавливали техническое направление за пределами своей команды и вовлекали других.

Было бы здорово, если бы у вас был:

• Опыт создания или эксплуатации LLM gateway/proxy (например, LiteLLM, Kong AI Gateway, собственный).
• Опыт оптимизации рабочих нагрузок GPU, квантования или фреймворков обслуживания (vLLM, TGI, Triton).
• Опыт работы с пайплайнами оценки и мониторинга качества выходных данных LLM.

ПОЧЕМУ ЭТА РОЛЬ

• Работа над новым проектом: ИИ-платформа молода; вы будете формировать ее архитектуру, стандарты и дорожную карту.
• Реальные масштабы и реальные ставки: ИИ-функции находятся на критическом пути клиентской автоматизации.
• Прямое сотрудничество с руководителем отдела инфраструктуры; высокая автономия и видимость.

ЧТО МЫ ПРЕДЛАГАЕМ 🤗

Мы глубоко заботимся о вашем росте, благополучии и комфорте:

• 🌍 Гибридное onboarding для начала работы удаленно и поддержка релокации для вас и вашей семьи.
• 💙 Комплексное медицинское страхование для вас и вашей семьи.
• 📚 Бюджет на профессиональное развитие для покупки билетов на конференции, онлайн-курсы и другие соответствующие ресурсы, которые помогут вам расти.
• 🫶 Гибкий пакет льгот: никаких универсальных бонусов. Вы получаете бюджет, и вы решаете, на что его потратить: от здоровья и благополучия до семьи и обустройства домашнего офиса.
• 🪴 Гибридная работа и щедрое, гибкое время отпуска — планируется с вашей командой, а не ограничивается строгим квотой.
• 🍽️ Бонусы в офисе, включая бесплатное питание и закуски.
• 🤝 Спонсируемые компанией спортивные мероприятия, ежегодные выезды и командные мероприятия.
• 🤖 ИИ — это не бонус, это то, как мы работаем. Claude, OpenAI и другие используются по умолчанию с первого дня, и мы поддерживаем команды в использовании любых инструментов, которые делают их быстрее.

Manychat является работодателем, предоставляющим равные возможности. Мы стремимся создать разнообразную и инклюзивную команду. Мы не дискриминируем квалифицированных сотрудников или кандидатов по признаку расы, цвета кожи, религии, гендерной идентичности, пола, сексуальных предпочтений, сексуальной идентичности, беременности, национального происхождения, родословной, гражданства, возраста, семейного положения, физической или умственной нетрудоспособности, состояния здоровья, военного статуса или любой другой характеристики, защищенной местным законодательством или постановлениями.

Это обязательство также отражается в нашем опыте для кандидатов. Если у вас есть индивидуальные потребности, которые могут потребовать размещения во время процесса собеседования, пожалуйста, укажите это в вашей заявке. Мы сделаем все возможное, чтобы оказать помощь на протяжении всего процесса собеседования, чтобы обеспечить ваш успех.