Свяжитесь напрямую по этой вакансии
Местоположение:** Сербия, Армения (готовы обсудить и другие страны) 🏢 Возможна удаленная работа
О продукте В FlameTree мы создаем платформу для разработки ИИ-агентов, которые помогают бизнесу масштабировать поддержку клиентов, последующие действия по лидам и продажи через различные каналы связи — как входящие, так и исходящие. Наши ИИ-агенты работают с базами знаний, общаются в реальном времени и увеличивают конверсию через платформы обмена сообщениями. Платформа поддерживает 150+ языков и интегрируется с WhatsApp, электронной почтой и веб-приложениями, предлагая высокий уровень безопасности и масштабируемости для роста бизнеса.
🎯Обязанности: • Проектирование и разработка основного слоя агента, отвечающего за оркестрацию взаимодействий с LLM. • Создание и поддержка сложной логики диалогов: конечные автоматы, рабочие процессы агентов и конвейеры оркестрации. • Контроль и формирование поведения LLM: дизайн промптов, структурированные выводы, детерминированные потоки. • Управление контекстом диалога: память, история, лимиты токенов и стратегии деградации. • Обеспечение надежности и предсказуемости поверх изначально недетерминированных моделей. • Реализация отказоустойчивых интеграций с поставщиками LLM (таймауты, повторные попытки, запасные варианты, стратегии с несколькими поставщиками). • Оптимизация задержки и затрат (стриминг, батчинг, кэширование, эффективность токенов). • Отладка сложных производственных проблем (несогласованные выводы, состояния гонки, потеря состояния). • Вклад в архитектуру системы: четкие границы между агентами, бэкендом и компонентами реального времени. • Создание средств наблюдаемости вокруг LLM-конвейеров (логирование промптов/ответов, трассировка, метрики качества).
🎯Требования: • 5+ лет опыта работы в бэкенд-разработке с сильными навыками Python (async, архитектура, производительность). • Подтвержденный опыт работы с LLM в продакшене (не побочные проекты): понимание ограничений, затрат и поведения. • Опыт создания систем на основе агентов или сложной логики оркестрации (конечные автоматы, конвейеры). • Способность делать поведение LLM предсказуемым (структурированные выводы, проверка схем, защитные механизмы). • Сильные навыки отладки в недетерминированных системах. • Глубокое понимание интеграций API (таймауты, повторные попытки, идемпотентность, обратное давление). • Опыт оптимизации задержки и пропускной способности в производственных системах. • Уверенный опыт работы с Docker и понимание производственных сред. • Способность самостоятельно принимать архитектурные решения и брать на себя ответственность. • Сильное инженерное мышление: написание поддерживаемого, масштабируемого, продакшн-готового кода.
🎯Желательно: • Опыт работы с мультиагентными системами, вызов инструментов/функций • Опыт работы с локальными LLM (Ollama, vLLM, GPU inference) • Опыт работы с системами реального времени / голосовыми системами • Наблюдаемость LLM (трассировка промптов, оценки, метрики качества) • Оптимизация затрат в масштабе для использования LLM
🎯Что делает эту роль интересной: • Вы будете работать над основным интеллектуальным уровнем продукта — не просто интеграциями. • Реальные производственные задачи: высокая нагрузка, низкая задержка, требования к надежности. • Прямое влияние на архитектуру системы и технические решения. • Быстрый цикл выполнения — минимальная бюрократия. • Инженерный подход к LLM (надежность, контроль, метрики — а не просто «игра» с промптами). • Сильная инженерная команда, ориентированная на создание реальных систем, а не прототипов.
🎯Кому эта роль НЕ подходит: • Кандидатам без реального опыта работы с LLM в продакшене • Инженерам, полагающимся только на фреймворки без понимания основных механизмов • Разработчикам без опыта работы с системами высокой нагрузки или чувствительными к задержке системами • Людям, сосредоточенным на быстрых «костылях», а не на создании надежных систем
📩 Если вы хотите присоединиться к команде, где все быстро, захватывающе и по-настоящему об ИИ — напишите: Irene_Bakaeva
от 5 лет
Опыт работы
Удаленно
Формат работы
Senior
Грейд
B2 - Выше среднего
Уровень английского
Разработка ИИ
Специализация
AI
Отрасль
Стартап
Тип компании
По стране
Разработка ИИ
Специализация
AI
Отрасль
Стартап
Тип компании