Ведущий инженер по ИИ / RAG: Локальная платформа знаний
Eventum AI — это консалтинговая компания в области инженерии ИИ, которая создает производственные системы LLM, RAG, агентов и системы анализа документов.
Обязанности:
- Руководство архитектурой и практическая реализация производственной RAG / платформы знаний
- Создание системы приема документов из Google Workspace, PDF, сканов, таблиц и изображений
- Реализация поиска с учетом разрешений с применением ACL во время запроса
- Создание гибридного поиска, эмбеддингов, реранкинга и генерации с поддержкой цитирования
- Развертывание и бенчмаркинг открытых моделей с использованием vLLM или аналогичной инфраструктуры
- Создание систем оценки/регрессии для поиска, качества ответов, безопасности и обновлений моделей
- Ответственность за производственное развертывание, наблюдаемость, CI/CD, документацию и передачу
- Прямая работа с старшей командой Eventum и техническим руководством клиента
Требования:
- Более 6 лет профессионального опыта в разработке ПО / ML
- Значительный опыт создания производственных LLM/RAG систем
- Отличные навыки Python / backend-инженерии
- Практический опыт работы с эмбеддингами, векторным поиском, реранкингом и конвейерами документов
- Опыт обслуживания открытых LLM с использованием vLLM, SGLang, Triton, TGI или аналогичных
- Сильные навыки в области облачных вычислений / инфраструктуры; Azure, Docker, Terraform/Kubernetes и CI/CD особенно важны
- Опыт оценки LLM и производственной надежности
- Готовность брать на себя ответственность за ML, backend, данные и инфраструктуру, а не работать в узкой специализации
Необязательно:
- Google Workspace API и разрешения
- pgvector/Qdrant
- BM25 + плотный поиск
- OCR/анализ документов
- мультимодальные модели
- Prometheus/Grafana
- среды без исходящего трафика или чувствительные к безопасности
