Инженер по генеративному ИИ (LLM)
Мы ищем инженера по генеративному ИИ, который будет отвечать за улучшение языковых моделей платформы — от дообучения и оценки до развертывания. Вы будете сотрудничать с бэкенд-инженерами, отвечающими за инфраструктуру обслуживания, и работать с аналитиками данных и бизнес-стейкхолдерами, которые определяют, как выглядит «хорошая» рекомендация.
Обязанности
- Проводить дообучение с учителем и параметрически эффективную адаптацию (LoRA/QLoRA, адаптеры) и выравнивание на основе предпочтений (DPO, ORPO, методы в стиле RLHF) для формирования тона, структуры вывода и логики рассуждений в предметной области для задач розничной торговли, таких как «следующее лучшее действие» и соответствие контента требованиям.
- Управлять жизненным циклом наборов данных — поиск и курирование примеров из данных платформы и отзывов экспертов, разработка рабочих процессов аннотирования и проверки, дедупликация и очистка от данных, используемых для оценки.
- Генерировать и фильтровать синтетические данные, а также версионировать каждый набор данных, используемый при обучении.
- Снижать затраты и задержку за счет дистилляции в меньшие модели, квантования, пакетной обработки и стратегии кэширования, а также маршрутизации моделей — при этом сохраняя качество выше согласованного порога.
- Упаковывать и развертывать настроенные модели в Vertex AI (или эквивалент), а также управлять версионированием моделей и промптов.
- Отслеживать дрейф и снижение качества в продакшене, а также определять триггер для переобучения и путь отката.
- Внедрять и настраивать элементы управления безопасностью, областью действия и персональными данными (PII), соответствующие корпоративным коммерческим данным, включая поведение отказа и проверку вывода.
- Сотрудничать с коммерческими отделами для преобразования качественных ожиданий («эта рекомендация выглядит неправильно») в обучающий сигнал и измеримые критерии оценки.
Требования
- Опыт работы с дообучением больших языковых моделей (LLM) — минимум SFT и PEFT/LoRA, в идеале оптимизация предпочтений (DPO или аналогичные) — более 5 лет.
- Соответствующий опыт руководства — не менее 1 года.
- Владение Hugging Face Transformers/PEFT/TRL, Axolotl, Unsloth или управляемым тюнингом на Vertex AI / Bedrock / OpenAI.
- Понимание механики обучения, включая токенизацию, длину контекста и упаковку, а также выбор скорости обучения и гиперпараметров.
- Знание катастрофического забывания, переобучения на небольших наборах данных предметной области и ограничений памяти GPU/TPU.
- Экспертиза в оценке LLM — разработка наборов данных для оценки и метрик для генеративных задач, со здоровым скептицизмом в отношении результатов бенчмарков, которые не отражают исходы для пользователей.
- Навыки курирования данных с сильным инстинктом в отношении качества набора данных, а не его количества — руководства по маркировке, согласия между аннотаторами и контроля утечек.
- Знакомство с подводными камнями синтетических данных и стратегиями фильтрации.
- Опыт работы с LLMOps, включая версионирование моделей и промптов, мониторинг дрейфа и управление жизненным циклом переобучения.
- Компетентность в Google Cloud Platform (Vertex AI, GCS, Cloud Run) и рабочих процессах на основе Git.
- Достаточные навыки Python для работы в ноутбуках, скриптах обучения и пайплайнах оценки, а также для адаптации кода существующих фреймворков.
- Отличное владение письменным и устным английским языком (уровень B2+).
Желательно
- Опыт работы с Reinforcement Learning from Human Feedback (RLHF) и методами выравнивания на основе предпочтений.
- Знакомство с техниками дистилляции и квантования (GPTQ, AWQ, GGUF, bitsandbytes) и их влиянием на стоимость и качество.
- Понимание стеков инференса, таких как vLLM, TGI и конечные точки Vertex AI, включая потоковую передачу и влияние на задержку/пропускную способность.
- Знание безопасности LLM, включая механизмы защиты, контроль области применения и обработку PII для корпоративных коммерческих данных.
