Data Scientist for Auto-moderation Team

Команда Доверие и безопасность

Локация Москва, гибрид или удалённая работа

В работе мы ставим амбициозные цели и не останавливаемся на достигнутом. Поэтому для нас так важно, чтобы каждый участник большой команды Авито разделял культуру компании. Погрузиться в неё помогает Манифест, в котором собраны наши основные ориентиры — миссия, ценности, принципы работы.

О команде

Мы — команда Automated Moderation в юните «Автомодерация» направления Trust & Safety. Развиваем инструменты доверия и безопасности на платформе: помогаем проверять контент и снижать риск появления материалов, которые нарушают правила Авито.

Мы разрабатываем и поддерживаем ML-систему проверки объявлений: анализируем текст, фото и параметры, автоматизируем проверки и снижаем нагрузку на ручную модерацию.

Основной проект — развитие LLM-модерации, около 80% рабочего времени. Система уже работает в продакшене: классические модели находят потенциальные нарушения, а LLM проверяют их по правилам Авито. Мы улучшаем промпты, дообучаем LLM- и VLM-модели, автоматизируем эксперименты с помощью AI-агентов.

Ищем DS-инженера полного цикла, который будет вести решения от постановки задачи и работы с данными до инференса, мониторинга и оценки влияния на продукт. Помимо основного проекта, будут задачи автомодерации с текстом, изображениями и видео.

Какие задачи вас ждут:

• развивать LLM-проверки: переводить регламенты модерации в инструкции для моделей, разбирать ошибки и улучшать качество решений;
• строить воспроизводимые эксперименты: сравнивать модели, промпты, состав входных данных и пороги принятия решений;
• применять и развивать автоматическую оптимизацию промптов, дообучать модели и LoRA-адаптеры там, где это оправдано качеством и стоимостью;
• готовить датасеты: организовывать сбор и разметку, проверять качество данных и репрезентативность выборок;
• встраивать решения в пайплайны автомодерации и обеспечивать стабильную работу в продакшене: учитывать качество, задержки, вычислительную стоимость и риски ошибок;
• настраивать мониторинг качества и деградаций, алерты и регулярные итерации улучшений;
• оценивать влияние решений на продуктовые и бизнес-метрики.

Мы ждём, что вы:

• умеете проводить полный цикл ML-разработки: от работы с данными и моделью до продакшена, мониторинга и проверки влияния с помощью A/B-тестов или эквивалентных подходов;
• имеете большой опыт в NLP или значимый опыт вывода и сопровождения моделей в продакшене;
• работали с LLM в прикладных задачах и умеете проверять качество решений на данных;
• дообучали LLM и VLM, работали с LoRA, PEFT и оптимизацией инференса, например с vLLM;
• уверенно владеете Python и DS-стеком: NumPy, pandas, scikit-learn, CatBoost или аналогами, умеете работать с DL-фреймворками, например PyTorch;
• понимаете, как выбирать методы под задачу и аргументировать компромиссы между качеством, стоимостью, скоростью и рисками;
• умеете оценивать качество моделей при запуске и отслеживать его изменение во времени: дрейф, деградации, проблемы данных;
• пишете SQL-запросы на уровне, достаточном для анализа данных и диагностики качества;
• читаете англоязычную техническую литературу.

Будет здорово, если вы:

• имеете опыт в модерации, Trust & Safety или антифроде;
• разрабатывали инструменты для AI-агентов, MCP-серверы или автоматизировали с их помощью ML-процессы;
• знакомы с практиками MLOps: Kubeflow, K8s, feature store, MLflow;
• настраивали мониторинг и алерты в Grafana, участвовали в A/B-тестах и канареечных релизах;
• использовали LLM в прикладных задачах;
• работали с CV или мультимодальными задачами, например VLM.

Работа у нас — это:

• масштабный инженерный процесс, где вы можете участвовать во всех этапах работы над ML-решением;
• интересные развивающие задачи и влияние на продуктовые и бизнес-метрики;
• культура взаимопомощи и обмена опытом;
• прозрачный карьерный трек и инструменты для роста: семинары, менторство, митапы;
• расширенная забота о здоровье: ДМС, страхование жизни, онкострахование;
• сервис психологической поддержки, а также финансовые, юридические и ЗОЖ-консультации для вас и ваших близких;
• корпоративный спорт: групповые тренировки, велбиинг-приложение;
• спецпредложения от партнёров и скидки на сервисы Авито: бронирование жилья, услуги продвижения, ипотечное страхование;
• компенсация питания.