Machine Learning Engineer

О Cantina:

Cantina Labs — это компания, занимающаяся социальным ИИ, разрабатывающая набор передовых моделей реального времени, которые расширяют границы выражения, индивидуальности и реализма. Мы оживляем персонажей, трансформируя то, как люди рассказывают истории, общаются и творят. Мы создаем и управляем экосистемами. Cantina, наша флагманская платформа социального ИИ, — это только начало.

О роли:

Cantina расширяется, и мы ищем инженера по машинному обучению, который присоединится к нашей растущей команде в Сингапуре! На этой должности вы будете создавать и масштабировать системы для приема, обработки и предоставления больших объемов видео- и мультимодальных данных для обучения моделей. Вы будете отвечать за весь конвейер — от необработанного контента до курируемых, отфильтрованных и готовых к обучению наборов данных — с упором на скорость, надежность, воспроизводимость и экономическую эффективность. Вы будете тесно сотрудничать с командами по курированию и моделированию для операционализации развивающихся рецептов наборов данных и итерации подходов, которые улучшают результаты модели.

Что вы будете делать:

• Проектировать и масштабировать распределенные конвейеры данных для предварительной обработки, генерации наборов данных и повторного обновления наборов данных

• Управлять оркестровкой рабочих процессов, планированием заданий, мониторингом и восстановлением после сбоев для крупномасштабных заданий обработки данных

• Реализовывать и поддерживать инфраструктуру конвейеров в контейнерах с использованием Kubernetes или эквивалентных систем оркестрации

• Оптимизировать облачное хранилище данных и перемещение данных между поставщиками (AWS, GCS или Azure) с точки зрения затрат, пропускной способности и операционной эффективности

• Определять и внедрять лучшие практики для структуры хранения наборов данных, версионирования, кэширования, хранения и шаблонов доступа

• Проектировать и внедрять конвейеры курирования, которые определяют, какой видео- и графический контент выбирается, фильтруется и сохраняется для обучения моделей, включая наборы данных пар «изображение-текст», используемые в совместных режимах обучения

• Создавать и улучшать рабочие процессы маркировки и генерации метаданных на основе VLM в больших масштабах как для видео-, так и для графических данных

• Разрабатывать и применять модели оценки качества и эстетики, семантическую фильтрацию на основе CLIP и другие подходы к извлечению сигналов для выбора данных

• Создавать инструменты для поддержки крупномасштабных рабочих процессов дедупликации, включая конвейеры близкой к точной и точной дедупликации для больших видеокорпусов

• Анализировать состав наборов данных, выявлять проблемы качества и итерировать логику курирования для улучшения результатов обучения

• Определять и развивать стандарты того, что представляет собой высококачественные, готовые к обучению видеоданные для различных режимов обучения

Что вы принесете:

• Богатый практический опыт создания или масштабирования крупномасштабных систем и конвейеров данных для машинного обучения, включая курирование, фильтрацию и улучшение качества наборов данных

• Опыт работы с распределенными фреймворками обработки данных, такими как PySpark или Ray, и инструментами оркестрации, такими как Airflow или эквивалентные

• Знакомство с контейнеризацией и оркестрацией контейнеров, включая Docker и Kubernetes

• Опыт работы с облачными хранилищами данных и вычислениями (AWS, GCS и/или Azure), включая компромиссы между затратами, пропускной способностью, структурой хранения и шаблонами доступа

• Опыт работы с конвейерами маркировки на основе VLM или моделями оценки качества/эстетики для видео- или графических данных, включая курирование наборов данных пар «изображение-текст» для совместного обучения изображений и видео

• Знакомство с методами фильтрации на основе CLIP или эмбеддингов и методами семантического выбора данных

• Знакомство с инструментами обработки видео и мультимедиа, такими как FFmpeg, PyAV, DALI или OpenCV, и соответствующими библиотеками, такими как Decord, torchvision, PyTorchVideo или torchaudio

• Владение Python

• Сильные навыки решения проблем, коммуникации и документирования

Преимущества, которые мы предлагаем:

• Конкурентоспособная заработная плата и щедрые опционы компании

• Личное время отдыха и оплачиваемые праздники

• Медицинская страховка

• Глобальная туристическая страховка: Покрывает вас при международных поездках

• Ежемесячный бюджет на расходы: 500 долларов США (~635 сингапурских долларов)

• Оборудование: Все необходимое оборудование для вашего домашнего офиса