Research Scientist

О Cantina:

Cantina Labs — компания, специализирующаяся на социальном ИИ, разрабатывающая набор передовых моделей реального времени, которые расширяют границы выразительности, индивидуальности и реализма. Мы оживляем персонажей, трансформируя то, как люди рассказывают истории, общаются и творят. Мы создаем и поддерживаем экосистемы. Cantina, наша флагманская платформа социального ИИ, — это только начало.

О роли:

Cantina расширяется, и мы ищем Research Scientist, который присоединится к нашей растущей команде в Сингапуре! В этой роли вы будете проводить фундаментальные исследования моделей генерации видео, отвечая за полный исследовательский цикл и проводя исследования после обучения. Кроме того, вы будете тесно сотрудничать с командами по данным, инфраструктуре и смежным моделям, чтобы преобразовывать результаты исследований в устойчивые улучшения моделей.

Чем вы будете заниматься:

• Создавать и поддерживать масштабируемые системы для приема, предварительной обработки и предоставления крупномасштабных видеоданных для обучения моделей

• Разрабатывать и масштабировать распределенные конвейеры данных для предварительной обработки, генерации наборов данных и повторного обновления наборов данных

• Отвечать за оркестровку рабочих процессов, планирование заданий, мониторинг и восстановление после сбоев для крупномасштабных заданий обработки данных

• Реализовывать и поддерживать контейнерную инфраструктуру конвейеров с использованием Kubernetes или эквивалентных систем оркестровки

• Оптимизировать облачное хранилище данных и их перемещение между поставщиками (AWS, GCS или Azure) для снижения затрат, повышения пропускной способности и операционной эффективности

• Определять и внедрять лучшие практики для структуры хранения данных, версионирования, кэширования, хранения и моделей доступа

• Создавать инструменты для поддержки рабочих процессов дедупликации в больших масштабах, включая конвейеры приближенной дедупликации для больших видеокорпусов

• Исследовать и разрабатывать методы дистилляции для крупномасштабных диффузионных и потоковых моделей генерации видео, включая дистилляцию на основе рекомендаций и состязательную дистилляцию, с акцентом на сохранение или улучшение качества генерации при снижении стоимости вывода

• Разрабатывать модели вознаграждения и конвейеры тонкой настройки на основе предпочтений, которые согласовывают качество генерации видео с суждениями человека по таким параметрам, как эстетика, качество движения и соответствие запросу

• Анализировать взаимосвязь между поведением базовой модели и результатами после обучения, и работать с командой фундаментальных моделей, чтобы соответствующим образом информировать решения по предварительному обучению

Что вы принесете:

• Большой практический опыт создания или масштабирования крупномасштабных систем или конвейеров данных для рабочих процессов машинного обучения

• Опыт работы с распределенными фреймворками обработки данных, такими как PySpark или Ray, и инструментами оркестровки, такими как Airflow или эквиваленты

• Знакомство с контейнеризацией и оркестровкой контейнеров, включая Docker и Kubernetes

• Опыт работы с облачным хранилищем данных и вычислениями (AWS, GCS и/или Azure), включая компромиссы между стоимостью, пропускной способностью, структурой хранения и моделями доступа

• Знакомство с инструментами обработки видео и мультимедиа, такими как FFmpeg, PyAV, DALI или OpenCV

• Знакомство с мультимодальными или медийными данными, включая видео, изображения, текст и аудио

• Сильный исследовательский опыт в области методов постобучения для крупномасштабных диффузионных или потоковых генеративных моделей, с глубоким практическим опытом дистилляции как для эффективности вывода, так и для сохранения качества

• Опыт работы с моделированием вознаграждения или тонкой настройкой на основе предпочтений для генеративных моделей, включая RLHF, DPO или эквивалентные подходы к выравниванию

• Твердое понимание взаимодействия между предварительным обучением и постобучением, а также того, как свойства базовой модели влияют на результаты дистилляции и тонкой настройки

• Владение Python и современными фреймворками машинного обучения, с предпочтением PyTorch или JAX

• Подтвержденный опыт самостоятельных исследований, способность доводить проекты от первоначальной идеи до экспериментального подтверждения

• Публикации на ведущих площадках (NeurIPS, ICML, ICLR, CVPR, ICCV, ECCV) приветствуются

• Хорошее понимание практических проблем, связанных с созданием надежных, масштабируемых и воспроизводимых рабочих процессов обработки данных для систем машинного обучения

Преимущества, которые мы предлагаем:

• Конкурентная заработная плата и щедрые опционы компании

• Личное время отдыха и оплачиваемые праздники

• Медицинская страховка

• Глобальная туристическая страховка: покрывает вас при международных поездках

• Ежемесячный бюджет на расходы: $500 (~S$635)

• Оборудование: Все необходимое оборудование для вашего домашнего офиса