Research Scientist, Post-Training

Название: Научный сотрудник, Пост-тренинг Местоположение: Штаб-квартира Сан-Матео / Гибридный формат

О КОМПАНИИ

Модели — это то, что они едят. Но большая часть вычислительных ресурсов, затрачиваемых на обучение, тратится впустую на обучение на данных, которые уже изучены, нерелевантны или даже вредны, что приводит к созданию худших моделей, обучение и развертывание которых обходится дороже.

В DatologyAI мы создали передовой набор инструментов для курирования данных, который автоматически курирует петабайты данных для создания наилучших возможных обучающих данных для ваших моделей. Обучение на отобранных данных может значительно сократить время и стоимость обучения (в 7-40 раз быстрее, в зависимости от конкретного случая использования), значительно повысить производительность модели, как если бы вы обучались на >10 раз большем количестве необработанных данных без увеличения стоимости обучения, и позволить меньшим моделям с менее чем половиной параметров превосходить более крупные модели, несмотря на использование гораздо меньших вычислительных ресурсов на этапе вывода, существенно снижая стоимость развертывания. Для получения более подробной информации ознакомьтесь с нашими недавними исследованиями по масштабированию синтетических данных (BeyondWeb) и предварительному обучению с использованием данных, специфичных для конкретной предметной области (The Finetuner’s Fallacy).

Мы привлекли в общей сложности 57,5 млн долларов США в двух раундах: Seed и Series A. Среди наших инвесторов — Felicis Ventures, Radical Ventures, Amplify Partners, Microsoft, Amazon и визионеры в области ИИ, такие как Джефф Хинтон, Ян ЛеКун, Джефф Дин и многие другие, которые глубоко понимают важность и сложность определения и оптимизации наилучших возможных обучающих данных для моделей. Наша команда стала пионером в этой передовой исследовательской области и обладает глубокой экспертизой как в исследованиях данных, так и в инженерии данных, необходимой для решения этой невероятно сложной задачи и облегчения курирования данных для всех, кто хочет обучить свою собственную модель на своих собственных данных.

Эта должность предполагает работу в Сан-Матео, Калифорния. Мы работаем в офисе 4 дня в неделю.

О РОЛИ

Мы ищем Научного сотрудника для руководства работой по курированию данных после обучения для фундаментальных моделей. Вы будете разрабатывать и внедрять алгоритмы для генерации и улучшения инструкций, предпочтений и других наборов данных после обучения. Вы также поможете преодолеть разрыв между предварительным обучением и пост-тренингом, исследуя, как совместно оптимизировать данные на разных этапах. Эта роль требует сильного научного суждения, свободного владения литературой по глубокому обучению и стремления превращать исследовательские идеи в реальное влияние. Вы будете работать автономно, тесно сотрудничать с инженерами и командами по продуктам, а также формировать будущее курирования данных в DatologyAI.

НАД ЧЕМ ВЫ БУДЕТЕ РАБОТАТЬ

• Курирование данных после обучения. Вы будете проводить исследования по алгоритмическому курированию данных после обучения — например, как генерировать и улучшать данные предпочтений и следования инструкциям, как курировать данные, специфичные для возможностей и предметной области, и делать пост-тренинг более эффективным, управляемым и обобщаемым.

• Объединение курирования данных до и после обучения. Расширение возможностей моделей требует объединения курирования данных до и после обучения. Вы будете заниматься исследованиями по сквозному курированию данных: как курировать данные предварительного обучения для улучшения возможности моделей после обучения и как совместно оптимизировать курирование данных до и после обучения, все для максимизации конечной производительности пост-обученных моделей.

• Преобразование сложной литературы в практические улучшения. Исследовательская литература обширна, полна неоднозначности и постоянно развивается. Вы будете использовать свои навыки ученого для поиска, проверки, внедрения и улучшения перспективных идей из литературы и собственных разработок.

• Проведение исследований, обусловленных реальными потребностями. В DatologyAI мы понимаем, что рецензенты конференций и академические бенчмарки не всегда стимулируют наиболее значимые исследования. Ваши исследования будут руководствоваться конкретными потребностями клиентов и улучшениями продуктов.

КАК ВЫ БУДЕТЕ РАБОТАТЬ

• Никто не знает, как лучше выполнять вашу работу, кроме вас. Мы считаем, что ученые достигают наилучших результатов, когда у них есть автономия для решения проблем предпочтительным для них способом, и мы позаботимся о том, чтобы вы были обеспечены контекстом и ресурсами, необходимыми для успеха.

• Наука — это больше, чем просто эксперименты. Мы ожидаем, что наши научные сотрудники будут тесно сотрудничать с инженерами, общаться с клиентами и формировать видение продукта.

О ВАС

• 3+ года опыта исследований в области глубокого обучения

• Опыт пост-тренинга больших моделей для зрения, языка и мультимодальных моделей

• Разработка алгоритмов пост-тренинга, курирование данных и/или методы синтетических данных для:

  • Тонкая настройка на основе предпочтений (например, DPO, RLVR, RRHF)
  • Альтернативные методы супервизии и самосупервизии, такие как самообучение и дистилляция цепочки мыслей (chain-of-thought distillation)
  • SFT (например, тонкая настройка на инструкциях и тонкая настройка на демонстрациях)

• Опыт разработки инструментов и инженерии пост-тренинга

• Глубокое понимание основ глубокого обучения

• Достаточные навыки программной инженерии + фреймворков глубокого обучения (PyTorch или готовность изучить PyTorch) для проведения крупномасштабных исследовательских экспериментов и создания производственных прототипов.

• Подтвержденный успешный опыт исследований в области глубокого обучения, будь то публикации, инструменты или другие исследовательские артефакты.

Желательно

• Опыт работы с решениями по управлению данными и распределенной обработке данных (например, Spark, Snowflake и т. д.)

• Опыт создания и выпуска ML-продуктов

Кандидатам не обязательно иметь степень PhD или большое количество публикаций. Некоторые из лучших исследователей, с которыми мы работали, не имеют формального образования в области машинного обучения и получили весь свой опыт, работая в индустрии и создавая продукты. Мы считаем, что адаптивность в сочетании с исключительными коммуникативными навыками и навыками сотрудничества являются наиболее важными составляющими для успешных исследований в стартап-среде.

КОМПЕНСАЦИЯ

В DatologyAI мы стремимся вознаграждать талант конкурентоспособной заработной платой и значительными опционами. Диапазон заработной платы для этой должности составляет от 180 000 до 300 000 долларов США.

• Начальная оплата основана на профессиональных навыках, опыте, квалификации и результатах собеседования.

ЛЬГОТЫ

• 100% покрытие медицинских услуг (медицинское страхование, зрение и стоматология).

• План 401(k) с щедрым соответствием компании в 4%.

• Политика неограниченного PTO.

• Оплачиваемый отпуск по уходу за ребенком в размере 12 недель, плюс 6 месяцев гибкого графика работы из дома.

• Ежегодный стипендиум на оздоровление в размере 2000 долларов США.

• Ежегодный стипендиум на обучение и развитие в размере 1000 долларов США.

• Ежедневные обеды и закуски предоставляются в нашем офисе!

• Помощь при переезде для сотрудников, переезжающих в район Залива.