Deep Learning Research Engineer Intern

Должность: Инженер-исследователь в области глубокого обучения, стажер Местоположение: 2 локации

Местоположение: Бостон, Массачусетс, США Местоположение: Массачусетс, США - Удаленно Трудоустройство: Полный рабочий день

Описание вакансии: DataRobot предоставляет ИИ, который максимизирует отдачу и минимизирует бизнес-риски. Наша платформа и приложения интегрируются в основные бизнес-процессы, чтобы команды могли разрабатывать, внедрять и управлять ИИ в масштабе. DataRobot расширяет возможности специалистов для создания прогнозирующего и генеративного ИИ, а руководителям позволяет защищать свои ИИ-активы. Организации по всему миру полагаются на DataRobot для получения ИИ, который имеет смысл для их бизнеса — сегодня и в будущем.

Эта работа посвящена созданию многоцелевой совместной вероятностной фундаментальной модели, которая может использоваться в различных отраслях для решения некоторых из самых сложных реальных проблем. Амбиции выходят за рамки того, что обычно делают табличные и временные фундаментальные модели: одна модель должна поддерживать прогнозирование во времени, неупорядоченную табличную регрессию и классификацию, завершение пропущенных данных, а также входные и выходные данные смешанных модальностей, при этом изучая согласованную совместную структуру между связанными переменными, строками, горизонтами и сценариями. Основная цель — создать реальную ценность в серьезных сценариях использования, а не просто оптимизировать показатели в бенчмарках, хотя ожидается, что сильные результаты на стандартных бенчмарках последуют вскоре.

Эта роль предназначена для стажировки в области исследований и инженерии для человека, находящегося на уровне постдока или очень близко к нему, который хочет сформировать архитектуру вероятностной фундаментальной модели. Центр тяжести — это сама модель: кодеры, которые считывают временные, табличные и смешанные входные данные, механизмы внимания и последовательностей, которые переносят структуру между переменными, строками и горизонтами, а также выходные головы распределения и схемы декодирования, которые превращают скрытые состояния в согласованные совместные прогнозы. Мы ищем человека, который может точно рассуждать о том, что может, а что не может представить архитектура, а затем реализует, обучает и оценивает полученные модели PyTorch в кодовой базе производственного качества. Знания в области стохастического моделирования являются большим плюсом, а не предварительным требованием: модель обучается на синтетических данных, полученных из стохастических динамик, поэтому кандидат, который также может рассуждать о стохастических дифференциальных уравнениях и разрабатывать генераторы синтетических данных, может внести свой вклад в обе стороны цикла обучения.

Обязательные навыки:

• Отличные навыки работы с PyTorch и практический опыт создания и обучения глубоких моделей.
• Глубокое понимание Трансформеров, вариантов внимания, а также архитектур для длинных контекстов или последовательностей в пространстве состояний, включая компромиссы между качеством, памятью и задержкой.
• Опыт вероятностного моделирования в нейронных сетях: выходные головы распределения, потери на основе правдоподобия или правил надлежащей оценки, смеси или потоковые модели, а также связанные с ними настройки обучения с учетом неопределенности.
• Прочная основа в области вероятности и статистики, достаточная для рассуждений о плотностях и массах, зависимостях между переменными и калибровке.
• Способность связывать архитектурные идеи с работающими реализациями, оптимизированными для GPU, контролируемыми экспериментами и диагностикой, показывающей, почему изменение помогло.
• Сильные инженерные привычки: читаемый код, тесты, воспроизводимые эксперименты и дисциплинированная оценка изменений модели.
• Способность отлаживать нестабильность обучения, рассуждать о причинах изменения результатов и быстро итерировать от гипотезы к доказательствам.

Большой плюс:

• Рабочее знание стохастических процессов и стохастических дифференциальных уравнений: дрейф и диффузия, скачки, переключение режимов, возврат к среднему, тяжелые хвосты и как такие динамики численно моделируются.
• Опыт разработки генераторов синтетических данных или учебных программ на основе моделирования, а также понимание того, как распределение обучения влияет на то, что модель изучает.
• Глубокие знания в области с богатой стохастической структурой, такой как финансы, энергетика, сырьевые товары или аналогичная количественная область.
• Знакомство с табличным или смешанным глубоким обучением: категориальные, порядковые, счетные и ограниченные целевые переменные наряду с непрерывными.

Чем предстоит заниматься:

• Разработка и улучшение основной архитектуры модели: входные кодеры для временных, неупорядоченных табличных и смешанных данных; факторные представления внимания по переменным, строкам и горизонтам; выходные головы распределения и стратегии декодирования, которые производят согласованные совместные выборки.
• Проведение контролируемых архитектурных исследований, от абляций и поведения при масштабировании до профилей памяти и пропускной способности, и преобразование результатов в проектные решения.
• Создание масштабируемых реализаций PyTorch, которые поддерживают большие входные и выходные пространства, лучшую пропускную способность и более строгие ограничения по памяти.
• Изучение того, как архитектурные решения, решения по генерации данных и ограничения на вывод взаимодействуют, изменяя качество бенчмарков и полезность в реальном мире.
• Для кандидатов с опытом стохастического моделирования: расширение механизма генерации синтетических данных за счет более богатых стохастических динамик, ограничений, структур зависимостей, тяжелых хвостов и поведения режимов.
• Превращение исследовательских идей в надежные реализации и достоверные эмпирические результаты.

Что вы можете ожидать:

• Работа, которая находится в центре проекта, а не на периферии.
• Быстрый исследовательский цикл, где хорошие идеи могут быстро перейти от гипотезы к реализации и тестированию.
• Реальная возможность внести вклад в исследования, нацеленные на результаты высшего уровня, передовые результаты, а не только на инкрементальную внутреннюю работу.
• Команда, которая ценит как строгие рассуждения, чистый код, так и практическую полезность.
• Ознакомление с проблемами, которые сочетают глубокое обучение, стохастическое моделирование и реальные ограничения развертывания, вместо того чтобы изолировать только одно из этих измерений.
• Роль, подходящая для человека с широкими интересами, который хочет работать как над передовым моделированием, так и над серьезной инженерной работой, а не оставаться узкоспециализированным.

Таланты и преданность наших сотрудников — основа пути DataRobot к тому, чтобы стать знаковой компанией. Мы стремимся привлекать и удерживать лучшие таланты, предлагая конкурентоспособную оплату и льготы, ориентированные на благополучие наших сотрудников. Ваш пакет льгот может включать в себя (в зависимости от вашего местоположения и местных законодательных требований): Медицинское, стоматологическое и офтальмологическое страхование, Программа гибкого отпуска, Оплачиваемые праздники, Оплачиваемый отпуск по уходу за ребенком, Глобальная программа поддержки сотрудников (EAP) и многое другое!

Принципы работы DataRobot:

• Восхищать наших клиентов
• Устанавливать высокие стандарты
• Быть лучше, чем вчера
• Быть строгим
• Исходить из позитивных намерений
• Проводить трудные беседы
• Быть лучше вместе
• Обсуждать, принимать решение, выполнять
• Достигать результатов
• Предоставлять избыточную информацию

Исследования показывают, что многие женщины подают заявки на вакансии только тогда, когда соответствуют 100% требований, в то время как многие мужчины подают заявки, когда соответствуют 60%. В DataRobot мы призываем ВСЕХ кандидатов, особенно женщин, цветных людей, ЛГБТК+ лиц, людей с ограниченными возможностями и представителей других маргинализированных групп, подавать заявки на наши вакансии, даже если вы не соответствуете всем критериям. Мы будем рады обсудить с вами возможность и посмотреть, подходите ли вы.

DataRobot с гордостью является работодателем, соблюдающим принципы равных возможностей трудоустройства и позитивных действий. Мы не дискриминируем по признаку расы, религии, цвета кожи, национального происхождения, пола (включая беременность, роды или связанные с ними медицинские состояния), сексуальной ориентации, гендерной идентичности, гендерного самовыражения, возраста, статуса защищенного ветерана, статуса лица с ограниченными возможностями или других применимых юридически защищенных характеристик. DataRobot стремится работать с лицами с физическими и умственными недостатками и предоставлять им разумные приспособления. Пожалуйста, ознакомьтесь с плакатом EEO Министерства труда США и дополнением к плакату EEO для получения дополнительной информации.

Использование искусственного интеллекта в нашем процессе найма DataRobot использует утвержденные инструменты на базе ИИ для поддержки процесса найма в выбранных регионах. Эти инструменты могут помогать в написании описаний вакансий, рассмотрении заявок, оценке квалификации и оценке материалов кандидата. Все решения относительно заявок принимаются членами команды DataRobot.

Все данные кандидатов, представленные нам, обрабатываются в соответствии с нашей Политикой конфиденциальности кандидатов.