Research Engineer - Pre-training

Должность: Инженер-исследователь – предварительное обучение Местоположение: Сан-Франциско / Удаленно

ВЛАДЕЙТЕ СВОИМ ИНТЕЛЛЕКТОМ

Prime Intellect создает открытый стек супер-интеллекта: инфраструктуру, которую передовые AI-лаборатории разрабатывают для внутреннего использования, делая ее доступной для каждой амбициозной AI-команды.

Наша платформа, Lab, объединяет вычислительные мощности, среды, оценки, безопасные песочницы, высокопроизводительное обучение и развертывание в единую полнофункциональную систему для пост-обучения в масштабе передовых разработок — от SFT и RL до использования инструментов, рабочих процессов агентов и постоянно улучшаемых производственных моделей. Мы создаем открытый передовой AI: модели с открытым исходным кодом, обученные от начала до конца для выполнения долгосрочных задач, таких как автономные исследования, и полную платформу, которую использует наша собственная исследовательская команда для их создания. Следующему поколению AI-компаний, предприятий и исследовательских команд нужны не просто больше GPU. Им нужна возможность превратить свои собственные рабочие процессы, инструменты, данные и циклы обратной связи в супер-интеллект, которым они владеют.

Prime Intellect привлек $150 млн общего финансирования от Founders Fund, Radical Ventures, NVIDIA и выдающихся специалистов в области AI, инфраструктуры и корпоративного сектора, включая Андрея Карпатого, Дваркеша Пателя, а также лидеров и основателей Ramp, Perplexity, Harvey, Mercor, Zapier, Datadog, Cognition, OpenAI, Thinking Machines, Together AI, SemiAnalysis, LangChain, Browserbase, Cloudflare, Sierra, Databricks, Airbnb, OpenRouter, Standard Intelligence, Fleet, Core Auto и других. Мы ищем людей, которые хотят создавать на стыке передовых исследований, реальной инфраструктуры и выхода на рынок для категории, которая еще полностью не существует.

ВЛИЯНИЕ РОЛИ

Вы будете отвечать за развитие наших следующих открытых моделей Prime Intellect, от архитектурных экспериментов до полномасштабного предварительного обучения с масштабированием до 1–3 трлн параметров. Вы будете работать над моделью и стеком обучения, принимая исследовательские решения и устраняя системные проблемы, которые определяют успех запуска.

ОБЯЗАННОСТИ

• Создание и расширение кода предварительного обучения в prime-rl, переводя небольшие эксперименты в полные циклы обучения.

• Оценка изменений архитектуры модели, включая MoE и конструкции внимания, с точки зрения качества модели и стоимости обучения.

• Профилирование задач обучения и повышение общей пропускной способности, работая с системными инженерами над выполнением с учетом аппаратного обеспечения.

• Обеспечение отказоустойчивости длительных запусков, с надежным сохранением контрольных точек и восстановлением.

• Исследование динамики обучения и численной стабильности, проверка того, что оптимизации сохраняют сходимость.

• Проведение контролируемых абляций для направления более крупных экспериментов, сохраняя воспроизводимость настройки и результатов.

• Работа с исследователями данных и оценки над смесями обучения, включая эксперименты в середине обучения и с длительным контекстом.

ТРЕБОВАНИЯ

• Практический опыт обучения языковых моделей, включая модификацию кода обучения и отслеживание его эффектов в реальных запусках.

• Отличные навыки Python и опыт работы с PyTorch или аналогичным фреймворком, с достаточным пониманием систем для отладки распределенного обучения.

• Практическое понимание архитектур моделей и оптимизации, включая их влияние на сходимость.

• Способность разработать абляцию, отвечающую на исследовательский вопрос, и объяснить, что показывают ее результаты, а что нет.

• Хорошее понимание того, что следует расследовать самостоятельно, а когда следует привлечь коллегу.

ПРЕИМУЩЕСТВА И БОНУСЫ

• Диапазон денежной компенсации $150–350 тыс. долларов США, включая опционы на акции, что соответствует вашему успеху росту и влиянию Prime Intellect.

• Гибкие условия работы с возможностью работать удаленно или в офисах в Сан-Франциско.

• Спонсорство виз и помощь с переездом для международных кандидатов.

• Ежеквартальные выездные совещания команды, хакатоны, конференции и возможности для обучения.

• Возможность работать с талантливой, усердной и целеустремленной командой, объединенной общей страстью к использованию технологий для ускорения развития науки и AI.

Если вас привлекает возможность построить основу для будущего децентрализованного AI и создать платформу, которая позволит разработчикам и исследователям расширять границы возможного, мы будем рады услышать вас.