AI Engineer - Reinforcement Learning

Кто мы

В Logical Intelligence мы революционизируем разработку программного обеспечения с помощью формальной верификации на базе ИИ. Мы разработали новаторские агенты, которые обеспечивают математические гарантии корректности кода, гарантируя, что программное обеспечение ведет себя точно так, как задумано, при этом проактивно выявляя ошибки и уязвимости безопасности. Наша новая базовая модель обеспечивает масштабируемое, точное рассуждение для формально верифицируемого кода в Rust, Golang и виртуальных машинах смарт-контрактов. Мы выиграли известный бенчмарк по формальной верификации под названием PutnamBench, который состоит из 672 сложных математических задач из William Lowell Putnam Exam, старейшего североамериканского студенческого математического конкурса. При поддержке команды мирового класса – включая чемпионов ICPC, обладателя медали Филдса и лауреата премии ACM Turing Award – мы строим будущее, в котором весь код будет доказуемо корректен.

О роли

Присоединяйтесь к нашей команде в качестве инженера по ИИ и помогите нам раздвинуть границы возможного в области логических рассуждений! Мы ищем мотивированного специалиста для проектирования, внедрения и совершенствования эффективных конвейеров моделей больших языков (LLM) для масштабированного распределенного обучения. Вы будете на переднем крае разработки и совершенствования алгоритмов, выходящих за рамки возможностей традиционных LLM. Вы будете тесно сотрудничать с талантливой командой экспертов по ИИ, специалистов по EBM, инженеров по формальной верификации и разработчиков программного обеспечения для создания новаторских решений.

Что вы будете делать

• Реализовывать новые алгоритмы и модели рассуждений
• Оценивать подходы к рассуждению, включая рассуждение в скрытом пространстве
• Предварительно обучать, дообучать и модифицировать современные LLM
• Оптимизировать и масштабировать конвейеры LLM
• Настраивать фреймворки и интерфейсы для ускорения разработки машинного обучения
• Разрабатывать практические решения и интегрировать их с результатами других команд для обеспечения наилучшего общего решения

Квалификация

• Глубокое понимание внутренних механизмов трансформеров и способность вносить радикальные изменения в архитектуру и обрабатывать производные более высокого порядка
• Опыт работы с языками программирования и инструментами, критически важными для высокопроизводительных вычислений на Python/C++ и машинного обучения, включая фреймворки глубокого обучения, такие как PyTorch /TensorFlow/JAX
• Опыт оптимизации систем машинного обучения, включая общие методы и оптимизации, специфичные для LLM
• Понимание современных подходов к рассуждению LLM
• Способность понимать сложные подходы к обучению, такие как энергетические модели (EBM)
• Опыт работы с базовыми методами распределенной оптимизации
• Знакомство с torch.compile или аналогичными инструментами оптимизации производительности
• Понимание архитектур LLM и внутренних механизмов дообучения LLM
• 3+ года производственного опыта в ML Infra, DataOps, распределенном обучении. Владение кластерами Kubernetes и распределенными вычислительными ресурсами
• Сильные навыки коммуникации и командной работы
• Готовность исследовать и продвигать передовые технологии в области инфраструктуры ML и за ее пределами

Бонусные баллы:

• Демонстрируемые публикации на любых крупных конференциях
• Опыт работы с EBM или латентным рассуждением
• Демонстрируемые публикации на любых крупных конференциях
• Математическое рассуждение – дискретная математика и логика