ML Silicon Performance Lead

Подразделение аппаратного обеспечения OpenAI разрабатывает собственные аппаратные решения и системные решения для уникальных требований передовых рабочих нагрузок ИИ. Опираясь на такие проекты, как Jalapeño, команда разрабатывает следующее поколение собственных аппаратных решений для ИИ и тесно интегрированные системы для поддержки следующего поколения передовых моделей. Совместно разрабатывая чипы, системы, инструменты и методологии, команда помогает создавать более быстрое, эффективное и готовое к производству аппаратное обеспечение для суперкомпьютерной платформы OpenAI.

О РОЛИ:

Мы ищем ведущего специалиста по производительности кремниевых чипов машинного обучения, который будет заниматься совместной разработкой аппаратного и программного обеспечения для нашей кремниевой архитектуры. Вы будете работать с моделями, ядрами, компиляторами и кремниевыми чипами, чтобы определить, как рабочие нагрузки машинного обучения сопоставляются с аппаратным обеспечением, и как аппаратное обеспечение должно развиваться для их поддержки. Ваша работа свяжет требования к моделям и рабочим нагрузкам с вычислительными возможностями, памятью и специализированными ускорителями, чтобы максимизировать производительность, эффективность и масштабируемость текущего и будущих поколений кремниевых чипов для ИИ.

Вы будете тесно сотрудничать с командами по исследованиям в области машинного обучения, компиляторам и архитектуре кремниевых чипов для совместной разработки программных подходов и аппаратных возможностей. От сопоставления ядер и квантования до новых структур данных и специализированных IP-адресов, вы будете оценивать компромиссы между аппаратным и программным обеспечением для повышения производительности, эффективности и использования в крупномасштабных рабочих нагрузках ИИ. Используя моделирование производительности, симуляцию и практическую оптимизацию, вы будете направлять архитектурные решения и проверять улучшения на репрезентативных рабочих нагрузках.

OpenAI — это компания, занимающаяся исследованиями и разработкой в области искусственного интеллекта, призванная обеспечить, чтобы универсальный искусственный интеллект приносил пользу всему человечеству. Мы расширяем границы возможностей систем ИИ и стремимся безопасно внедрять их в мир через наши продукты. ИИ — это чрезвычайно мощный инструмент, который должен создаваться с учетом безопасности и потребностей человека, и для достижения нашей миссии мы должны охватывать и ценить множество различных точек зрения, голосов и опыта, которые составляют полный спектр человечества.

В OpenAI мы верим, что искусственный интеллект обладает потенциалом помочь людям решить огромные глобальные проблемы, и мы хотим, чтобы преимущества ИИ были широко распространены. Присоединяйтесь к нам в формировании будущего технологий.

• Руководить совместной разработкой аппаратного и программного обеспечения для команд, занимающихся исследованиями в области машинного обучения, компиляторами и кремниевыми чипами, совместно формируя реализации ядер и аппаратные возможности для достижения целей производительности и эффективности рабочих нагрузок
• Сотрудничать с командой исследований в области машинного обучения для перевода потребностей моделей и рабочих нагрузок в целевые показатели производительности ядер и требования к вычислительным мощностям, емкости памяти и пропускной способности, возвращая ограничения и возможности аппаратного обеспечения в выбор моделей и алгоритмов
• Сопоставлять и оптимизировать ядра машинного обучения для архитектуры, используя данные о перемещении данных, иерархии памяти и эффективности выполнения для направления как улучшений программного обеспечения, так и проектирования аппаратного обеспечения
• Совместно разрабатывать поддержку новых структур данных и форматов квантования для ядер, компиляторов и кремниевых чипов, балансируя качество модели, численное поведение, производительность, энергопотребление и стоимость реализации
• Определять и помогать в разработке специализированных ускорительных IP-адресов, работая с партнерами по компиляторам и кремниевым чипам для определения правильного разделения функциональности между программным обеспечением, инструкциями и выделенным аппаратным обеспечением
• Руководить моделированием и симуляцией производительности машинного обучения с командой компиляторов для сравнения вариантов проектирования аппаратного и программного обеспечения, выявления узких мест и количественной оценки сквозных преимуществ на репрезентативных рабочих нагрузках
• Сотрудничать с руководителем команды по архитектуре кремниевых чипов и командой по кремниевым чипам для определения и валидации новых IP-адресов, используя результаты работы ядер и симуляции для уточнения требований и приоритизации архитектурных улучшений

• Имеете глубокий опыт работы с архитектурой ускорителей машинного обучения и понимаете, как вычислительные ресурсы, системы памяти и перемещение данных влияют на производительность рабочих нагрузок
• Можете перевести поведение на уровне модели в конкретные требования к ядрам и решения по проектированию аппаратного обеспечения
• Создавали или использовали модели и симуляторы производительности ускорителей и знаете, как проверить их предположения и интерпретировать их ограничения
• Имеете практический опыт оптимизации ядер машинного обучения, включая выявление узких мест и повышение эффективности использования, локальности и выполнения
• Понимаете квантование и числовые форматы, включая их влияние на качество модели, пропускную способность памяти, вычислительную эффективность и поддержку аппаратного обеспечения
• Имеете опыт совместной разработки аппаратного и программного обеспечения и можете определить, должна ли функция находиться в ядре, компиляторе, наборе инструкций или выделенном аппаратном обеспечении
• Эффективно работаете в командах, занимающихся исследованиями, компиляторами и кремниевыми чипами, внося ясность в неоднозначные требования и добиваясь согласованности с помощью технических доказательств

Вознаграждение: $287K - $485K в год