Post-doctoral researcher (12 months) Mathematics of energy-efficient AI: diffusion models on emerging hardware

CENTRALE LYON - Научный сотрудник (12 месяцев) Математика энергоэффективного ИИ: диффузионные модели на новом оборудовании

Местоположение: Экули, Овернь-Рона-Альпы, Франция

Вопрос

Генерация одного изображения с помощью диффузионной модели означает многократную оценку большой нейронной сети, от десятков до сотен раз. Именно в этой повторяемости заключается энергопотребление, и это одна из причин, почему спрос дата-центров теперь виден в масштабах энергосети: Национальная лаборатория Лоуренса Беркли оценивает потребление электроэнергии дата-центрами США в 2023 году в 176 ТВт⋅ч, что составляет 4,4 % национального потребления, и эта цифра более чем удвоилась с 2017 года в основном из-за серверов ИИ, а к 2028 году прогнозируется 325–580 ТВт⋅ч. Новое оборудование решает именно эту задачу: аналоговые вычислительные системы в памяти, фотоника на кремнии, ферроэлектрические устройства и стохастические вычисления выполняют основные матрично-векторные произведения с меньшим энергопотреблением, чем цифровые CMOS, при соблюдении условий масштаба и точности, но возвращают возмущенный результат. Обычное возражение заключается в том, что никто не может заранее сказать, насколько сильное возмущение модель терпит. В EMMA эта возможность реализуется с использованием фотонного матрично-векторного движка на основе PCM в качестве основного демонстратора, дополненного при необходимости аналоговыми вычислениями на основе FeFET, так что неидеальности на уровне устройств рассматриваются как явные проектные параметры, а не как последующие потери при реализации. Диффузионные модели — это необычный случай, когда этот вопрос имеет математический ответ: их теория сходимости ограничивает расхождение между сгенерированным и целевым распределениями тремя членами, из которых только один, ошибка L2 обученного счетчика (score), зависит от оборудования. Эта сторона теперь в хорошем состоянии: для стохастических сэмплеров — границы, линейные по размерности при минимальных предположениях о данных; для детерминированных сэмплеров — соответствующая теория при выполнении условий регулярности. Чего не хватает, так это моста. Теория параметризована ошибкой счетчика, а литература по оборудованию — шумом проводимости, эффективным числом бит и фотонов на операцию умножения-накопления; никто не написал карту между ними ни в одном направлении. Литература по квантованию для диффузионных моделей сообщает об оценках качества изображений; индуцированная ошибка счетчика L2, в форме, необходимой теории сходимости, напрямую измерима и не сообщается. Один открытый подвопрос задает направление: различие между ошибкой, которая перерисовывается при каждой оценке, как в стохастических вычислениях, и ошибкой, замороженной при записи, как в детерминированном квантовании, было решено только в одном случае, и не в том, где находится оборудование; перенос этого на новую область — задача данной позиции. Работа оценивается по одному конкретному результату. Для как минимум одной архитектуры мы хотим показать, что выигрыш в энергопотреблении от вынесения оценки счетчика за пределы цифрового CMOS реален, измерен там, где он сохраняется при интеграции, а не экстраполирован с одного тайла, и что он компенсируется небольшим и, прежде всего, настраиваемым снижением качества выборки: регулятором, который устанавливает дизайнер, положение которого теория предсказывает, а не обнаруживает постфактум.

Что вы будете делать

Работа организована в четыре пакета, кратко описанных ниже; полная программа исследований доступна у руководителей по запросу.

1. Сделать ошибку счетчика измеримой, начиная с гауссовских целей, где все разложение ошибки имеет замкнутую форму. Вы сообщите индуцированную ошибку счетчика для заданного возмущения арифметики сети — числа, которое требуется теории и которое не сообщается в литературе по квантованию.
2. Сопоставить физику устройств с теорией. Распространите опубликованные модели ошибок для технологий, над которыми работает INL, через сеть счетчиков в явный бюджет ошибок счетчика, разделяя доказанное и измеренное.
3. Расширить гарантии. Существующие границы предполагают детерминированный оракул или доброкачественный случайный, расширьте их на ошибку, которая частично заморожена при записи и частично перерисовывается при каждом вызове, и по пути определите, по какому процессу должна контролироваться ошибка счетчика.
4. Совместная разработка с INL и предоставление доказательства концепции. Преобразуйте бюджет ошибок счетчика в границу энергопотребление–точность для фотонного матрично-векторного движка INL на основе PCM, используя модели на уровне схем, откалиброванные по устройствам; альтернатива на основе FeFET на аналоговых элементах может рассматриваться при необходимости. Совместно изменяйте шаги сэмплера, длину стохастического битового потока и эффективную точность, чтобы определить рабочую точку, которая, как ожидается, обеспечит реальное преимущество в энергопотреблении по сравнению с цифровым CMOS при небольшом, настраиваемом снижении качества выборки. Результатом является граница, предсказанная на основе математических моделей и моделей оборудования, а затем проверенная по откалиброванным измерениям.

Четкий отрицательный ответ полезнее для нас, чем расплывчатый положительный: отрицательный результат по пункту 3 оставляет нетронутыми пункты 1 и 2 и превращает пункт 4 из предсказания в измерение.

Кто мы ищем

Требования

• Докторская степень в области прикладной математики, статистики, машинного обучения, электронной инженерии, компьютерных наук или смежной области, полученная (или с запланированной защитой) до начала контракта.
• Прочные знания в области теории вероятностей и стохастического анализа, численных методов, оптимизации или машинного обучения: стохастические дифференциальные уравнения (SDE), теорема Гирсанова, обращение времени для диффузионных процессов, с возможностью строгого применения к диффузионным или другим генеративным моделям.
• Знакомство с теорией сходимости алгоритмов сэмплирования или продемонстрированная способность быстро ее освоить, например, посредством анализа Ланжевена/MCMC, оптимального транспорта или концентрации меры.
• Уверенное владение научными вычислениями (PyTorch или JAX) и привычка писать код, который могут запускать другие. Способность и мотивация работать над математическим моделированием и ИИ с учетом особенностей оборудования.
• Рабочий английский; французский не требуется.

Ценно, но не обязательно

Предыдущая работа над диффузионными моделями или моделями на основе счетчиков; численное исследование арифметики конечной точности. Знакомство с машинным обучением с учетом особенностей оборудования, приближенными или стохастическими вычислениями, аналоговыми вычислительными системами в памяти, моделированием устройств, моделированием схем, фотоникой, ферроэлектрическими устройствами или моделированием энергопотребления. Опыт связи точности модели или ее робастности с неидеальностями реализации, такими как квантование, шум, дрейф, вариабельность, конечная точность или коррелированные ошибки. Доказательства междисциплинарных исследований, например, работы на стыке математики, машинного обучения, устройств, схем, архитектур или автоматизации проектирования электроники (EDA). Опыт работы с аппаратным обеспечением не ожидается и не требуется для подачи заявки.

Что имеет наибольшее значение

Мы ищем исследователя, который хочет изучить, как превратить физические ограничения в математические и архитектурные параметры проектирования. Проект не требует предварительного опыта работы с лабораторным оборудованием: INL предоставляет экспертизу в области устройств, измеренные характеристики и инфраструктуру для моделирования. Однако успешный кандидат должен быть готов критически осмыслить неидеальные аналоговые, фотонные и ферроэлектрические ускорители и работать с обоими руководителями, чтобы связать механизмы ошибок на уровне устройств, гарантии ошибок счетчика и компромисс между энергопотреблением и качеством при выводе диффузионных моделей. Приветствуются кандидаты с преимущественно математическим бэкграундом и сильным интересом к оборудованию, а также кандидаты из областей ИИ-оборудования, моделирования устройств, схем, архитектур или EDA, обладающие достаточной зрелостью в стохастическом анализе для разработки теории. Решающим критерием является способность заставить математику и оборудование взаимно информировать друг друга, производя количественные, проверяемые и релевантные для демонстратора энергоэффективного ускорителя предсказания.

Что мы предлагаем

• Реальное двойное руководство с еженедельными встречами, чередующимися между ICJ и INL. Две лаборатории находятся на одном кампусе, в пяти минутах ходьбы друг от друга.
• Вопрос, который может быть опубликован в обоих местах: математические журналы для теории, а также журналы по проектированию и оборудованию для совместной разработки.
• Участие в работе INL по совместной оптимизации проектирования и технологий в рамках проекта PEPR Électronique CHOOSE и контакт с группой, занимающейся разработкой ферроэлектрических и фотонных устройств (FVLLMONTI, Ferro4EdgeAI).
• Поддержка конференционных поездок и публикаций в открытом доступе, финансируемая двумя принимающими лабораториями, а также меры по развитию карьеры, которые учреждение предоставляет для постдокторантов.
• Практическая помощь международным рекрутам через Espace ULYS, сервисный центр EURAXESS Университета Лиона: визы, жилье, медицинское страхование, банковские услуги, школьное образование.

Условия

Контракт на двенадцать месяцев на неопределенный срок в соответствии с французским государственным правом, полный рабочий день (1 607 часов в год), 25 рабочих дней отпуска плюс дни RTT по схеме учреждения. Присоединение к régime général для медицинского страхования и к IRCANTEC для дополнительной пенсии; взнос работодателя на дополнительное медицинское страхование в соответствии со схемой, действующей в учреждении; 75 % возмещение стоимости проездных билетов на общественный транспорт, в пределах установленного законом потолка. Точное количество дней RTT устанавливается учреждением.