AI Inference Engineer

Должность: Инженер по инференсу ИИ Местоположение: Лондон / Великобритания / Лондон, Великобритания / Удаленная работа

Fuse Energy — энергетический стартап, миссия которого — сделать энергию изобильной, доступной и быстрой. Мы сочетаем мышление, основанное на первых принципах, с передовыми технологиями для создания радикально лучшей энергетической системы. Мы привлекли более 200 миллионов долларов от ведущих инвесторов, включая Balderton, Lakestar, Accel, Creandum, Lowercarbon, Ribbit, 20VC, Hummingbird и Collaborative Fund, а также стратегических ангелов, таких как Нико Росберг и генеральные партнеры Meta, Revolut, Spotify и Uber. Мы строим полностью интегрированную энергетическую компанию: разрабатываем собственные солнечные электростанции, аккумуляторы и другие генерирующие проекты, строим собственное оборудование, улучшаем и разрабатываем сетевую инфраструктуру, торгуем электроэнергией в режиме реального времени, используем ИИ во всех сферах бизнеса и устанавливаем распределенные источники энергии в домах. Продавая напрямую потребителям, мы устраняем посредников, снижаем затраты и передаем сэкономленные средства нашим клиентам. Поскольку центры обработки данных становятся одним из крупнейших и наиболее быстрорастущих источников спроса на электроэнергию, Fuse расширяется в сферу высокопроизводительной вычислительной инфраструктуры на стыке энергетики и ИИ. Мы одновременно создаем слой производительности GPU/CUDA и слой инференс-сервиса с нуля, и мы ищем инженера-основателя, который возглавит последнее. Отчитываясь напрямую перед техническим директором, вы будете отвечать за слой над ядрами и аппаратным обеспечением: как модели фактически обслуживаются, масштабируются и доставляются в соответствии с заявленными целевыми показателями производительности. Немногие компании могут сочетать реальную доставку энергии с реальными вычислениями, как это может делать Fuse, что ставит инференс-сервис в центр нашего предложения. Обязанности Определить стратегию и архитектуру инференс-сервиса Fuse, исходя из первых принципов. Разработать и построить стек сервиса: маршрутизация запросов, пакетирование, планирование и автоматическое масштабирование для высокопроизводительных, чувствительных к задержкам рабочих нагрузок инференса. Руководить стратегией оптимизации на уровне моделей для обслуживания, определяя, где и как применять методы квантования, дистилляции, спекулятивного декодирования и аналогичные методы для повышения пропускной способности и снижения стоимости за токен, в партнерстве с инженерами CUDA/GPU. Принимать основные решения по программной архитектуре относительно фреймворков сервиса и оркестрации (например, vLLM, TensorRT-LLM, SGLang, Triton Inference Server или их эквивалентов). Преобразовывать обязательства по пропускной способности, задержке и времени безотказной работы в конкретные технические спецификации и планы емкости сервиса. Выступать прямым техническим владельцем производительности и надежности инференса. Тесно сотрудничать с командами инженеров CUDA и GPU для чистой интеграции пользовательских ядер и работы аппаратного обеспечения в слой сервиса. Установить стандарты, инструменты и бенчмарки, на которых будет работать эта функция по мере ее роста. Требования Более 4 лет опыта разработки или эксплуатации крупномасштабных систем инференс-сервиса или эквивалентный сильный проектный/отраслевой опыт. Глубокий практический опыт работы с фреймворками инференс-сервиса и методами их оптимизации (пакетирование, управление KV-кэшем, квантование, спекулятивное декодирование). Сильное системное мышление, способность анализировать полный путь от входящего запроса до обслуженного ответа в большом кластере. Комфортная работа напрямую с инженерами GPU/CUDA для интеграции низкоуровневой работы по повышению производительности в систему обслуживания. Подтвержденный опыт принятия ответственных архитектурных решений и владения их результатом. Комфортная работа без готового плана: это основополагающая роль, формирующая новую функцию, а не присоединение к уже существующей. Бонус: Triton или пользовательские фреймворки для инференса/обучения ML; автоматическое масштабирование или планирование емкости для крупномасштабного инференса; многопользовательское обслуживание или инфраструктура, основанная на SLA; опыт работы в hyperscaler, передовой AI-лаборатории или крупномасштабной распределенной системе инференса; Kubernetes/Slurm; интерес к энергетическим рынкам, сетевым системам или вычислительным системам, ориентированным на устойчивое развитие. Преимущества Конкурентоспособная заработная плата и право на получение акций. Полугодовая бонусная схема. Полностью оплачиваемая техника, соответствующая вашим потребностям. Частная медицинская страховка. Пособие на завтрак и ужин для сотрудников, работающих в офисе. Поскольку мы нанимаем сотрудников по всему миру, льготы варьируются в зависимости от местоположения.