Инженер-исследователь: Эффективность моделей
Местоположение: Сингапур, SG
Тип занятости: Полная занятость
О Bitdeer:
Bitdeer — ведущая мировая технологическая компания в области майнинга Биткоина и облачных вычислений для ИИ.
Bitdeer стремится предоставлять комплексные решения для майнинга Биткоина своим клиентам. Помимо разработки передовых ASIC-чипов и производства майнингового оборудования, Группа обрабатывает сложные процессы, связанные с вычислениями, по всей цепочке создания стоимости. Это включает закупку оборудования, транспортную логистику, проектирование и строительство центров обработки данных, управление оборудованием, а также эксплуатацию сети и объектов. Bitdeer также предлагает передовые облачные возможности для клиентов с высоким спросом на искусственный интеллект.
Штаб-квартира Bitdeer находится в Сингапуре, компания работает по всему миру, располагая диверсифицированным энергетическим портфелем мощностью 3 ГВт, и разворачивает центры обработки данных для майнинга Биткоина и HPC в США, Бутане, Норвегии, Канаде, Малайзии и Эфиопии.
О Bitdeer AI Lab:
Bitdeer AI Lab — это передовая лаборатория ИИ в составе Bitdeer, глобального лидера в области решений для вычислительной мощности. Руководствуясь долгосрочной перспективой, мы стремимся исследовать границы искусственного интеллекта с амбициями, смелостью и решимостью создавать технологии, которые действительно могут изменить мир.
Наша миссия — превращать энергию в интеллект, который люди могут реально позволить себе использовать. Инференс (вывод) — это то, где это происходит: каждый продукт, построенный на основе модели, ограничен стоимостью ее эксплуатации, поэтому экономика обслуживания определяет, что вообще будет построено. Мы работаем над этим с нуля, от принадлежащих нам электростанций и центров обработки данных до программного обеспечения, которое превращает их в токены — и мы продолжаем инвестировать и расширять инфраструктуру, стоящую за этим.
Что будет входить в ваши обязанности:
- Эта роль заключается в том, чтобы сделать модели дешевле и быстрее в обслуживании без ущерба для качества, которое имеет значение. Мы не предписываем конкретную технику — квантование, разреженность и обрезка, спекулятивное декодирование и MTP, а также методы внимания и KV-кэша во время инференса — все это входит в сферу деятельности. Вы будете внедрять и адаптировать опубликованные методы для наших моделей и оборудования, а также разрабатывать собственные оптимизации там, где они не справляются. Вы также создадите дисциплину оценки, которая позволит обосновать утверждение вроде «без потерь при удвоенной пропускной способности».
Как вы выделитесь:
- Степень бакалавра, магистра или доктора наук в области компьютерных наук, электротехники или смежной области, с практическим опытом инференса LLM, оптимизации моделей или ML-систем
- Отличные навыки программирования на Python и глубокое знание PyTorch; опыт работы с C++, CUDA или Triton будет плюсом
- Реальная глубина понимания на уровне реализации как минимум в одной области эффективности моделей, такой как квантование, разреженность и обрезка, спекулятивное декодирование и MTP, или методы внимания и KV-кэша во время инференса
- Глубокое понимание внутренних механизмов трансформеров и того, где именно потери точности проявляются в поведении модели
- Строгая практика оценки — метрики на уровне задач, контролируемые сравнения, честные базовые показатели — и способность честно заявлять, что подтверждает, а что не подтверждает число
- Опыт внедрения методов повышения эффективности в продакшн-сервинг или эквивалентная исследовательская глубина — очень предпочтительны
- Знакомство с инференс-движками, такими как vLLM, SGLang или TensorRT-LLM, и их функциями повышения эффективности — очень предпочтительны
- Публикации в ведущих системах или ML-изданиях, или существенный вклад в open-source проекты приветствуются
- Глубокий энтузиазм в отношении передовой ИИ-инфраструктуры и эффективного инференса, с сильным чувством ответственности и солидной инженерной дисциплиной
Что вы испытаете, работая с нами:
- Культура, которая ценит аутентичность и разнообразие мыслей и происхождения;
- Инклюзивная и уважительная среда с открытыми рабочими пространствами и захватывающим стартап-духом;
- Быстрорастущая компания с возможностью наладить контакты с пионерами отрасли и энтузиастами;
- Возможность вносить прямой вклад и оказывать влияние на будущее индустрии цифровых активов;
- Участие в новых проектах, разработка процессов/систем;
- Личная ответственность, автономия, быстрый рост и возможности для обучения;
- Привлекательные социальные льготы и возможности для развития, такие как обучение и наставничество.
