Инженер по выводу моделей ИИ (f/m/d)

Польша

О ITRex

МЕСТО

ITRex — пионеры в области ИИ, создающие системы, которые реально работают в реальном мире, а не только на демо. Нас более 250 человек в США и Европе, мы создаем решения для таких компаний, как Procter & Gamble и Shutterstock. Мы работаем просто, создаем правильно и фокусируемся на том, что работает.

ЛЮДИ

Мы — те люди, которые не игнорируют сообщения в Slack, которые помогают, когда вы застряли с проблемой, и которые предлагают решения, а не обвинения, когда что-то идет не так. Мы верим в открытость, ответственность и поддержку друг друга. Никакой офисной политики, никаких скрытых мотивов — просто люди, которым небезразлично делать хорошую работу вместе и поддерживать друг друга для ее достижения.

РОЛЬ

Мы ищем сильного инженера C++ с практическим опытом развертывания и оптимизации современных моделей ИИ для продакшена. Идеальный кандидат сочетает глубокие знания в области системного программирования с практическим опытом работы с LLM и современными архитектурами глубокого обучения. Вместо того чтобы создавать или обучать модели с нуля, этот инженер фокусируется на интеграции, оценке, профилировании и оптимизации конвейеров вывода ИИ для высокопроизводительного выполнения на устройствах.

Наши ожидания

Основное программное обеспечение

• 4+ года профессионального опыта работы с современным C++ (C++17/20)
• Глубокие знания управления памятью, многопоточности, профилирования и оптимизации производительности
• Опыт отладки низкоуровневых проблем (утечки памяти, фрагментация, OOM, параллелизм)
• Опыт работы в среде разработки Linux

AI Inference / ML Systems

• Опыт интеграции моделей машинного обучения в продакшн-приложения
• Опыт развертывания и оптимизации конвейеров вывода ИИ
• Практический опыт работы с фреймворками вывода ИИ, такими как: llama.cpp (сильный плюс), ggml (сильный плюс), ONNX Runtime, TensorRT / TensorRT-LLM, OpenVINO, MLC LLM, ExecuTorch, TVM
• Опыт профилирования производительности вывода и оптимизации использования памяти и задержки

Знание глубокого обучения

Глубокое понимание современных архитектур моделей ИИ, включая:

Архитектура Transformer / Большие языковые модели (LLM) / Диффузионные модели / Токенизация / Механизмы внимания / KV Cache / Методы квантования / Конвертация и развертывание моделей

Практический опыт работы с ИИ

• Опыт работы с одной или несколькими из следующих областей: развертывание LLM, модели компьютерного зрения, OCR-модели, мультимодальные модели, речевые модели, модели генерации изображений
• Опыт оценки новых моделей и их интеграции в существующие продукты очень желателен

Приятно иметь

• CUDA
• Vulkan Compute
• Metal
• OpenCL
• Typescript
• Python
• Опыт внесения вклада в проекты инфраструктуры ИИ с открытым исходным кодом

Ваши обязанности

• Работа над развертыванием моделей машинного обучения на периферийных устройствах с использованием фреймворков: llama.cpp, ggml
• Тесное сотрудничество с исследователями для помощи в кодировании, обучении и переходе моделей из исследований в продакшн-среду
• Интеграция функций ИИ в существующие продукты, обогащая их последними достижениями в области машинного обучения

Что мы предлагаем

Во-первых, основа:

• Гибкость удаленной работы: Работайте там и так, как вам лучше всего — мы доверяем вам выполнять задачи
• Справедливая компенсация: Конкурентная зарплата + льготы, которые имеют значение (медицинские, оздоровительные, образовательные)

Затем, рост:

• Возможности владения: Видите проблему, которую стоит решить? Возьмите ее на себя. Мы поддерживаем разумные риски вместо бюрократической безопасности
• Улучшение с помощью ИИ: Мы используем ИИ, чтобы сделать вас быстрее и сильнее — дополняя ваши способности, а не заменяя их
• Инвестиции в обучение: Курсы английского языка, профессиональное развитие, поддержка благополучия
• Карьерный рост: Реальные пути вверх, а не просто перемещение в стороны

Наконец, люди:

• Отзывчивые коллеги: Никаких игнорируемых Slack-сообщений, никакого отношения "не моя проблема"
• Поддерживающая культура: Когда вы застряли, люди помогают. Когда что-то ломается, мы исправляем это вместе
• Человеческие связи: Регулярные встречи, технические доклады и реальные отношения вне работы

Свяжитесь с нами

Зарабатывайте, учитесь и достигайте успехов в успешной и поддерживающей компании

• Офисы:
• Алисо-Вьехо, Калифорния
• Варшава, Польша