Должность: Штатный инженер по распределенным хранилищам и инфраструктуре HPC & AI
Компания: Together AI
Местоположение: Амстердам
О вакансии
В этой роли вы будете управлять, масштабировать и оптимизировать многопетабайтные системы хранения данных, специально разработанные для крупнейших в мире нагрузок обучения и инференса ИИ. Вы будете управлять и масштабировать высокопроизводительные параллельные файловые системы и объектные хранилища, оценивать и интегрировать передовые технологии, такие как Vast, Weka, Ceph и Lustre, а также решать сложные инженерные задачи, связанные с работой при экстремальной пропускной способности, низколатентными путями передачи данных и хранилищами в масштабе огромных кластеров.
Вы также будете создавать облачные операторы хранения данных для Kubernetes и платформы самообслуживания, которые обеспечивают автоматическое выделение ресурсов, строгую многопользовательскую работу, изоляцию производительности и принудительное соблюдение квот в масштабе кластера. Ежедневно вы будете оптимизировать сквозные пути передачи данных со скоростью 10–50 ГБ/с на узел, проектировать многоуровневые архитектуры кэширования, реализовывать интеллектуальное префетчинг и распределение весов моделей, а также настраивать параллельные файловые системы для рабочих нагрузок ИИ.
2 дня в неделю в нашем офисе в Амстердаме
Обязанности
- Разработка и реализация технической стратегии и дорожной карты хранения данных для Together AI, принятие высокопроизводительных архитектурных решений по мере масштабирования нашего парка GPU.
- Разработка и масштабирование многопетабайтных систем хранения данных AI/ML путем интеграции Vast, Weka и Ceph, а также глубокая оптимизация затрат посредством автоматизированных политик многоуровневого хранения и управления жизненным циклом.
- Разработка интеллектуальных архитектур кэширования и многоуровневого хранения для достижения экстремальных показателей IOPS и сквозной пропускной способности кластера в масштабе GPU для рабочих нагрузок обучения и инференса.
- Настройка изоляции хранения на сетевых уровнях L2/L3 для обеспечения безопасной многопользовательской работы производственного класса для клиентов хранилища.
- Разработка операторов хранения данных и контроллеров для Kubernetes для обеспечения автоматического выделения ресурсов, абстракций самообслуживания и принудительного соблюдения квот.
- Разработка сквозных путей передачи данных для достижения скорости 10+ ГБ/с на узел GPU; проектирование многоуровневого кэширования для весов моделей и наборов данных; настройка параллельных файловых систем с использованием расширенного профилирования; и масштабирование инфраструктуры хранения данных на тысячи узлов.
- Оптимизация сквозных путей передачи данных посредством расширенного тестирования и профилирования, внесение высокоэффективного кода в проекты с открытым исходным кодом для хранения данных и внутренние инструменты.
Требования
- 8+ лет опыта в области инженерии систем хранения данных, управления распределенными хранилищами в масштабе многих петабайт.
- Подтвержденный опыт развертывания и эксплуатации высокопроизводительных хранилищ для кластеров GPU/HPC.
- Глубокий опыт работы с Kubernetes и облачными системами хранения данных в производственных средах.
- Отличные навыки программирования на Go и Python с подтвержденной способностью создавать производственные системы и инструменты.
- Степень бакалавра/магистра в области компьютерных наук, инженерии или эквивалентный практический опыт.
- Опыт технического лидерства: проектирование систем, которые значительно улучшили производительность, надежность (до 99,999% доступности) или экономическую эффективность.
- Распределенные системы хранения данных: глубокие знания Ceph, WekaFS, Lustre, Vast, GPFS или аналогичных параллельных файловых систем в масштабе многих петабайт.
- Объектное хранилище: производственный опыт работы с S3, MinIO, Ceph или R2, включая оптимизацию производительности и управление затратами.
- Хранение данных в Kubernetes: CSI-драйверы, StatefulSets, PersistentVolumes, операторы хранения данных и пользовательские контроллеры.
- Оптимизация хранения данных для рабочих нагрузок GPU, RDMA/InfiniBand сети, оптимизация параллельных файловых систем (агрессивная пропускная способность кластера ТБ/с — насыщение линии).
- Программирование: Go и Python для автоматизации, операторов и инструментов.
- Инфраструктура как код: Terraform, Ansible, Helm, GitOps (ArgoCD).
- Стек хранения данных Linux: продвинутые знания файловых систем (ext4, xfs), LVM, оптимизации NVMe, конфигураций RAID.
- Наблюдаемость: архитектура и эксплуатация Prometheus, Grafana, Thanos.
Желательные навыки
- GPU Direct Storage (GDS), NVMe-oF, сетевые технологии хранения данных, реализации RDMA.
- Паттерны хранения данных для ML/AI (веса моделей, чекпоинтинг, кэширование наборов данных).
- Инструменты для тестирования и профилирования хранилищ (fio, iperf3, iostat, blktrace).
О Together AI
Together AI, AI Native Cloud, специально разработана для инженеров ИИ. Разработчики ИИ-приложений получают высокопроизводительный инференс, который надежно масштабируется, тонкую настройку и обучение с подкреплением для создания передовых специализированных моделей, а также предварительное обучение в огромных масштабах для создания полностью настраиваемого интеллекта, и все это вокруг торговой площадки ведущих открытых моделей, которые команды могут запускать, адаптировать и владеть. Together, которому доверяют Cursor, Decagon, ElevenLabs, Salesforce и Zoom, обрабатывает более 400 триллионов токенов в месяц.
Равные возможности
Together AI является работодателем, предоставляющим равные возможности, и гордится тем, что предоставляет равные возможности трудоустройства всем, независимо от расы, цвета кожи, происхождения, религии, пола, национальности, сексуальной ориентации, возраста, гражданства, семейного положения, инвалидности, гендерной идентичности, статуса ветерана и т. д.
Пожалуйста, ознакомьтесь с нашей политикой конфиденциальности по адресу
