Название: Старший инженер-программист — Системы инфраструктурных агентов Компания: Together AI Местоположение: Сан-Франциско

О роли

Together AI управляет одним из крупнейших в мире парков GPU. Команда Infra Agent Systems разрабатывает программные системы, которые обеспечивают работу и автоматизацию этой инфраструктуры.

Мы разрабатываем продакшн-агенты ИИ, которые диагностируют аппаратные сбои, расследуют инциденты, коррелируют сигналы по всему парку и автоматизируют операционные рабочие процессы. Наряду с этими агентами мы создаем платформу, на которой они работают, включая графы знаний, системы поиска, фреймворки оркестрации и инструменты разработчика.

Вы будете работать в двух направлениях:

Системы инфраструктурных агентов — Создавайте продакшн-агенты ИИ, которые помогают управлять нашим парком GPU, диагностируя сбои, расследуя инциденты, собирая доказательства из работающих систем и помогая с устранением неполадок. Эти агенты ежедневно используются нашими командами по инфраструктуре и центрам обработки данных через API, CLI, панели мониторинга и Slack.

Основная платформа агентов — Создавайте платформу, которая обеспечивает работу этих агентов, включая графы знаний, поиск и извлечение, оркестрацию, оценку и инструменты, которые позволяют агентам рассуждать, действовать и постоянно совершенствоваться.

Мы работаем над чем-то, что еще по-настоящему не было сделано: создаем графы знаний и самосовершенствующиеся агенты ИИ, которые понимают, управляют и постоянно улучшают крупномасштабную ИИ-инфраструктуру.

Это возможность работать на стыке агентов ИИ, распределенных систем, инфраструктуры и автоматизации, решая сложные инженерные задачи с реальным влиянием на продакшн. Предстоит огромное количество работы, обучения и формирования, поскольку мы определяем будущее автономной инфраструктуры.

Почему эта роль?

Вы будете одновременно решать две сложные задачи: делать агентов ИИ достаточно надежными для управления продакшн-инфраструктурой и создавать системы знаний, поиска и распределенные системы, которые делают этих агентов эффективными.

У вас будет возможность создавать фундаментальные системы с нуля, работать с инфраструктурой в огромном масштабе и помогать определять, как самосовершенствующиеся агенты ИИ управляют реальной ИИ-инфраструктурой.

Обязанности

Проектируйте и создавайте продакшн-системы агентов ИИ, которые диагностируют, расследуют и устраняют проблемы инфраструктуры в одном из крупнейших парков GPU в мире.
Создавайте распределенные сервисы, фреймворк оркестрации, граф знаний и системы поиска, которые обеспечивают работу инфраструктурных агентов.
Разрабатывайте системы аналитики парка, которые объединяют телеметрию, состояние инфраструктуры, операционные знания и исторические инциденты, чтобы помочь агентам принимать лучшие решения.
Интегрируйтесь с системами наблюдения, управления инцидентами, тикетинга, инвентаризации парка, контроля версий, чатов и внутренними системами инфраструктуры через хорошо спроектированные API.
Отвечайте за сервисы от начала до конца, включая архитектуру, реализацию, тестирование, развертывание, наблюдение и эксплуатацию в продакшне.
Улучшайте производительность агентов посредством оценок, улучшений поиска, лучших инструментов и циклов обратной связи из продакшена.
Превращайте то, чему агенты научились в продакшене, в надежное, проверенное программное обеспечение и автоматизацию.

Требования

Более 5 лет опыта создания продакшн-бэкенд-систем, распределенных систем или инфраструктурных платформ.
Сильные навыки проектирования систем и опыт управления значимыми системами от проектирования до продакшена.
Глубокие знания как минимум в одной из следующих областей:
- Системы агентов ИИ, оркестрация, использование инструментов, оценка или привязка к контексту
- Графы знаний или моделирование графовых данных
- Поиск, извлечение, ранжирование, RAG или семантический поиск
Опыт в бэкенд-разработке, включая проектирование API, границы сервисов, моделирование данных и интеграцию между сложными системами.
Опыт работы с Kubernetes, GitOps (например, ArgoCD), Infrastructure-as-Code и облачными платформами.
Уверенное владение языками программирования, такими как Go, TypeScript, Python или Rust.

Опыт в следующих областях будет плюсом

Инфраструктура GPU, центры обработки данных, bare-metal системы, режимы сбоев оборудования, BMC/IPMI или планировщики кластеров
Графовые базы данных
Событийно-ориентированные системы и платформы обмена сообщениями, такие как NATS или Kafka
Платформы наблюдения, такие как Prometheus и Grafana
Создание фреймворков оценки или улучшение качества и надежности систем на основе LLM

О Together AI

Together AI, AI Native Cloud, создана специально для инженеров ИИ. Разработчики ИИ-приложений получают высокопроизводительный инференс, который надежно масштабируется, дообучение и обучение с подкреплением для создания передовых специализированных моделей, а также предварительное обучение в огромных масштабах для полностью пользовательских интеллектов, все это вокруг маркетплейса ведущих открытых моделей, которые команды могут запускать, адаптировать и владеть. Together, которому доверяют Cursor, Decagon, ElevenLabs, Salesforce и Zoom, обслуживает более 400 триллионов токенов в месяц.

Компенсация

Мы предлагаем конкурентоспособную компенсацию, опционы стартапа, медицинскую страховку и другие льготы, а также гибкость в отношении удаленной работы. Диапазон базовой заработной платы в США для этой полной ставки составляет: $250 000 - $300 000 + опционы + льготы. Наши диапазоны заработной платы определяются местоположением, уровнем и должностью. Индивидуальная компенсация будет определяться опытом, навыками и знаниями, связанными с работой.

Равные возможности

Together AI является работодателем, предоставляющим равные возможности, и гордится тем, что предлагает равные возможности трудоустройства всем, независимо от расы, цвета кожи, родословной, религии, пола, национального происхождения, сексуальной ориентации, возраста, гражданства, семейного положения, инвалидности, гендерной идентичности, статуса ветерана и т.д.

Пожалуйста, ознакомьтесь с нашей политикой конфиденциальности.

Senior Software Engineer — Infra Agent Systems