Senior Software Engineer, Observability

Должность: Старший инженер-программист, Observability Компания: Together AI Местоположение: Сан-Франциско

О роли

Together AI создает AI Acceleration Cloud — комплексную платформу для полного жизненного цикла генеративного ИИ, сочетающую самый быстрый движок для инференса LLM с передовой облачной инфраструктурой ИИ.

Команда AI Infrastructure в Together AI находится на переднем крае создания и масштабирования фундаментальных систем, которые обеспечивают работу нашей платформы генеративного ИИ. Команда, отвечающая за хранение данных и наблюдаемость, играет решающую роль в проектировании, внедрении и обслуживании надежных распределенных решений для хранения данных, обеспечивая беспрепятственный доступ к данным и управление ими. Она также отвечает за разработку комплексных платформ наблюдаемости, предоставляя критически важную информацию о производительности системы и использовании GPU, а также проактивно выявляя и решая проблемы.

Обязанности

• Проектировать и внедрять масштабируемую платформу наблюдаемости (метрики, логи, трассировки) с использованием таких инструментов, как Prometheus, Grafana, ClickHouse, ClickStack и OpenTelemetry, включая конвейеры телеметрических данных и рабочие процессы агрегации логов.
• Разрабатывать автоматизированные системы мониторинга, оповещения и обнаружения аномалий, включая SLI/SLO, runbooks и предиктивную аналитику для критически важных сервисов.
• Создавать и развертывать пользовательские инструменты наблюдаемости и инфраструктуру как код (IaC) с использованием Go, Python, Terraform, Ansible и Helm.
• Сотрудничать с инженерными командами для улучшения распределенной трассировки и мониторинга приложений, а также руководить реагированием на инциденты с последующим анализом.
• Определять лучшие практики наблюдаемости.

Требования

• Экспертиза в платформах наблюдаемости (Prometheus, Grafana, ClickStack, OpenTelemetry) и облачных сервисах мониторинга (AWS, GCP, Azure).
• Сильные навыки программирования на Go, Python или аналогичных языках, со знанием инструментов IaC (Terraform, Ansible, Helm).
• Опыт проектирования, эксплуатации и масштабирования крупномасштабных распределенных систем и конвейеров для высокообъемной обработки данных и запросов в реальном времени.
• Глубокое понимание контейнеризации (Docker) и оркестрации (Kubernetes).
• Знание архитектуры микросервисов, технологий service mesh, конвейеров CI/CD и рабочих процессов GitOps.
• Экспертиза в управлении базами данных (PostgreSQL, MongoDB, Redis) и time-series базами данных с данными высокой кардинальности.

Предпочтительно

• Опыт мониторинга инфраструктуры AI/ML, GPU-кластеров и пользовательских метрик для производительности моделей и конвейеров обучения.
• Опыт работы с системами мониторинга с высокой частотой и низкой задержкой, chaos engineering и тестированием надежности.
• Вклад в open-source проекты в области наблюдаемости.
• Знание систем мониторинга безопасности и фреймворков соответствия требованиям.

О Together AI

Together AI, AI Native Cloud, специально создан для AI-инженеров. Разработчики AI-приложений получают высокопроизводительный инференс, который надежно масштабируется, возможности fine-tuning и reinforcement learning для создания передовых специализированных моделей, а также pre-training в массивном масштабе для полностью кастомного интеллекта, и все это на базе маркетплейса ведущих open-source моделей, которые команды могут запускать, адаптировать и владеть ими. Together, которому доверяют Cursor, Decagon, ElevenLabs, Salesforce и Zoom, обрабатывает более 400 триллионов токенов в месяц.

Компенсация

Мы предлагаем конкурентоспособную компенсацию, опционы компании (startup equity), медицинскую страховку и другие льготы, а также гибкость в отношении удаленной работы. Диапазон базовой заработной платы в США для этой штатной должности составляет: $200,000 - $280,000 + опционы + льготы. Наши диапазоны заработной платы определяются местоположением, уровнем и должностью. Индивидуальная компенсация будет определяться опытом, навыками и знаниями, связанными с работой.

Равные возможности

Together AI является работодателем, предоставляющим равные возможности, и с гордостью предоставляет равные возможности трудоустройства всем, независимо от расы, цвета кожи, происхождения, религии, пола, национального происхождения, сексуальной ориентации, возраста, гражданства, семейного положения, инвалидности, гендерной идентичности, статуса ветерана и многого другого.

Пожалуйста, ознакомьтесь с нашей политикой конфиденциальности по адресу: