DevOps / SRE Engineer — Infrastructure and Deployments for AI Products

18 days ago

Details

Grade

Senior

Experience

from 4 years

Work format

Remote

Employment

Part-time

A cover letter for this job

An email or a Telegram message to the recruiter

About the role

DevOps / SRE Engineer — Infrastructure and Deployments for AI Products (20–30 hrs/week retainer, remote)

We are building several AI products for the US and European markets: a personal AI assistant and a consumer application with chat, voice, and video. We are looking for an engineer to bring order to our infrastructure and deployments and maintain them.

Responsibilities

• Maintain servers, networks, domains, and certificates; all changes via code and pipelines, no manual edits • Build proper deployments: staging for each branch, production on a button click, rollback in a minute, zero-downtime rollout, safe Postgres migrations • Cloudflare in its entirety: DNS, proxy and WAF, cache rules, Pages, Workers, R2, Tunnels/Zero Trust • AWS (IAM, S3, EC2, RDS, CloudFront, billing) and Hetzner (Cloud and dedicated); decide what to host where based on cost and reliability • Infrastructure as code: Terraform/OpenTofu, Ansible; no manual server operations • Secrets management (Vault, SOPS, Doppler, or 1Password), key rotation, principle of least privilege access • Backups and recovery: PITR for Postgres, regular recovery verification • Monitoring and alerts: metrics, logs, uptime, Sentry; find out about outages before users do • GPU inference (H100 from cloud providers): set up, scale, don't pay for idle time • Email: Mailgun/SES, SPF, DKIM, DMARC, deliverability • Reduce cloud spending, maintain an inventory of all accounts and bills • Write runbooks so that any engineer can continue the work without you Our current stack Docker Compose on Linux servers, nginx, PostgreSQL, Python (FastAPI) and Next.js, Bitbucket Pipelines, Cloudflare in front of all domains, S3-compatible storage, Mailgun EU, Sentry, Stripe, GPU servers for models. We want to bring this to IaC and transparent pipelines.

Requirements

• 4+ years in DevOps/SRE with production support • Deep Linux, networking (DNS, TLS, WireGuard), Docker; Kubernetes or k3s is a plus • Terraform and Ansible on real projects • CI/CD: Bitbucket Pipelines or GitHub Actions • PostgreSQL operations: roles, backups, PITR, non-blocking migrations • Cloudflare and AWS in production, Hetzner or other bare-metal/VPS providers • Bash and Python for automation • Habit of documenting and not keeping knowledge and access solely to yourself

Nice to have

• GPU and ML inference: CUDA, vLLM, Triton • Hosting Next.js behind CDN, ISR and cache invalidation • Startup experience with daily releases • Working with AI agents for development (Claude Code, Codex)

Benefits

• Retainer 20–30 hours per week, remote, time zone UTC+0…+4 • Payment: fixed or hourly • Direct work with the founder, no bureaucracy

DevOps / SRE инженер — инфраструктура и деплои AI-продуктов (ретейнер 20–30 ч/нед, удалённо)

Мы делаем несколько AI-продуктов для американского и европейского рынка: персонального AI-ассистента и consumer-приложения с чатами, голосом и видео. Ищем инженера, который наведёт порядок в инфраструктуре и деплоях и будет их поддерживать.

Что будешь делать

• Поддерживать серверы, сети, домены и сертификаты; все изменения — через код и пайплайны, без ручных правок. • Построить нормальные деплои: staging на каждую ветку, прод по кнопке, откат за минуту, выкат без простоя, безопасные миграции Postgres. • Cloudflare целиком: DNS, прокси и WAF, правила кэша, Pages, Workers, R2, Tunnels/Zero Trust. • AWS (IAM, S3, EC2, RDS, CloudFront, счета) и Hetzner (Cloud и dedicated); решать, что где держать по цене и надёжности. • Инфраструктура как код: Terraform/OpenTofu, Ansible; ничего руками на сервере. • Секреты в хранилище (Vault, SOPS, Doppler или 1Password), ротация ключей, доступы по принципу минимальных прав. • Бэкапы и восстановление: PITR для Postgres, регулярная проверка восстановления. • Мониторинг и алерты: метрики, логи, uptime, Sentry; узнавать о падении раньше пользователей. • GPU-инференс (H100 у облачных провайдеров): поднять, масштабировать, не платить за простой. • Почта: Mailgun/SES, SPF, DKIM, DMARC, доставляемость. • Снижать расходы на облака, держать опись всех аккаунтов и счетов. • Писать runbook-и так, чтобы любой инженер продолжил работу без тебя. Наш стек сейчас Docker Compose на Linux-серверах, nginx, PostgreSQL, Python (FastAPI) и Next.js, Bitbucket Pipelines, Cloudflare перед всеми доменами, S3-совместимое хранилище, Mailgun EU, Sentry, Stripe, GPU-серверы под модели. Хотим привести это к IaC и прозрачным пайплайнам. Что ждём • От 4 лет в DevOps/SRE с поддержкой продакшена. • Глубоко Linux, сети (DNS, TLS, WireGuard), Docker; Kubernetes или k3s — плюс. • Terraform и Ansible на реальных проектах. • CI/CD: Bitbucket Pipelines или GitHub Actions. • Эксплуатация PostgreSQL: роли, бэкапы, PITR, миграции без блокировок. • Cloudflare и AWS в продакше, Hetzner или другие bare-metal/VPS-провайдеры. • Bash и Python для автоматизации. • Привычка документировать и не держать знания и доступы только у себя. Будет плюсом • GPU и ML-инференс: CUDA, vLLM, Triton. • Хостинг Next.js за CDN, ISR и инвалидация кэша. • Опыт в стартапе, где релизы идут каждый день. • Работа с AI-агентами для разработки (Claude Code, Codex). Условия • Ретейнер 20–30 часов в неделю, удалённо, часовой пояс UTC+0…+4. • Оплата: фикс или по часам • Прямая работа с основателем, без бюрократии. Как откликнуться: резюме и коротко — самая сложная инфраструктура, которую ты вёл один, и самый тяжёлый инцидент. Пишите в Telegram: