ML/NLP Engineer (Voice AI / LLM Dialogs / ASR / TTS)

Russia4 days ago

Details

Grade

Middle

Work format

Remote

Employment

Full-time

A cover letter for this job

An email or a Telegram message to the recruiter

Some conditions are hidden to comply with employment law

About the role

a major telecommunications company. A project to create and develop intelligent voice assistants and dialog systems. 🧩 About the role: we are looking for a strong ML/NLP engineer who will take charge of the dialog system's evolution: a phased transition from graphical scenarios to LLM-based dialog management. This is a hands-on role for a practitioner capable of making architectural decisions independently, deeply debugging the voice pipeline (from ASR to TTS), and optimizing inference for real-time operation.

Responsibilities

— Phased transition of the system from graphical scenarios and skills to LLM-based dialog management — Debugging the voice pipeline: identifying and eliminating causes of high latency, LLM hallucinations, audio transmission issues, and graphical errors — Promptly making architectural decisions and independently implementing them in code — Supporting and debugging few-shot scenario classification (Qwen) and BERT-based classifiers. Consideration of edge cases, correction of erroneous intent triggers — If necessary — finetuning local LLMs (entity extraction, instruction adherence) — Integration and support of GigaAMv2-based ASR (debugging recognition quality, VAD operation) — Further training and inference setup for proprietary and open-source TTS, and voice cloning systems

Requirements

Grade: Middle+ / Senior. 📌 Important: candidates with an experience relevance of 85% or more are considered (outsourcing position). NLP and LLM (CRITICAL!): — Solid experience with LLM/SLM (Few-shot learning, prompt engineering) and BERT (scenario and intent classification) — Practical experience in finetuning LLMs (PEFT, LoRA/QLoRA) for specific application tasks — Solid LLM debugging skills: ability to quickly understand the reason for an incorrect response and fix it with a prompt, hyperparameter tuning, or finetuning Voice Stack (CRITICAL!): — Experience in further training and optimizing TTS models — Experience with and integration of modern ASR systems (specifically, GigaAMv2) — Practical experience with real-time audio streaming (streaming ASR/TTS, gRPC contracts) Backend and Inference (CRITICAL!): — Solid proficiency in Python (PyTorch, Hugging Face, inference frameworks) — Knowledge of Go (GoLang): basic understanding of service design, SOLID/DRY/KISS principles, typing, synchronization primitives and concurrency (goroutines, channels), pointers, observability — Experience in optimizing inference for low-latency (vLLM, TensorRT-LLM, Triton Inference Server, ONNX Runtime) Architecture and Debugging: — Experience working with both graphical/scenario-based dialog engines and LLM agents — High speed in diagnosing inference problems and localizing bugs 💡 Will be a significant plus: — Experience with gRPC — Ability to set up infrastructure, k8s/inventory, deep understanding of TCP operation

Benefits

Salary: To be discussed. Workload: Full-time. Format: Remote. Location: Russian Federation / Russian Federation.

ID вакансии: 3481_MF Ставка: обсуждается. Грейд: Middle+ / Senior. Загрузка: Full-time (полная занятость). Формат: Удалённо. Локация: РФ / РФ. ⏳ Срок актуальности вакансии: до 11.11.2026. 📌 Важно: рассматриваются кандидаты с релевантностью опыта от 85% (аутстаффинговая позиция). 🏢 О проекте: крупная телекоммуникационная компания. Проект по созданию и развитию интеллектуальных голосовых ассистентов и диалоговых систем. 🧩 О роли: ищем сильного ML/NLP инженера, который возьмет на себя эволюцию диалоговой системы: поэтапный перевод с графовых сценариев на управляемый LLM-based диалог. Это роль для практика, способного самостоятельно принимать архитектурные решения, глубоко дебажить голосовой пайплайн (от ASR до TTS) и оптимизировать инференс для работы в реальном времени. 🚀 Ключевые задачи: — Поэтапный перевод системы с графа сценариев и скиллов на управляемый LLM-based диалог. — Дебаг голосового пайплайна: поиск и устранение причин high latency, галлюцинаций LLM, проблем с передачей аудио и графовых ошибок. — Оперативное принятие архитектурных решений и их самостоятельная реализация в коде. — Поддержка и отладка few-shot классификации сценариев (Qwen) и классификаторов на BERT. Учет краевых случаев, исправление ошибочных срабатываний интентов. — При необходимости — finetuning локальных LLM (извлечение сущностей, удерживание инструкций). — Интеграция и поддержка ASR на базе GigaAMv2 (отладка качества распознавания, работы VAD). — Дообучение и настройка инференса собственных и опенсорсных TTS, систем клонирования голоса. 🎯 Обязательные требования (Hard Skills): NLP и LLM (КРИТИЧНО!): — Уверенный опыт работы с LLM/SLM (Few-shot learning, prompt engineering) и BERT (классификация сценариев и интентов). — Практический опыт finetuning LLM (PEFT, LoRA/QLoRA) под узкие прикладные задачи. — Уверенный дебаг LLM: умение быстро понять причину некорректного ответа и исправить это промптом, гиперпараметром или файнтюном. Голосовой стек (КРИТИЧНО!): — Опыт дообучения и оптимизации TTS-моделей. — Опыт работы и интеграции современных ASR-систем (в частности, GigaAMv2). — Практика работы с потоковым аудио в реальном времени (streaming ASR/TTS, gRPC-контракты). Backend и Инференс (КРИТИЧНО!): — Уверенное владение Python (PyTorch, huggingface, фреймворки инференса). — Знание Go (GoLang): базовое понимание дизайна сервисов, SOLID/DRY/KISS, типизация, примитивы синхронизации и конкуренция (горутины, каналы), указатели, observability. — Опыт работы с оптимизацией инференса под low-latency (vLLM, TensorRT-LLM, Triton Inference Server, ONNX Runtime). Архитектура и дебаг: — Опыт работы как с графовыми/сценарийными диалоговыми движками, так и с LLM-агентами. — Высокая скорость диагностики проблем в инференсе и локализации багов. 💡 Будет весомым плюсом: — Опыт работы с gRPC. — Умение настроить инфраструктуру, k8s/inventory, глубокое понимание работы TCP.

📲 Контакт для отклика: (При отклике, пожалуйста, сразу присылайте актуальное резюме. ⚠️ В сопроводительном сообщении обязательно сделайте акцент на вашем опыте работы с голосовым стеком (ASR/TTS), LLM-диалогами и связкой Python + Go. Пишите ID вакансии: 3481_MF)