Национальный научно-практический центр «Til-Qazyna»
Зарплата: от 600 000 до 700 000 KZT gross в месяц
Местоположение: Астана / Офис
Til-Qazyna создает цифровую и ИИ-инфраструктуру для казахского языка, включая фундаментальные языковые ресурсы и модели с открытым исходным кодом. Команда разрабатывает лингвистические инструменты, пользовательские текстовые корпуса, морфологические анализаторы и тонко настроенные большие языковые модели.
Обязанности
- Тонкая настройка, оценка и бенчмаркинг LLM с открытым исходным кодом для казахского языка с использованием LoRA, QLoRA и PEFT.
- Разработка и оптимизация основанных на правилах и нейронных NLP-компонентов, включая морфологические анализаторы, лемматизаторы, токенизаторы и парсеры терминологии.
- Создание конвейеров для сканирования текста, очистки, дедупликации, генерации синтетических данных и курирования наборов данных.
- Упаковка NLP-моделей в микросервисы Docker и FastAPI и оптимизация инференса с помощью vLLM, Ollama, TensorRT-LLM или ONNX.
Требования
- 1+ года практического опыта работы в области NLP, AI или машинного обучения.
- Понимание трансформеров, механизмов внимания, эмбеддингов и токенизации; опыт работы с PyTorch, библиотеками Hugging Face и Scikit-learn.
- Опыт создания конвейеров предварительной обработки для структурированных и неструктурированных текстовых данных.
- Практическое знание Docker, Linux и Git.
- Степень в области компьютерных наук, науки о данных или прикладной математики.
Опционально
- Опыт работы с LLM-сервисами и оптимизацией, включая vLLM, TGI, llama.cpp, AWQ или GPTQ.
- Опыт работы с RAG-стеками, такими как LangChain, LlamaIndex, ChromaDB, Qdrant или FAISS.
- Понимание морфологических, агглютинативных или грамматических характеристик казахского языка; знакомство с DPO, RLHF или генерацией синтетических данных.
