Мы ищем опытного Senior MLOps Engineer для укрепления нашей команды. Этот человек будет играть важную роль в модернизации нашей ML-инфраструктуры, создании воспроизводимых процессов разработки ML-моделей.

Наш стэк:

k8s, Airflow, Redis, Qdrant, ClearML, MLflow, DVC, fastAPI, MongoDB, Spark, Kafka, Prometheus, Grafana.

Задачи:

Создание MLOps-практик (стенды, DevOps, процессы) для задач запуска кампаний продаж, обработки аудиоконтента, исполнения LLM: среды разработки, тестирования, инференса и мониторинга моделей в различных режимах (Batch, Streaming) и использования ресурсов (CPU, GPU);
Внедрение инструментов отслеживания жизненного цикла моделей и версионирования модельных артефактов (ClearML, MLFlow, DVC и т.п.);
Развитие LLMOps-практик (эффективный инференс LLM для ChatGPT-like решений);
Разработка Feature Store для моделей как компоненты Customer Data Platform;
Помощь команде DS в выводом моделей в prod.

Требования:

Опыт работы в качестве DevOps/MLOps/MLE Engineer не менее 3 лет;

Опыт работы с k8s, уметь разрабатывать и поддерживать сервисы в этой среде;

Опыт развертывания и использования MLOps инструментов (ClearML, DVC, MLflow и т.п.);

Опыт выстраивания CI/CD, DAG пайплайнов для разработки-тестирования-исполнения моделей/витрин;

Опыт отладки Spark-job'ов, умение разбираться в ML-алгоритмах (бустинги, сетки, LLM, распред. вычисления);

Опыт работы с Feature Store, обеспечивать ежедневную работу потоков данных;

Знание принципов организации распределенных информационных систем и баз данных.