MLOps-инженер
Описание
О роли: Ищем MLOps инженера, который будет настраивать модели, агентов и базы данных на железе, оптимизировать их работу и готовить измеримые результаты для команды. Работа предстоит и в собственной лаборатории с тестовым сервером для PoC и сборки MVP, и на удаленных стендах вендоров. Задачи: Разворачивать и обслуживать GPU серверы и инференс окружения для LLM в локальном контуре и на стендах вендоров. Настраивать и поддерживать пайплайны деплоя моделей и агентов, включая версионирование. Создавать тестовые песочницы для валидации новых моделей и фреймворков. Тестировать новые фреймворки и рантаймы как на локальном оборудовании, так и на удаленных стендах вендоров. Настраивать мониторинг качества и производительности инференса. Оптимизировать паттерны обращения к моделям и throughput под нагрузкой. Участвовать в сборке PoC и MVP. Требования: Опыт в MLOps или DevOps от 2 до 3 лет, в идеале от 3 до 5 лет. Уверенное знание Docker. Опыт работы с LLM, включая облачные модели. Опыт работы с GPU платформами, прежде всего NVIDIA. Опыт настройки рантаймов и бэкендов инференса: vLLM, SGLang, TensorFlow. Понимание метрик инференса, батчинга и квантизации: FP16, BF16, FP8, INT8. Опыт настройки мониторинга: Grafana, Zabbix или аналоги. Опыт оптимизации инфраструктуры под ML нагрузки. Сильное преимущество: Опыт работы с Kubernetes. Не обязателен, но будет весомым плюсом при выборе кандидата. Опыт работы с реальными enterprise архитектурами. Условия: Оплата: условия обсуждаются индивидуально с каждым кандидатом. Москва, офис. Сейчас метро Кунцевская, в ближайшие месяцы переезд на метро Динамо. Первое время работа из офиса, затем возможен гибридный формат. Полная удаленка не предусмотрена. Официальное оформление по трудовому договору.