Обязанности Развернуть и настроить сервер инференса (vLLM, при необходимости SGLang) на GPU-узле; Подобрать режим работы под нагрузку: квантизация, размер батча, длина контекста, распределение моделей по картам, реплики …
Обязанности Развернуть и настроить сервер инференса (vLLM, при необходимости SGLang) на GPU-узле; Подобрать режим работы под нагрузку: квантизация, размер батча, длина контекста, распределение моделей по картам, реплики …
Обязанности Мониторинг состояния инфраструктуры и сервисов: Grafana/Prometheus, Kubernetes, Linux-серверы и инфраструктурные компоненты; Работа с логами и мониторингом: поиск ошибок и аномалий, обработка алертов, первичн…
Обязанности Мониторинг состояния инфраструктуры и сервисов: Grafana/Prometheus, Kubernetes, Linux-серверы и инфраструктурные компоненты; Работа с логами и мониторингом: поиск ошибок и аномалий, обработка алертов, первичн…
Ищем инженера в команду информационной безопасности. Вам предстоит защищать инфраструктуру и встраивать проверки безопасности в процесс разработки. Будете работать вместе с разработчиками и командой эксплуатации: находит…
Ищем инженера в команду информационной безопасности. Вам предстоит защищать инфраструктуру и встраивать проверки безопасности в процесс разработки. Будете работать вместе с разработчиками и командой эксплуатации: находит…