Ищем инженера в команду информационной безопасности. Вам предстоит защищать инфраструктуру и встраивать проверки безопасности в процесс разработки. Будете работать вместе с разработчиками и командой эксплуатации: находит…
Ищем инженера в команду информационной безопасности. Вам предстоит защищать инфраструктуру и встраивать проверки безопасности в процесс разработки. Будете работать вместе с разработчиками и командой эксплуатации: находит…
Обязанности Развернуть и настроить сервер инференса (vLLM, при необходимости SGLang) на GPU-узле; Подобрать режим работы под нагрузку: квантизация, размер батча, длина контекста, распределение моделей по картам, реплики …
Обязанности Развернуть и настроить сервер инференса (vLLM, при необходимости SGLang) на GPU-узле; Подобрать режим работы под нагрузку: квантизация, размер батча, длина контекста, распределение моделей по картам, реплики …