Senior Linux инженер (GPU)
Описание
Мы - команда инженеров, которые строят платформу для инференса и SFT opensource LLM. Используем продвинутые cutting edge движки для инференса, много экспериментируем и боремся за каждую дополнительную единицу в Token thoughput. Cейчас мы находимся в поиске Linux инженера, который возьмет на себя вопросы, связанные с разворачиванием, настройкой и тонким тюнингом core Linux для обеспечения оптимальной работы инференс движков.Чем предстоит заниматься настраивать, поддерживать и траблшутить GPU-инфраструктуру Блока настраивать логирование, мониторинг и алертинг работоспособности всех компонентов инфраструктуры коммуницировать со смежными подразделениями в части улучшений инфраструктурного ландшафта Блока — участвовать в оценках инфраструктуры под новые продукты и проекты. Требования продакшн опыт работы с GPU-инфраструктурой и инференсом SOTA LLM опыт с ОС Linux: основные дистрибутивы, troubleshooting работы сервисов, оценка «здоровья» системы. глубокое понимание этапов настройки ОС: сеть, диски, основные сервисы. понимание устройства baremetal-сервера: CPU, RAM, сеть, хранение, шина PCI, топология GPU (NVLink/PCIe); ввод узлов в эксплуатацию, драйверы NVIDIA, CUDA понимание сетевого уровня: протоколы TCP/IP, Ethernet, VLAN, MTU, TTL, DHCP, DNS, ARP, NTP. опыт работы с инструментами мониторинга и логирования: Grafana, Elasticsearch, OpenTelemetry. написание скриптов на bash, знание systemd навыки программирования на Python. Будет плюсом опыт работы с высокоскоростными interconnect-технологиями GPU-кластеров( RDMA/RoCe/Infiniband) и понимание работы NCCL. Мы предлагаем гибридный формат работы (2-3 дня в офисе) г. Москва годовой бонус и ежегодный пересмотр расширенный ДМС с первого дня + стоматологию и льготное страхование для семьи корпоративный университет Сбера, внутреннюю образовательную платформу, участие в IT-конференциях офис на Кутузовской с зонами отдыха и спортзалом льготную ипотеку в Сбере, корпоративную пенсионную программу, подписку СберПрайм с возможностью совместного использования на трёх близких, скидки от партнеров и сервисов группы компаний.