Архитектор LLMaaS
Описание
Ищем архитектора LLMaaS для развития платформы на базе больших языковых моделей в крупном российском банке. Нужен сильный инженер с архитектурным мышлением, который понимает устройство LLM, умеет проектировать сложные системы с нуля и способен довести решение от концепции до реализации. Чем предстоит заниматься: Проектировать архитектуру платформы LLMaaS и отдельных сервисов с нуля. Анализировать требования, формировать архитектурные решения и выявлять ограничения и узкие места. Прорабатывать сценарии работы LLM-сервисов, интеграции, масштабирование и отказоустойчивость. Готовить архитектурную и техническую документацию, схемы интеграций и потоков данных. Учитывать требования информационной безопасности и корпоративные стандарты. Защищать архитектурные решения на технических и архитектурных комитетах. Взаимодействовать с разработкой, ML/MLOps, ИБ и другими стейкхолдерами. Сопровождать реализацию архитектуры и контролировать соответствие решения целевой модели. Что важно: Сильная инженерная база и опыт проектирования сложных ИТ-систем. Глубокое понимание LLM: контекстное окно, токенизация, inference, KV-cache, streaming, batching, очереди, cold/hot start, масштабирование и стоимость инференса. Понимание подходов к мониторингу качества генераций. Концептуальное понимание ML/MLOps; практический опыт будет плюсом. Опыт работы в крупных компаниях со сложными процессами согласования, ИБ и большим количеством стейкхолдеров. Хороший технический кругозор и понимание российского IT-ландшафта: отечественное ПО, импортозамещение, российские облака, контейнеризация, СУБД. Умение работать с неопределённостью и самостоятельно формировать архитектурные решения. Сильные навыки технической коммуникации и аргументации. Будет плюсом: Практический опыт проектирования или эксплуатации LLM-платформ. Опыт работы с MLOps/ML-инфраструктурой. Опыт прохождения архитектурных и технологических комитетов в крупных организациях. Главное: ищем не архитектора «по документам», а инженера, который понимает, как работают LLM, умеет спроектировать платформу с нуля и довести архитектурное решение до реализации.Мы предлагаем: Стабильную заработную плату; Удаленный формат работы; Возможность напрямую влиять на развитие продукта; Полностью собственный продукт без аутсорса и внешних подрядчиков; Сильную продуктовую команду: разработка, дизайн, тестирование, продукт и собственное AI-направление; Минимум бюрократии и быстрые решения; Возможность участвовать в развитии продукта федерального масштаба; Профессиональный рост вместе с развитием платформы.