Data Engineer
Описание
Мы ООО «Датаномика», собираем инженерные команды под задачи крупного бизнеса. 6+ лет на рынке, 160+ инженеров в штате, 45+ реализованных проектов в финсекторе, телекоме и ретейле. Развиваем шесть направлений экспертизы: высоконагруженные банковские системы, хранилища данных (DWH), генеративный ИИ, комплаенс-системы, кибербезопасность и импортозамещение софта. Аккредитованная ИТ-компания. Сейчас у нас открыта вакансия Data-инженера в команду крупного российского Банка. Что входит в задачи: Разработка и поддержка ядра репликации: Проектирование и реализация высоконагруженных пайплайнов потоковой передачи данных из ERP-системы в КХД. Разработка механизмов гарантированной доставки (at-least-once, exactly-once semantics) и обработки сбоев без потери целостности финансовых данных. Оптимизация производительности потоков Kafka и Spark Streaming (управление партиционированием, сжатием, батчингом). Работа с витринами данных: Разработка ETL/ELT-процессов трансформации модели данных Банка. Написание сложных SQL-запросов, оконных функций и хранимых процедур для агрегации банковских метрик. Поддержка актуальности витрин данных, оптимизация их переформирования при изменении источников Миграция данных (Data Migration): Участие в проектах вывода из эксплуатации легаси-систем (включая исторические АБС). Разработка утилит-перекладчиков для извлечения, очистки, обогащения и загрузки исторических массивов данных в новую модель с сохранением ссылочной целостности. Качество данных и мониторинг: Внедрение автоматических проверок качества данных (Data Quality checks): профилирование, поиск дублей, проверка консистентности контрольных сумм. Настройка мониторинга задержек репликации (lag) и алертинга через Prometheus/Grafana или аналоги. Взаимодействие: Работа по методологии Agile (Scrum/Kanban). Плотное взаимодействие с архитекторами DWH, администраторами БД PostgreSQL, владельцами продуктов (Product Owners) и аналитиками. AI-native: Опыт проектирования с использованием ИИ-инструментов (LLM, Промт-инжениринг, GIT c Агенты). Технические навыки и инструменты: Язык программирования Java: уверенное владение Core, понимание многопоточности и принципов эффективной работы со стримами. Опыт промышленной разработки от 2 лет. Знание Kotlin как преимущество. Apache Spark: опыт разработки приложений на фрейморке Spark. Глубокое понимание архитектуры (драйверы, исполнители), управления памятью. Умение читать планы выполнения запросов (Explain plan). Apache Kafka: практический опыт настройки продюсеров и консьюмеров, идемпотентности и распределенных коммитов оффсетов. Базы данных и SQL: хороший уровень написания SQL (оконные функции, CTE, рекурсивные запросы). Опыт оптимизации тяжелых запросов через анализ планов исполнения. Желателен опыт работы с СУБД, Hive, Greenplum (приветствуется). Инструменты CI/CD и версионирования: Git (умение работать с ветками, разрешать конфликты, писать понятные мерж-реквесты), Maven, Docker. Базовое понимание Jenkins/GitLab CI для автоматизации сборки артефактов. Форматы данных: хорошеее понимание Avro (схема-на-лету, эволюция схем), Parquet (колоночное хранение, predicate pushdown). Легаси и миграция: опыт анализа чужого кода на PL/SQL; умение проектировать мэппинг полей между старой и новой моделями. Мы предлагаем: Гибридный формат работы; Работа в аккредитованной ИТ-компании; Проекты в крупнейших банках и корпорациях — реальная нагрузка и масштаб (mission-critical системы, высоконагруженная обработка данных); Регулярное обучение и профильные конференции за счёт компании, современное оборудование; Официальная «белая» зарплата, оформление с первого рабочего дня, полное соблюдение ТК РФ; Интересные амбициозные задачи с достижимым результатом