Data Engineer

Наша команда инфраструктуры аналитики помогает аналитикам делать свою работу. Мы обеспечиваем доставку данных в единое хранилище для аналитики и поддерживаем инструменты для их обработки и презентации.

В компании много самодостаточных команд. В каждой команде свои сервисы, свои разработчики и аналитики. Так что у нас достаточно потоков данных самого разнообразного формата и объема. Это данные о букингах, на которые смотрит вся компания, и каждая запись проверяется чуть ли не руками, а еще — данные о билетах объемом более терабайта в сутки. Это требует разных подходов с нашей стороны.

• Наша платформа основана по принципам LakeHouse архитектуры. Наш стек: Spark, Trino, AWS S3, DeltaLake format, DBT, Kafka, Airbyte, Apache Airflow, DataHub.
• Тестирование и сборка производятся на CI сервере (Jenkins). Также присутствует Terraform. Деплой в Kubernetes(EKS в AWS). Настройкой серверов и разворачиванием баз мы не занимаемся. Это делает отдельная команда инфраструктуры.

В нашу дружную команду нужен начинающий дата инженер, который в ближайшей перспективе будет сфокусирован на задачах, связанных с поддержкой работоспособности дата платформы и главного продукта компании.

Что нужно делать

• активно участвовать в командном чате: отслеживать запросы, оперативно реагировать на вопросы и задачи в рабочее время;
• мониторить системы и решать возникающие инциденты вместе с дежурными дата инженерами;
• оптимизировать текущие процессы обработки данных;
• модернизировать текущую дата платформу вместе с Core командой дата инженеров.

Чего ждём от тебя

• опыт работы инженером данных от 1 года;
• знание языков программирования: Python/SQL (обязательно), опыт работы с другими языками будет плюсом.
• понимание принципов ETL/ELT процессов и опыт работы с инструментами
• понимание как работают распределенные вычисления