12 ago
|
Getnet Platforms
|
Madrid
12 ago
Getnet Platforms
Madrid
SE REQUIERE Experiencia 3+ años de experiencia como Data Engineer en entornos productivos de gran volumen, con experiencia sólida en Apache Spark, tanto en procesamiento batch como en Spark Structured Streaming, utilizando PySpark o Scala.
Estudios Technical degree-level education: Bachelor's degree in Engineering, Technology Sciences, Mathematics, Economics, Physics, Chemistry, Statistics, or similar.
Technical skills Apache Spark con PySpark o Scala: batch y Spark Structured Streaming.
Delta Lake: MERGE, upserts, time travel, optimización de ficheros y gestión de esquemas.
Apache Kafka y Confluent: productores y consumidores, particionado, Schema Registry y CDC mediante Debezium.
Ecosistema de datos de AWS: Glue, Data Catalog, ETL, Lambda, S3, EMR y EMR Serverless.
AWS Lake Formation: permisos a nivel de tabla y columna y gobierno de acceso.
Amazon SageMaker: integración de pipelines de datos con flujos de Machine Learning.
SQL avanzado y modelado de datos dimensional.
Change Data Capture y Slowly Changing Dimensions.
Git,
CI/CD y buenas prácticas de testing en proyectos de datos.
Otras informaciones Experiencia con Kafka Streams o ksqlDB.
Experiencia con arquitecturas de lookup tables a gran escala, incluyendo point lookup, bucketing y Bloom Filters.
Conocimientos de Terraform o CloudFormation para infraestructura como código.
Experiencia en sectores regulados, especialmente en el sector financiero o de medios de pago.
Certificaciones AWS, como Data Analytics Specialty o Solutions Architect.
Buscamos un perfil con capacidad para realizar debugging profundo en sistemas distribuidos, autonomía y mentalidad "you build it, you run it".
RESPONSABILIDADES PRINCIPAL Diseñar, construir y operar pipelines de ingesta y transformación de datos en tiempo real y por lotes sobre una plataforma AWS nativa de streaming basada en Kafka/Confluent, Spark Structured Streaming y Delta Lake, con foco en fiabilidad, rendimiento y escalabilidad.
Actividades principales Diseñar, desarrollar
📌 Data Engineer (Madrid)
🏢 Getnet Platforms
📍 Madrid