Data Engineer (Databricks) (Jaén)

Data Engineer (Databricks) (Jaén)

17 ago
|
Capitole
|
Jaén

17 ago

Capitole

Jaén

Buscamos un/a Data Engineer Senior para diseñar y operar la plataforma de datos que alimenta un sistema de pricing ágil e inteligencia de negocio en entornos retail de alto volumen.
La persona seleccionada será el referente técnico de la arquitectura de datos: desde la ingesta de fuentes operacionales (ERP, POS, e-commerce, footfall) hasta la exposición de datos listos para consumo por modelos de ML y herramientas de BI.
Inscríbase (haciendo clic en el botón correspondiente) después de revisar toda la información relacionada con el trabajo a continuación.El rol requiere dominio profundo de Databricks como plataforma central y sólido conocimiento de la arquitectura Medallion (Bronze / Silver / Gold), así como experiencia en modelado de datos dimensional y capacidad para trabajar con Azure Data Factory como orquestador de pipelines — aunque la mayor parte del trabajo de transformación residirá en Databricks.2.
Responsabilidades principalesArquitectura y plataforma de datos? Diseño y evolución de la arquitectura Medallion (Bronze ? Silver ? Gold) sobre Databricks / Delta Lake.
? Definición de estándares de ingesta, particionado, compactación y versionado de tablas Delta.
? Gobierno de la plataforma: Unity Catalog, gestión de permisos, linaje de datos y calidad (Great Expectations o similar).
? Evaluación y decisión de patrones de procesamiento: batch, micro-batch (Structured Streaming) y near real-time según el caso de uso.Modelado de datos? Diseño de modelos dimensionales (esquemas estrella y copo de nieve) orientados a casos de uso de pricing, forecasting y personalización.
? Definición de tablas de hechos y dimensiones: transacciones POS, catálogo de productos, maestro de tiendas, calendario promocional.




? Colaboración con el equipo de ML para diseñar y mantener el feature store sobre la capa Gold.
? Documentación del modelo de datos en un catálogo semántico accesible para usuarios de negocio y analítica.Pipelines e ingesta? Construcción de pipelines de ingesta desde fuentes heterogéneas: ERP (SAP u otros), POS, APIs de e-commerce, feeds de Retail Media, NPS.
? Uso de Azure Data Factory para orquestación de movimientos de datos entre sistemas origen y el lakehouse — con preferencia por mantener la lógica de transformación en Databricks (PySpark / SQL).
? Implementación de patrones de ingesta incremental (CDC, watermark, upsert con Delta Merge) para minimizar latencia y coste.
? Testing de pipelines: validaciones de schema, checks de completitud y pruebas de regresión sobre datos.Operación y fiabilidad? Monitorización de jobs en Databricks Workflows: alertas, reintentos y gestión de dependencias.
? Optimización de costes de cómputo: sizing de clusters, uso de Photon, Auto Loader y optimizaciones de Delta (OPTIMIZE / ZORDER).
? Soporte a incidencias de datos en producción (on-call rotatorio con el equipo).
Colaboración? Trabajo estrecho con Data Scientists para garantizar que el feature store cubra los requisitos de los modelos de pricing y recomendación.




? Acompañamiento a analistas de negocio en la definición de métricas y KPIs sobre la capa Gold.
? Participación en code reviews, definición de convenciones de nombrado y estándares de calidad del equipo.3.
RequisitosImprescindibles? 5+ años de experiencia en ingeniería de datos en entornos productivos.
? Databricks: experiencia sólida con Databricks como plataforma principal; Delta Lake, Databricks Workflows, Unity Catalog.
? Arquitectura Medallion: diseño e implementación de capas Bronze / Silver / Gold con criterios claros de granularidad, particionado y SLA por capa.
? Modelado de datos: dominio de modelado dimensional (Kimball); diseño de esquemas estrella y copo de nieve; definición de claves surrogadas, SCDs y tablas de hechos.
? Lenguajes: PySpark y SQL avanzado (window functions, CTEs, optimización de queries).
? Azure Data Factory: conocimiento funcional para orquestación y movimiento de datos; no es necesario dominioprofundo.
? Experiencia con patrones de ingesta incremental: CDC, watermark, Delta Merge / upsert.
? Familiaridad con control de versiones (Git) y prácticas de DataOps básicas.Valorables? Experiencia en retail, travel retail o sectores con datos transaccionales de alto volumen.
? Conocimiento de herramientas de calidad de datos: Great Expectations, Soda o similar.
? Experiencia con dbt (data build tool) para transformaciones SQL sobre la capa Silver/Gold.
? Familiaridad con eventos en streaming: Kafka, Event Hubs o Databricks Structured Streaming.
? Conocimiento de herramientas de catálogo y linaje: Purview, Alation o Unity Catalog avanzado.
xqysrnh? Experiencia colaborando con equipos de ML en el diseño de feature stores (Feast, Tecton o solución custom).

📌 Data Engineer (Databricks) (Jaén)
🏢 Capitole
📍 Jaén

Postulate a este anuncio

Muestra tus habilidades a la empresa, rellenar el formulario y deja un toque personal en la carta, ayudará el reclutador en la elección del candidato.

Suscribete a esta alerta:

Recibe por email las nuevas ofertas de trabajo para: data engineer (databricks) (jaén) / jaén

Suscribete a esta alerta:

Recibe por email las nuevas ofertas de trabajo para: data engineer (databricks) (jaén) / jaén