Data Engineer Big Data (Spark / PySpark / Azure Databricks)

Modalidad: 100% remoto
Experiencia: Mínimo 3 años
SBA : 34.000€

En Métrica España, buscamos un/a Data Engineer con experiencia en entornos Big Data, procesamiento distribuido y optimización de cargas con Apache Spark, PySpark y Azure Databricks.
Buscamos una persona proactiva, autónoma y resolutiva, con una sólida base técnica y capacidad para trabajar directamente con cliente. Si te interesa diseñar soluciones de datos eficientes, escalables y robustas, y utilizar herramientas de IA para agilizar el desarrollo, esta es tu posibilidad

Responsabilidades Principales
- Diseño, desarrollo y mantenimiento de procesos de datos distribuidos con Apache Spark y PySpark.
- Desarrollo y optimización de pipelines ETL/ELT y diseño de datasets escalables.
- Análisis y mejora del rendimiento de procesos Spark: particionado, shuffles , persistencia, caché, ejecución de DAG, stages y gestión de memoria.
- Desarrollo de soluciones de procesamiento columnar mediante Pandas UDF, Vectorized UDF y Apache Arrow.




- Desarrollo y mantenimiento de soluciones en Azure Databricks y Delta Lake.
- Optimización de workloads , tiempos de ejecución, consumo de recursos y costes asociados a los procesos de datos.
- Aplicación de algoritmos distribuidos e iterativos para el procesamiento de grandes volúmenes de información.
- Uso de técnicas de Approximate Computing , como HyperLogLog, Bloom Filters, sketching y estadísticas de streaming , cuando sea necesario.
- Uso de herramientas de IA aplicadas al desarrollo —GenAI, Copilot y LLMs— para revisión de código, generación de pruebas, validación y mejora de la productividad.
- Colaboración directa con cliente y equipos técnicos para la toma de requisitos, definición de soluciones y comunicación del avance técnico.
- Documentación técnica de los desarrollos, pipelines y procesos implementados.
- Identificación y propuesta de mejoras continuas en calidad, eficiencia, rendimiento y robustez.

¿

📌 Data Engineer Big Data (España)
🏢 Metrica España
📍 España