Senior AI Platform Engineer -

LLM Gateway

BBVA busca un competente senior para incorporarse a la implantación de una plataforma corporativa de LLM Gateway. La plataforma proporcionará un acceso común, seguro, gobernado y observable a modelos fundacionales para los distintos casos de uso, aplicaciones y agentes de IA del

Grupo.

El objetivo del rol es contribuir a materializar e industrializar la solución, trabajando sobre la arquitectura y los estándares corporativos definidos, y participando activamente en su evolución técnica. No se busca un perfil exclusivamente funcional ni de consumo de APIs de IA: se requiere experiencia práctica en plataformas cloud empresariales, seguridad, integración, operación y automatización.

Resumen del puesto

Implementar y evolucionar las capacidades técnicas necesarias para que los consumidores corporativos accedan a los modelos de IA generativa a través de un Gateway, evitando la gestión distribuida de credenciales de proveedores y asegurando controles homogéneos de seguridad,

gobierno, observabilidad, resiliencia y costes.

Responsabilidades principales

- Implementar los componentes y configuraciones del LLM Gateway conforme a la

arquitectura, estándares y controles corporativos de BBVA.
- Diseño técnico de integraciones, patrones de consumo y evolución de capacidades de la

plataforma, aportando criterio de implementación y operabilidad.
- Integrar aplicaciones, agentes y servicios consumidores con el endpoint corporativo de

inferencia, facilitando patrones reutilizables de adopción.
- Integrar el LLM Gateway con los mecanismos corporativos existentes de identidad,

autenticación y autorización, aplicando los estándares definidos por BBVA para identidades de workload, OAuth2/OIDC, JWT, audiencias, scopes y principio de mínimo privilegio.
- Configurar la gestión segura y centralizada de secretos y credenciales de proveedores,

incluida su segregación por entorno y su rotación.
- Implementar la configuración del Gateway necesaria para la conectividad con proveedores

de modelos y coordinar su validación con los equipos responsables de Redes y Seguridad, incluyendo DNS, proxy, TLS, certificados y egress controlado.
- Configurar y evolucionar capacidades de gobierno y protección: políticas de acceso, rate

limiting,



cuotas, enrutamiento, límites de consumo, filtrado/guardrails y trazabilidad.
- Implantar capacidades de resiliencia y calidad de servicio: timeouts, reintentos, circuit

breaking, manejo de errores, fallback cuando aplique y pruebas de carga.
- Instrumentar la plataforma para su operación: métricas, logs estructurados, trazas

distribuidas, alertas, cuadros de mando y soporte a auditoría.
- Habilitar la medición de consumo y costes por aplicación, agente, proyecto, entorno y

modelo, en coordinación con los equipos de control y FinOps.
- Automatizar despliegues, configuración y pruebas mediante Infraestructura como Código y

pipelines CI/CD.
- Elaborar documentación técnica, guías de integración, procedimientos operativos y material

de transferencia a los equipos de BBVA.
- Colaborar de forma estrecha con los equipos de Arquitectura, Ciberseguridad, IAM,

Cloud/Platform Engineering, Redes, SRE y equipos de desarrollo.

Requisitos técnicos

- Experiencia de al menos 6 años en ingeniería de plataforma, cloud engineering, integración

de sistemas distribuidos, API management o ámbitos equivalentes.
- Experiencia demostrable previa de al menos 1 año con integración de AI Gateways.
- Experiencia demostrable implantando y operando APIs, plataformas compartidas o servicios

transversales en entornos empresariales complejos.
- Experiencia práctica integrando APIs de inferencia y modelos de IA generativa en entornos

productivos con alta concurrencia, incluyendo autenticación, streaming, gestión de errores, límites de consumo, latencia y uso de tokens.
- Experiencia con API Gateways, gestión de APIs o plataformas de integración equivalentes.
- Experiencia implementando capacidades de plataforma aplicadas a APIs: políticas de acceso,

rate limiting, cuotas, trazabilidad, observabilidad y gestión de errores.




- Conocimiento sólido de seguridad de APIs e integración con mecanismos corporativos

existentes de identidad y control de acceso: OAuth2, OIDC, JWT, gestión de secretos, scopes, audiencias y principio de mínimo privilegio.
- Experiencia con AWS, especialmente en capacidades de identidad, gestión de secretos,

observabilidad, networking e Infraestructura como Código.
- Conocimiento de redes y seguridad cloud: VPC, egress controlado, proxy, DNS, TLS,

certificados y conectividad con servicios externos.
- Experiencia implementando observabilidad y operación de servicios: métricas, logs

estructurados, trazas distribuidas, alertas, SLI/SLO y diagnóstico de incidencias.
- Experiencia de desarrollo y automatización con Python, incluyendo implementación de APIs,

integraciones, middlewares o componentes de plataforma.
- Experiencia con Terraform, CloudFormation o CDK, CI/CD y gestión de configuración

versionada.
- Capacidad para trabajar coordinadamente con equipos de Arquitectura, IAM,

Ciberseguridad, Redes, Cloud/Platform Engineering y desarrollo en un entorno corporativo regulado.
- Autonomía en identificación de problemas ante incidentes o problemas complejos tales

como cuellos de botella, problemas de integración, etc.

Conocimientos valorables

- Experiencia específica con AWS AgentCore Gateway, Amazon Bedrock u otras capacidades

AWS orientadas a IA generativa.
- Experiencia previa en la implantación de un LLM Gateway o plataforma de acceso

gobernado a modelos fundacionales.
- Integración con OpenAI y otros proveedores de modelos, así como con APIs compatibles con

OpenAI.
- Experiencia con patrones multi-modelo o multi-proveedor, enrutamiento de modelos,

fallback y mecanismos de resiliencia.
- Implementación de guardrails, filtrado de contenido, protección frente a prompt injection,

DLP y clasificación de datos.
- Conocimientos de FinOps aplicado a IA generativa, incluyendo medición, imputación y

optimización de costes por consumidor o caso de uso.
- Experiencia con Kubernetes/EKS, service mesh y prácticas SRE avanzadas.
- Experiencia previa en banca u otros sectores con elevados requisitos de seguridad,

trazabilidad, segregación y cumplimiento normativo. SBA: 45.000€

Modalidad: Teletrabajo

📌 Senior AI Platform Engineer – LLM Gateway (Madrid)
🏢 TECDATA ENGINEERING
📍 Madrid