Deine Aufgabe
Die Mission dieser Rolle ist es, eine souveräne AI-Toolchain zu entwerfen, aufzubauen und zu betreiben, die in isolierten oder streng kontrollierten Umgebungen eingesetzt wird. Dies umfasst Model Serving, Retrieval, Orchestrierung, Observability sowie den sicheren Plattformbetrieb für Enterprise-AI-Engineering-Workloads. Der Fokus dieser Rolle liegt auf Open-Source- oder Open-Weight-LLM-Stacks, Air-Gapped- oder isolierten Deployment-Models, Kubernetes-basierter Platform Engineering, GPU-fähigen Umgebungen und prüfbaren AI-Operationen, die für souveränitätskritische Programme geeignet sind.

Aufgaben

Entwurf und Betrieb von Kubernetes-Umgebungen, die für AI-Inferenz, Retrieval, Experimentierung und Agenten-Ausführung in sicheren oder isolierten Settings optimiert sind

Deployment und Betrieb von Open-Source- oder Open-Weight-Modell-Stacks, Modell-Gateways, Vektordatenbanken und unterstützenden Plattformkomponenten

Aufbau einer reproduzierbaren Plattformautomatisierung mittels Infrastructure as Code und GitOps-Ansätzen für eine stabile und prüfbare Bereitstellung





Verwaltung von lokalen Registries, Package-Mirrors, Secrets, Zugriffskontrollen, Storage, Networking und Observability in Umgebungen mit begrenzter oder keiner Public-Cloud-Abhängigkeit

Optimierung der GPU-, Compute- und Storage-Nutzung für zuverlässige AI-Workloads unter Einhaltung der Sicherheits- und Datensouveränitätsanforderungen

Dein Profil
Wir suchen einen professionellen Platform Engineer / MLOps Specialist mit umfangreicher Erfahrung in Kubernetes, Linux und KI-Infrastruktur, speziell mit Fokus auf dem Deployment und Betrieb von souveränen, air-gapped oder isolierten LLM-Stacks.

Muss-Kriterien

Mindestens 5 Jahre Erfahrung in Platform Engineering, DevOps, SRE oder MLOps

Ausgeprägte Expertise in Kubernetes und Linux

Nachgewiesene Erfahrung mit KI-Infrastruktur und Model Serving

Erfahrung mit privaten oder On-Prem-Deployments sowie Produktionsbetrieb für LLM-basierte Workloads

S

📌 Sovereign AI Platform Engineer (Madrid)
🏢 Deutsche Telekom
📍 Madrid