Deine Aufgabe

T-Systems sucht einen Senior Backend Engineer mit ausgeprägten Fähigkeiten im Systemdesign und Erfahrung im Aufbau von Produktionsinfrastruktur. Diese Rolle konzentriert sich auf die Architektur und Wartung von Backend-Plattform-Services hinter KI-Inferenz-Endpunkten – ein mandantenfähiges System, das Authentifizierung, API-Key-Management, Nutzungsmessung, Abrechnung und Request-Proxy verwaltet. Dies ist eine Position mit hoher Eigenverantwortung, in der du Architekturentscheidungen prägst, die Qualität der Entwicklung anhebst und Systeme baust, die performant, sicher und im großen Maßstab beobachtbar sind. Du arbeitest mit Experten für KI-Infrastruktur und Data Engineering zusammen, um robuste, sichere und effiziente Systeme zu bauen, die auf Millionen von Anfragen skalieren.

Aufgaben

Design und Aufbau von zentralen Plattform-Services: API-Gateway, Authentifizierung, Autorisierung, Key-Rotation und mandantenfähige Isolation
Architektur und Implementierung von Nutzungsmessung, Abrechnungsintegration und Rate Limiting für Inferenz-Endpunkte




Aufbau und Betrieb eines hochdurchsatzfähigen Proxy-/Routing-Layers für KI-Modell-Serving-Traffic
Design von Telemetrie und Observability von Grund auf in die Plattform – strukturiertes Logging, Distributed Tracing, Metriken und Alerting
Vorantreiben technischer Entscheidungen zu Architektur, Datenmodellierung und Technologieauswahl
Etablierung von Engineering-Standards für die Backend-Codebasis: Testing, Code-Review, CI/CD und Deployment-Praktiken
Enge Zusammenarbeit mit dem ML-Infrastruktur-Team, um mit Model-Serving-Systemen zu integrieren (z.B. NVIDIA Dynamo, vLLM, SGlang, TensorRT-LLM)

Dein Profil

Wir suchen einen hochqualifizierten Python Developer und Senior Backend Engineer mit ausgeprägten System-Design-Fähigkeiten und umfassender Erfahrung im Design, Aufbau und der Skalierung von verteilten Systemen und APIs. Der ideale Kandidat wird die Backend-Plattform-Infrastruktur für AI-Inference-Endpoints archit

📌 Lead Senior Backend-Entwickler (Granada)
🏢 Deutsche Telekom
📍 Granada