AI Platform Engineer
Zurück zu den Treffern
- Aufbau und Weiterentwicklung unserer AI Plattform auf Kubernetes
- Deployment und Betrieb von Large Language Models (LLMs) auf GPU-Servern
- Aufbau und Betrieb performanter Model-Serving und Inference-Services
- Etablierung von MLOps-Standards und Betrieb und Weiterentwicklung der on-prem MLOps-Plattform (u.A. ClearML, OpenShift)
- Aufbau von LLMOps-Workflows für produktive GenAI-Services (Serving/Runtime-Konfiguration, Guardrails & Policies, Evaluierung/Regressionstests, Kosten- & Qualitäts-Monitoring)
- Containerisierung und Deployment von AI-Services mit Docker und Kubernetes
- Skalierung und Optimierung von GPU- und CPU-Workloads
- Entwicklung stabiler AI-APIs und Services für interne Anwendungen
- Aufbau von Monitoring, Logging und Observability für AI-Systeme
- Automatisierung von Infrastruktur-, Plattform- und Model-Releases (CI/CD, GitOps, Infrastructure-as-Code) inkl. sicherer Rollouts, Rollbacks und Standardisierung von Deployments
- Analyse und Optimierung von Performance, Skalierung und Stabilität
- Strukturierte, selbstständige Arbeitsweise und Freude daran, komplexe Systeme zu betreiben und zu verbessern
- Kommunikations- und Moderationsstärke im Austausch mit Fachbereichen und IT
- Erfahrung im Aufbau oder Betrieb von Cloud-, Plattform- oder Infrastruktur-Systemen
- Gute Kenntnisse in Kubernetes und Container-Technologien
- Erfahrung mit Microservices, APIs und verteilten Systemen
- Erfahrung in MLOps/LLMOps (Model-/Prompt-Lifecycle, Serving, Evaluierung, Monitoring) sowie an produktiven AI-Systemen
- Erfahrung mit DevOps-Praktiken wie CI/CD, GitOps, Infrastructure-as-Code und Betriebs-/Release-Prozessen von Vorteil
- Erfahrung mit GPU-Workloads oder High-Performance-Systemen von Vorteil