Darum lohnt es sich
Aufbau und Weiterentwicklung unserer AI Plattform auf Kubernetes Deployment und Betrieb von Large Language Models (LLMs) auf GPU-Servern Aufbau und Betrieb performanter Model-Serving und Inference-Services Etablierung von MLOps-Standards und Betrieb und Weiterentwicklung der on-prem MLOps-Plattform (u.A.
ClearML, OpenShift) Aufbau von LLMOps-Workflows für produktive GenAI-Services (Serving/Runtime-Konfiguration, Guardrails & Policies, Evaluierung/Regressionstests, Kosten- & Qualitäts-Monitoring) Containerisierung und Deployment von AI-Services mit Docker und Kubernetes Skalierung und Optimierung von GPU- und CPU-Workloads Entwicklung stabiler AI-APIs und Services für interne Anwendungen Aufbau von Monitoring, Logging und Observability für AI-Systeme Automatisierung von Infrastruktur-, Plattform- und Model-Releases (CI/CD, GitOps, Infrastructure-as-Code) inkl. sicherer Rollouts, Rollbacks und Standardisierung von Deployments Analyse und Optimierung von Performance, Skalierung und Stabilität Strukturierte, selbstständige Arbeitsweise und Freude daran, komplexe Systeme zu betreiben und zu verbessern Kommunikations- und Moderationsstärke im Austausch mit Fachbereichen und IT Erfahrung im Aufbau oder Betrieb von Cloud-, Plattform- oder Infrastruktur-Systemen Gute Kenntnisse in Kubernetes und Container-Technologien Erfahrung mit Microservices, APIs und verteilten Systemen Erfahrung in MLOps/LLMOps (Model-/Prompt-Lifecycle, Serving, Evaluierung, Monitoring) sowie an produktiven AI-Systemen Erfahrung mit DevOps-Praktiken wie CI/CD, GitOps, Infrastructure-as-Code und Betriebs-/Release-Prozessen von Vorteil Erfahrung mit GPU-Workloads oder High-Performance-Systemen von Vorteil #J-18808-Ljbffr
