Das ist der Job
Deine Aufgabenschwerpunkte Entwicklung und Produktivsetzung von LLM-basierten Anwendungen für klinische Use Cases (Voice Ambient Dokumentation, Befundprüfung, Voice Agent) Betrieb und Skalierung unserer LLM-Inferenz-Infrastruktur (vLLM, Quantisierung, Prefix Caching, Multi-GPU-Serving) Konzeption und Umsetzung von Data Pipelines, inkl.
Das brauchst du
DSGVO-konformer synthetischer Datengenerierung und PII-Verarbeitung Aufbau und Pflege von GraphRAG-Architekturen sowie Evaluierungs- und Monitoring-Pipelines (Langfuse, eigene Eval-Suiten) GitOps-basierte Automatisierung von Build-, Deploy- und Rollout-Prozessen (ArgoCD, Helm/Kustomize) Integration von Security- und Compliance-Anforderungen (DSGVO, NIS2, Betriebsrats-Dokumentation, SBOM-Pflege) Optimierung bestehender Systeme hinsichtlich Latenz, GPU-Auslastung und Genauigkeit Weiterentwicklung unserer internen AI-Plattform und Tools (Backend in Rust, Frontend in Svelte 5) Code- und Model-Reviews, Pair Programming, gemeinsame Architekturentscheidungen Dein Profil Programmierung: Sehr gute Kenntnisse in Python; Rust und/oder TypeScript/Svelte sind ein klarer Pluspunkt — wir bauen kritische Komponenten zunehmend in Rust KI-Frameworks: Sicherer Umgang mit PyTorch, transformers, vLLM oder vergleichbaren Inferenz-Stacks MLOps in der Praxis: Erfahrung mit Kubernetes, GitOps (ArgoCD o. ä.), Container-Builds, Helm/Kustomize Datenbanken & Storage: PostgreSQL (idealerweise mit Patroni/StackGres oder vergleichbaren HA-Setups), Vektor-Datenbanken (Qdrant v
