KI-Entwickler LLM / RAG / Agenten - Python oder TypeScript (m/w/d)

Du baust KI-Anwendungen, die beim Kunden im Regelbetrieb laufen: Dialogsysteme, semantische Suche, RAG-Pipelines, Agenten mit Werkzeuganbindung. Kein Prototyp für die Schublade.

Wer wir sind

Rockstardevelopers, gegründet 2015 in Mannheim, Büros in Stuttgart und München. Aus hunderten Projekten für Enterprise- und Mittelstandskunden wissen wir, wie man Software baut, die im Ernstfall trägt. Seit einer Weile verschiebt sich unser Schwerpunkt Richtung KI: LLM-Anwendungen, RAG, Agenten-Systeme, die beim Kunden produktiv gehen.

Worum es geht

Unsere Kunden sind die Deutsche Bahn und IT-Dienstleister im öffentlichen Sektor, ein reguliertes Umfeld mit hohen Ansprüchen an Datenschutz, EU AI Act und Betriebssicherheit. Dort baust du KI-Lösungen in bestehende Fachanwendungen ein. Projektsprache ist Deutsch. Der Alltag läuft remote-first, Kundentermine meist in Frankfurt am Main. Unsere Kunden stellen diese Projekte fast nur mit Festangestellten besetzt. Deshalb suchen wir dich in Festanstellung.

Aufgaben

• Sprachmodelle in Fachanwendungen integrieren: RAG mit Retrieval und Reranking, Tool-Calling, MCP-Server, Multi-Agent-Abläufe
• Evaluierung aufbauen: Antwortqualität messen, Halluzinationen eingrenzen, Kosten und Token-Verbrauch im Griff behalten
• Modelle auswählen und wechselbar halten (Azure AI Foundry, AWS Bedrock, offene Modelle), Governance und Datenschutz mitdenken
• Betrieb: Container, CI/CD, Monitoring, Alerting
• Enge Abstimmung mit Fachbereich, Architektur und Betrieb des Kunden

Das musst du mitbringen

• Mindestens drei Jahre Softwareentwicklung in Python oder TypeScript, nach Ausbildung oder Studium
• Mindestens eine LLM-Anwendung, die bei einem Kunden oder Arbeitgeber produktiv lief (RAG, Tool-Calling, Agenten), mit deinem Anteil daran
• Docker, CI/CD und Git aus dem Projektalltag
• Deutsch mindestens C1 in Wort und Schrift

Das bringst du idealerweise mit

• Kubernetes oder OpenShift, Helm
• MLOps-Werkzeuge (MLflow, Kubeflow, Model Serving) und klassisches ML im Produktivbetrieb
• Vektordatenbanken, Embedding-Modelle, Reranker
• Azure AI Foundry, AWS Bedrock oder Vertex AI
• EU AI Act, ISO 27001, Barrierefreiheit
• Erfahrung bei Bahn, Behörden oder Sozialversicherung
• Prometheus und Grafana, ArgoCD, SAFe

Benefits

• Echte Produktivprojekte. KI, die beim Kunden in Betrieb geht. Kein Innovation-Lab, keine Folien.
• Remote-first in der DACH-Region. Gelegentlich vor Ort, ansonsten arbeitest du von dort, wo du gut arbeitest.
• Internes Upskilling. Wir investieren in deine KI-Skills.
• MacBook
• Flache Hierarchien. Die Gründer sind deine direkten Ansprechpartner.