Machine Learning Engineer (m/w/d)

Du baust produktive KI-Systeme (LLM, RAG, Agenten) für große Kunden im öffentlichen Sektor. Kein Prototyp für die Schublade, sondern Software, die im Regelbetrieb läuft.

Wer wir sind

Rockstardevelopers, gegründet 2015, Büros in Stuttgart und München. Aus hunderten Projekten für Enterprise- und Mittelstandskunden wissen wir, wie man Software baut, die im Ernstfall trägt.

Seit einer Weile verschiebt sich unser Schwerpunkt Richtung KI: LLM-Anwendungen, RAG, Agenten-Systeme, die beim Kunden wirklich produktiv gehen. Genau dafür suchen wir dich.

Worum es geht

Unsere Kunden sind IT-Dienstleister im öffentlichen Sektor, ein reguliertes Umfeld mit hohen Ansprüchen an Datenschutz und Betriebssicherheit. Dort baust du KI-Lösungen in bestehende Branchenlösungen ein: Dialogsysteme, semantische Suche, RAG-Pipelines, Agenten, alles im echten Produktivbetrieb für viele Nutzer. Projektsprache ist Deutsch.

Ein Wort zu Remote, weil es oft die erste Frage ist: Der Alltag läuft remote-first innerhalb der DACH-Region. Ab und zu bist du vor Ort, den Rest der Zeit arbeitest du von dort, wo du gut arbeitest.

Deine Aufgaben

• LLM-Anwendungen bauen. Du entwickelst dialogbasierte Systeme und semantische Suche und integrierst sie in die fachlichen Anwendungen der Branchenlösung.
• RAG-Systeme aufsetzen und pflegen. Inklusive Wissensbasis-Management: Indexierung, Aktualisierung, saubere quellengetrennte Ablage von strukturierten und unstrukturierten Inhalten.
• Betrieb und Monitoring. MLOps im Produktivbetrieb: Observability, strukturiertes Logging, Fehleranalyse. Du sorgst dafür, dass die Systeme laufen, nicht nur, dass sie einmal liefen.
• Agenten produktiv setzen. Von der Entwicklung über die Integration und die Anbindung an Portalsysteme bis zur stabilen Auslieferung.
• Auf Datenbasis verbessern. Auf Basis von Monitoring-Daten, Tests und Nutzerfeedback machst du die Lösungen Schritt für Schritt besser.
• Neues erproben. Du identifizierst neue KI-Anwendungsfelder, probierst sie aus und baust die Datenpipelines von der Aufbereitung über die Modellerstellung bis in die Produktion.

Das musst du mitbringen

Die folgenden vier Punkte sind harte Voraussetzungen, jeder muss nachweisbar sein. Wenn einer davon fehlt, können wir dich leider nicht ins Rennen schicken. So ehrlich sind wir lieber vorab, als dir Zeit zu stehlen.

• Mindestens 2 Jahre Berufserfahrung als Machine Learning Engineer in Konzeption, Entwicklung, Implementierung und Optimierung skalierbarer ML-Lösungen.
• Mindestens 2 Jahre Erfahrung in agilen Entwicklerteams.
• Deutsch mindestens auf C1-Niveau in Wort und Schrift, nachweisbar über ein Sprachzertifikat oder als Muttersprache.
• Abgeschlossenes Studium der Informatik, Wirtschaftsinformatik oder eine vergleichbare Ausbildung, nachweisbar über Zeugnis oder Eigenerklärung.

Das bringst du idealerweise mit

Kein Muss, aber je mehr davon, desto besser:

• Vektorsuche und semantische Indexierung in Vektordatenbanken, idealerweise Milvus
• Backend-Entwicklung mit Python, vorzugsweise FastAPI
• LLM-Orchestrierung mit LangChain oder LangGraph
• Betrieb produktionsnaher KI-Systeme: Monitoring (idealerweise Grafana), strukturiertes Logging, Fehleranalyse, Deployment
• Datenschutzkonforme KI-Gestaltung, gerade beim Umgang mit personenbezogenen Daten in Logging und Observability
• GenAI im Einsatz für viele Nutzer, idealerweise in einem Multimandanten-Umfeld
• Kubernetes, ArgoCD, Jenkins
• Erfahrung mit agilen Lieferstrukturen, idealerweise SAFe
• Erfahrung aus Projekten der öffentlichen Verwaltung

Was wir bieten

• Echte Produktivprojekte. KI, die beim Kunden in Betrieb geht. Kein Innovation-Lab, keine Folien.
• Remote-first in der DACH-Region. Gelegentlich vor Ort, ansonsten arbeitest du von dort, wo du gut arbeitest.
• Moderner KI-Stack. RAG, Agenten, Vektorsuche, MLOps. Aktueller Stack, kein Legacy-Ballast.
• Internes Upskilling. Wir investieren in deine KI-Skills.
• MacBook, außer der Kunde stellt eigene Hardware.
• Flache Hierarchien. Die Gründer sind deine direkten Ansprechpartner.
• Ein Team, das sich kennt, auch bei verteiltem Arbeiten.

Klingt nach dir?

Dann bewirb dich, ein Lebenslauf reicht, ein Anschreiben brauchst du nicht. Wenn du früh verfügbar bist, ist das ein klares Plus. Wir melden uns innerhalb weniger Tage.