Agentic Workflows in der Produktion — Erfahrungen aus der Praxis

Agentic Workflows versprechen eine Revolution der Automatisierung — LLM-Agenten, die eigenständig planen, entscheiden und Aufgaben ausführen. Aber wie sieht die Realität aus, wenn ein solches System 24/7 in der Produktion läuft? Wir teilen Erfahrungen aus Live-Deployments im Jahr 2026.

Was sind Agentic Workflows und warum jetzt¶

Ein Agentic Workflow ist ein System, in dem ein LLM-Agent autonom eine Sequenz von Schritten orchestriert, um ein Ziel zu erreichen. Anders als klassische Workflow-Engines (Airflow, Temporal) entscheidet der Agent selbst über den nächsten Schritt basierend auf dem aktuellen Kontext — nicht nach einem fest definierten DAG.

Im Jahr 2026 konvergieren mehrere Faktoren: Modelle mit ausreichendem Reasoning (o3, Claude 4, Gemini 2.0), stabile Tool-Use-Protokolle (MCP, Function Calling) und vor allem — genügend Produktionserfahrung, um zu wissen, was funktioniert und was nicht.

Anatomie eines produktiven Agentic Workflow¶

Ein typischer Agentic Workflow im Enterprise-Umfeld hat fünf Schichten:

• Intent Layer: Empfängt die Anfrage (Ticket, E-Mail, API-Aufruf) und klassifiziert den Intent
• Planning Layer: Der Agent erstellt einen Plan — eine Sequenz von Schritten mit Bedingungen und Fallbacks
• Execution Layer: Einzelne Schritte rufen Tools auf — APIs, Datenbanken, andere Agenten
• Validation Layer: Output-Prüfung, Selbstreflexion, Human-in-the-Loop-Checkpoints
• Memory Layer: Kontext-Persistenz, Lernen aus vorherigen Durchläufen

Zentrale Erkenntnis: Der Planning Layer ist am kritischsten. Wenn der Agent schlecht plant, rettet keine noch so gute Ausführung das Ergebnis. Deshalb investieren wir in Few-Shot-Prompts für die Planung und deterministische Guardrails.

Fehlermodi — Was schiefgeht¶

Nach Hunderten von Produktionsläufen haben wir die häufigsten Fehlermodi identifiziert:

• Endlosschleife: Der Agent bleibt in einer Wiederholungsschleife hängen. Lösung: maximale Iterationsanzahl + Divergenz-Erkennung.
• Halluzinierte Tool-Aufrufe: Der Agent ruft einen nicht existierenden API-Endpunkt auf oder sendet falsche Payloads. Lösung: strikte Schema-Validierung bei jedem Tool-Aufruf.
• Kontextfenster-Überlauf: Bei langen Workflows verliert der Agent den Kontext. Lösung: Zusammenfassung nach jedem Schritt + hierarchischer Speicher.
• Kaskadierende Fehler: Der Ausfall eines Schritts löst eine Kettenreaktion aus. Lösung: Circuit-Breaker-Pattern + isolierter Retry mit exponentiellem Backoff.
• Confidence Drift: Der Agent ist bei Grenzfällen zu selbstsicher. Lösung: kalibriertes Confidence Scoring + Eskalation bei geringer Sicherheit.

Observability — Ohne geht es nicht¶

Agentic Workflows ohne Observability sind wie Fliegen ohne Instrumente. In der Produktion messen wir:

• Token-Verbrauch pro Workflow: Was ein Durchlauf kostet — und wie sich das über die Zeit verändert
• Schritterfolgsrate: Erfolgsrate jedes einzelnen Schritts — identifiziert Schwachstellen
• Latenzverteilung: P50, P95, P99 für den gesamten Workflow und einzelne Schritte
• Eskalationsrate zum Menschen: Wie oft der Agent zum Menschen eskaliert — und ob berechtigt
• Plangenauigkeit: Wie oft der anfängliche Plan den tatsächlich ausgeführten Schritten entspricht

Wir verwenden OpenTelemetry mit Custom Spans für jeden Agent-Aufruf. Traces werden über den gesamten Workflow verknüpft, einschließlich Tool-Aufrufen an externe Systeme. Die Visualisierung in Grafana Tempo zeigt die gesamte „Geschichte” jedes Durchlaufs.

Wirtschaftlichkeit: Wann lohnt es sich¶

Ehrlich gesagt — Agentic Workflows sind nicht günstig. Ein durchschnittlicher Workflow verbraucht 50–200K Token pro Durchlauf. Bei Hunderten von Durchläufen täglich sind das Tausende von Dollar monatlich allein für die LLM-API.

Es lohnt sich dort, wo:

• Ein manueller Prozess mehr als 30 Minuten menschlicher Arbeit pro Instanz kostet
• Die Fehlerquote des manuellen Prozesses reale finanzielle Auswirkungen hat
• Die Lösungsgeschwindigkeit geschäftskritisch ist (SLA, Incident Response)
• Der Prozess sich hundert- bis tausendmal monatlich wiederholt

Typischer Break-even: 3–6 Monate bei Workflows, die L1/L2-Support-Prozesse ersetzen.

Lektionen aus der Produktion¶

Fünf zentrale Lektionen, die wir gerne früher gewusst hätten:

• Beginnen Sie deterministisch, fügen Sie Agentic schrittweise hinzu. Hybride Workflows (80 % feste Schritte, 20 % Agent-Entscheidungen) sind stabiler als vollautonome.
• Investieren Sie in eine Eval-Pipeline. Automatisiertes Testen auf historischen Daten erkennt Regressionen vor Produktionsvorfällen.
• Versionieren Sie Prompts wie Code. Git, Code Review, Staging-Umgebung — dieselbe Disziplin wie für Anwendungscode.
• Entwerfen Sie für Graceful Degradation. Wenn der Agent versagt, muss das System ein Fallback haben — selbst wenn es nur ein Ticket für einen Menschen ist.
• Human-in-the-Loop ist keine Niederlage. Die besten Systeme wissen, wann sie um Hilfe bitten müssen.

Agentic ≠ Autonom um jeden Preis¶

Agentic Workflows in der Produktion funktionieren — aber nicht so, wie Marketingmaterialien sie sich vorstellen. Erfolg hängt von einem pragmatischen Ansatz ab: klare Autonomie-Grenzen, robuste Observability und die Demut zuzugeben, dass der Agent nicht immer die beste Lösung ist.

Unser Tipp: Beginnen Sie mit einem konkreten Workflow, messen Sie den ROI, iterieren Sie. Versuchen Sie nicht, alles auf einmal zu automatisieren.