KI in D4: Warum plausible Ursachen noch keine Root Cause sind

Kurzfazit

Eine kontrollierte Untersuchung mit 48.000 Fehlerszenarien identifiziert 16 typische Denkfehler KI-gestützter Ursachenanalyse: erfundene Evidenz, vorschnelle Kausalität, Ankereffekte, zeitliche Fehlordnung und die Verwechslung von Symptom und Ursache. Obwohl die Studie aus der IT-Diagnose stammt, ist der Transfer auf 8D-D4 unmittelbar: KI darf Hypothesen strukturieren, aber Ursache, Fehlermechanismus und Wirksamkeitsnachweis müssen evidenzbasiert getrennt werden.

FQI Takeaway

• Plausibilität ist kein Ursachenbeweis: Eine sprachlich stimmige Erklärung kann trotz falscher Evidenzkette vollständig falsch sein.
• D4 braucht Hypothesenmanagement: Beobachtung, vermutete Ursache, bestätigter Mechanismus und Ausschlussnachweis müssen getrennte Status besitzen.
• Mehr Kontext hilft nicht automatisch: Unstrukturierte Zusatzdaten können KI-Agenten ablenken und die Ursachenlokalisierung verschlechtern.

Das Prinzip auf einen Blick

Die 2026 ausgezeichnete Studie „Stalled, Biased, and Confused“ untersuchte sechs offene Large Language Models (LLMs; große Sprachmodelle), drei Agenten-Workflows und zwei reale Microservice-Datensätze. Insgesamt wurden 48.000 Szenarien ausgeführt und 16 wiederkehrende Denkfehler klassifiziert. Die Autoren betonen niedrige Genauigkeit, verbreitete Reasoning-Fehler (maschinelle Denk- und Verarbeitungsschritte bis zu einer Antwort oder Entscheidung) und teilweise zusätzliche Fehler durch komplexere Agentenabläufe. Die Domäne ist Cloud-IT, nicht industrielle Fertigung. Übertragbar sind daher die Fehlermuster und Prüfprinzipien, nicht die gemessenen Leistungswerte.

Begriffe kurz erklärt

• KI: Künstliche Intelligenz; Systeme, die aus Daten Muster ableiten oder Aufgaben automatisiert unterstützen.
• LLM: Large Language Model; großes Sprachmodell zur Verarbeitung und Erzeugung von Text.
• MES: Manufacturing Execution System; Fertigungsleitsystem zur Steuerung und Rückmeldung der Produktion.
• 8D: Acht-Disziplinen-Problemlösungsmethode; D1 bis D8 strukturieren Team, Problem, Ursache, Maßnahmen und Abschluss.
• CAQ: Computer-Aided Quality; Softwareunterstützung für Prüfplanung, Qualitätsdaten und Auswertungen.
• Reasoning: Denk- und Verarbeitungsschritte einer KI; dabei werden Informationen verknüpft, um zu einer Antwort oder Entscheidung zu gelangen.

Deep Dive

In der Ursachenanalyse entsteht ein gefährlicher Qualitätseffekt: Eine Erklärung kann kohärent, detailliert und dennoch falsch sein. Große Sprachmodelle sind besonders gut darin, verstreute Informationen in eine plausible Erzählung zu bringen. Genau diese Stärke wird zum Risiko, wenn Beobachtungen lückenhaft sind oder Korrelationen vorschnell als Kausalität interpretiert werden.

Die Studie isoliert das Reasoning der Modelle von der umgebenden Agentenarchitektur. Dafür wurden Werkzeuge deterministisch gestaltet und Systemwissen in typisierten Wissensgraphen bereitgestellt. Anschließend bewerteten die Forscher nicht nur das Endergebnis, sondern auch Zwischenschritte der Diagnose. Die Fehlerklassen reichen von erfundener Evidenz und unzureichender Begründung über falsche zeitliche Reihenfolge bis zu Ankereffekten, inneren Widersprüchen und fehlender Aktualisierung einer Hypothese nach neuen Informationen.

Für 8D (Acht-Disziplinen-Problemlösungsmethode) betrifft das vor allem Disziplin 4 (D4). Eine KI kann Fehlerhistorien durchsuchen, Messwerte zusammenfassen, ähnliche Fälle finden und eine Hypothesenliste erzeugen. Sie darf aber nicht selbst durch sprachliche Sicherheit den Status „Root Cause“ vergeben. Fachlich erforderlich sind mindestens vier getrennte Objekte: das beobachtete Fehlerbild, eine mögliche Ursache, der erklärende Fehlermechanismus und der experimentelle Nachweis.

Ein belastbarer D4-Prozess benötigt für jede Hypothese eine explizite Evidenzmatrix. Sie dokumentiert unterstützende Beobachtungen, widersprechende Beobachtungen, noch fehlende Daten, erwartete Versuchsergebnisse und den Status der Gegenprüfung. Zusätzlich muss zwischen Entstehungsursache und Escape Point, also dem versagten Entdeckungs- oder Durchschlupfpunkt, getrennt werden. KI-Systeme verwechseln diese Ebenen leicht, wenn beispielsweise der Prüfprozess den Fehler sichtbar macht, aber nicht verursacht.

Die Studie liefert auch eine wichtige Datenlektion. Messwerte und Logs halfen bei der Diagnose, während zusätzliche rohe Trace-Daten die Genauigkeit teilweise verschlechterten. Mehr Daten erhöhen demnach nicht automatisch die Informationsqualität. Für industrielle Anwendungen bedeutet das: Kontext muss kuratiert, zeitlich geordnet und semantisch beschrieben sein. Ein unstrukturierter Datenexport aus MES (Manufacturing Execution System), CAQ (Computer Aided Quality) und Sensorik kann mehr Scheinkorrelationen als Erkenntnis erzeugen.

Als Freigaberegel sollte eine KI-Ursachenanalyse deshalb mindestens drei Barrieren durchlaufen: Evidenzvollständigkeit, Konsistenz mit Prozess- und Systemwissen sowie einen unabhängigen Bestätigungsversuch. Erst wenn die vorhergesagte Wirkung einer Veränderung eintritt und die Fehlerentstehung reproduzierbar erklärt wird, ist die Ursache hinreichend bestätigt. Der Agent ist dann ein Beschleuniger der Hypothesenbildung, nicht der finale Entscheider.

Praktisch lässt sich das als digitaler Hypothesenspeicher umsetzen. Jede vermutete Ursache erhält Verantwortlichen, Evidenzstatus, erwartetes Beobachtungsmuster und nächsten Prüfauftrag. Neue Daten verändern den Status nachvollziehbar, statt die bisherige Begründung still zu überschreiben. Ein unabhängiger Reviewer sieht zunächst nur Fakten und Versuchsergebnisse, nicht die bevorzugte KI-Hypothese. Dadurch wird der Ankereffekt reduziert. Abschlusskriterium ist nicht Agentenkonsens, sondern eine vom Team freigegebene Ursache-Wirkungs-Kette mit dokumentiertem Bestätigungstest.

Grenzen und Risiken

Erstens untersucht die Studie verteilte Softwaresysteme. Physische Fertigungsprozesse besitzen andere Messfehler, Dynamiken und experimentelle Möglichkeiten.

Zweitens machen 16 Fehlerkategorien die Diagnose transparenter, garantieren aber keine vollständige Taxonomie für industrielle Ursachenanalysen.

Drittens wurden offene Modelle und bestimmte Agentenabläufe geprüft. Andere Modelle, Wissensbasen oder deterministische Prüfschichten können abweichende Ergebnisse liefern.

Viertens darf Transparenz über Zwischenschritte nicht mit Wahrheit verwechselt werden. Auch eine nachvollziehbar dokumentierte Begründung kann auf falschen Ausgangsdaten beruhen.

FQI Fazit

KI kann D4 schneller und systematischer machen, wenn sie Fakten ordnet und alternative Hypothesen sichtbar hält. Sie verschlechtert D4, wenn sprachliche Plausibilität als Ursachenbeweis gilt. Ein qualitätsfähiger Einsatz braucht Statusmodelle, Evidenzmatrizen, Gegenhypothesen und experimentelle Bestätigung. Root Cause ist keine Textkategorie, sondern eine nachgewiesene Ursache-Wirkungs-Beziehung.

Quellen & Transparenz

• Riddell et al.: Stalled, Biased, and Confused: Uncovering Reasoning Failures in LLMs for Cloud-Based Root Cause Analysis, FORGE 2026, DOI: 10.1145/3793655.3793732.
• Evidenzstatus: kontrollierte empirische Studie und Konferenzpublikation; Anwendungsdomäne Cloud-IT.
• FQI-Transfer: Die Übertragung auf 8D-D4, Escape Point und industrielle Evidenzmatrizen ist eine fachliche Ableitung von FQI.
• Die Studie beweist nicht, dass KI für industrielle Root-Cause-Analysen generell ungeeignet ist.
• Bild: FQI-Fachinfografik, deterministisch erstellt; abstrahierte Evidenz- und Ursachenstruktur.
• Dieser Beitrag und die FQI-Eigenvisualisierung wurden KI-unterstützt erstellt, fachlich geprüft und am 10. August 2026 ausdrücklich zur Veröffentlichung freigegeben.
• Freigabestatus: Begriffserklärungen und Glossar wurden am 17. August 2026 erneut menschlich geprüft und zur Veröffentlichung freigegeben. Freigabe: Johann Fischer.