Foxley Quality Intelligence · Research Brief

Wenn KI aus vergangenen Fehlern lernt

Ein Forschungsansatz zeigt, wie Large Language Models historische Ereignisse für nachvollziehbare Gefährdungsszenarien nutzen können - und was sich daraus für FMEA ableiten lässt.

KI & AutomatisierungFMEA8DCAPALarge Language Models
3 Min. Lesezeit
Fünfstufiges FQI-Zielbild von der strukturierten FMEA über Retrieval und KI-Hypothesen bis zu Traceability und Expert Review
FQI-Zielbild: KI-gestützte FMEA mit Traceability zu realen Erfahrungen. Die Übertragung auf industrielle FMEA ist eine fachliche Ableitung von FQI.
Ansicht:

Kurzfazit

HaGen nutzt historische Luftfahrtberichte, um mit Large Language Models neue Gefährdungsszenarien zu erzeugen und sie auf ähnliche reale Fälle zurückzuführen. Für industrielle FMEA ist vor allem das Prinzip interessant: Erfahrungswissen finden, zusätzliche Risikohypothesen formulieren, die zugrunde liegende Evidenz sichtbar machen und anschließend Fachleute entscheiden lassen. Die KI wäre damit kein automatischer FMEA-Autor, sondern ein nachvollziehbarer Sparringspartner für das verantwortliche Team.

FQI Takeaway

  • Erfahrungswissen aktivieren: 8D-Fälle, Reklamationen, Lessons Learned, frühere FMEAs sowie Prüf- und Felddaten könnten systematischer in neue Risikoanalysen einfließen.
  • Traceability statt Blackbox: Ein KI-Vorschlag wird wertvoller, wenn nachvollziehbar bleibt, welche historischen Fälle oder belastbaren Quellen dahinterstehen.
  • Human-in-the-Loop bleibt Pflicht: Technische Plausibilität, Kausalität, Bewertung und Maßnahmen gehören weiterhin in die Verantwortung des FMEA-Teams.

Das Prinzip auf einen Blick

Ein LLM kann sehr schnell plausible Fehlerbilder formulieren. Das allein erzeugt jedoch noch keine belastbare Risikoanalyse. Interessant wird die Unterstützung, wenn das System relevantes Erfahrungswissen gezielt findet, daraus Hypothesen ableitet und für jeden wichtigen Vorschlag die zugrunde liegende Evidenz sichtbar macht.

Welche Gefährdung könnte auftreten - und welche Erfahrungen aus der Vergangenheit sprechen dafür?

Damit verschiebt sich der Nutzen von reiner Textgenerierung zu einer Art präventivem Qualitätsgedächtnis. Historische Qualitätsdaten werden nicht nur archiviert, sondern aktiv in neue Risikoanalysen zurückgeführt. Als Wissensquellen kommen beispielsweise 8D- und CAPA-Fälle, Reklamationen, Lessons Learned, frühere FMEAs, Prüf- und Felddaten oder Qualitätsmeldungen infrage.

Begriffe kurz erklärt

  • KI: Künstliche Intelligenz; Systeme, die aus Daten Muster ableiten oder Aufgaben automatisiert unterstützen.
  • FMEA: Fehlermöglichkeits- und Einflussanalyse; Methode zur vorbeugenden Bewertung von Risiken.
  • CAPA: Corrective and Preventive Action; systematische Korrektur- und Vorbeugungsmaßnahmen.
  • LLM: Large Language Model; großes Sprachmodell zur Verarbeitung und Erzeugung von Text.
  • 8D: Acht-Disziplinen-Problemlösungsmethode; D1 bis D8 strukturieren Team, Problem, Ursache, Maßnahmen und Abschluss.
  • ASRS: Aviation Safety Reporting System; US-Datenbank für freiwillige Berichte zu sicherheitsrelevanten Luftfahrtereignissen.

Deep Dive

Das Problem: Haben wir an die relevanten Fehler gedacht?

Eine zentrale Herausforderung jeder FMEA ist ihre Vollständigkeit. Unternehmen besitzen häufig umfangreiches Erfahrungswissen aus Reklamationen, 8D-Berichten, CAPA-Fällen, Prüfungen, Felddaten und früheren FMEAs. Dieses Wissen existiert, wird bei neuen Risikoanalysen aber nicht zwangsläufig systematisch gefunden und berücksichtigt.

Was macht HaGen anders?

HaGen - kurz für Hazards Generator - wurde für die operationale Sicherheitsanalyse in der Luftfahrt entwickelt. Als Datengrundlage dienen historische Berichte aus dem NASA Aviation Safety Reporting System. Für ein vorgegebenes unerwünschtes Ergebnis erzeugt das System eine strukturierte Hypothese aus kategorischen Einflussfaktoren und ein dazu passendes narratives Szenario. Hinzu kommen ein aus historischen Kookkurrenzen abgeleiteter Plausibilitätswert sowie Verweise auf besonders ähnliche, zurückgehaltene ASRS-Berichte.

Der entscheidende Punkt ist damit nicht nur die Generierung. Die Verbindung zu historischen Ereignissen soll Analystinnen und Analysten eine nachvollziehbare Grundlage für Prüfung und Priorisierung geben. Laut den Autoren ist das System ausdrücklich als Analyst-in-the-Loop-Unterstützung gedacht und nicht als Vorhersage der Eintrittswahrscheinlichkeit eines Ereignisses.

Übertragung auf industrielle FMEA

Ein vergleichbares industrielles System könnte bei einer neuen FMEA relevante historische Fälle identifizieren und daraus zusätzliche Kandidaten für Fehlerfolgen, Fehlerarten oder Fehlerursachen ableiten. Jeder Vorschlag wäre mit den zugrunde liegenden Fällen oder anderen belastbaren Quellen verbunden. Das FMEA-Team bewertet danach technische Plausibilität, Relevanz für das konkrete System, Bedeutung, Auftreten und Entdeckung und leitet gegebenenfalls Maßnahmen ab.

Das mögliche Zielbild lautet daher: strukturierte FMEA-Systematik, Retrieval aus freigegebenem Unternehmenswissen, KI-gestützte Hypothesengenerierung, Evidenz und Traceability sowie abschließender Expert Review. Gerade diese Kette unterscheidet einen fachlich kontrollierten Ansatz von einer bloßen Aufforderung an ein Sprachmodell, eine FMEA zu schreiben.

Grenzen und Risiken

Die Studie untersucht operationale Gefährdungsszenarien in der Luftfahrt und keine industrielle Design- oder Prozess-FMEA. Die Übertragung auf Qualitätsmanagement ist deshalb eine fachliche Ableitung von FQI und noch kein Wirksamkeitsnachweis für FMEA. Zudem handelt es sich um einen Preprint und damit noch nicht um abgeschlossene peer-reviewte Evidenz.

Ähnlichkeit ist außerdem keine Kausalität. Historische Fälle können sprachlich oder strukturell ähnlich erscheinen, obwohl die technischen Mechanismen unterschiedlich sind. Vergangenheitsdaten decken neue, noch nie aufgetretene Fehler nicht vollständig ab. Datenqualität, Zugriffsrechte, Vertraulichkeit und eine saubere Auswahl freigegebener Wissensquellen werden deshalb zu zentralen Voraussetzungen. Plausibel klingende Analogien müssen jederzeit als Hypothesen erkennbar bleiben.

FQI Fazit

Die entscheidende Zukunftsfrage lautet nicht, ob KI automatisch eine FMEA erstellen kann. Entscheidend ist, ob sie das Erfahrungswissen eines Unternehmens so verfügbar macht, dass Teams zusätzliche Risiken früher erkennen und ihre Vorschläge nachvollziehbar prüfen können. Der belastbare Rollenrahmen bleibt klar: KI generiert Hypothesen, Daten liefern Evidenz und Fachleute treffen die Entscheidung.

Quellen & Transparenz

  • Mascia, Cristian; Pietrantuono, Roberto; Rodriguez, Daniel; Russo, Stefano: Traceable LLM-Generated Hazard Scenarios for Operational Safety Analysis of Aviation Systems Using ASRS Reports, Preprint, arXiv:2608.04697v1, 5. August 2026.
  • Offene Forschungsartefakte auf Zenodo.
  • Die Übertragung des Forschungsansatzes auf industrielle FMEA, 8D und CAPA sowie die dargestellte FQI-Einordnung sind fachliche Ableitungen. Dieser Research Brief wurde KI-unterstützt aus der bereitgestellten FQI-Referenzdatei aufbereitet und am 9. August 2026 ausdrücklich zur Veröffentlichung freigegeben.
  • Freigabestatus: Begriffserklärungen und Glossar wurden am 17. August 2026 erneut menschlich geprüft und zur Veröffentlichung freigegeben. Freigabe: Johann Fischer.