Erklärung unter Gegenprobe: Verdeckte KI-Einflüsse vor der Freigabe entfernen

Kurzfazit

Künstliche Intelligenz (KI) kann eine plausible Erklärung liefern. Das beweist noch nicht, dass die genannten Gründe die Entscheidung tatsächlich getragen haben. Ein neuer Preprint unterscheidet deshalb unvollständige Erklärungen von sachlich unzutreffenden Begründungen und führt eine Gegenprobe ein: Nicht erwähnte Konzepte werden aus der Eingabe entfernt, anschließend entscheidet das Modell erneut. Für das Qualitätsmanagement entsteht daraus ein konkreter Prüfbaustein. Vor einer qualitätsrelevanten Freigabe wird getestet, ob das Ergebnis nur auf den dokumentierten Einflussgrößen beruht oder ob verdeckte Faktoren mitsteuern.

FQI Takeaway

• Eine Erklärung ist ein Prüfobjekt, kein Nachweis: Verständlicher Text kann entscheidende Einflüsse auslassen oder wirkungslose Gründe nennen.
• Nicht genannte Faktoren brauchen eine Gegenprobe: Werden sie entfernt, darf die freigegebene Entscheidung nur noch auf den ausgewiesenen Gründen beruhen.
• Der Prüfer des Modells muss selbst qualifiziert sein: Fehler bei Konzepterkennung, Zuordnung oder Texteingriff können neue Risiken erzeugen.

Das Prinzip auf einen Blick

Der Preprint nennt eine Erklärung unvollständig, wenn ein Faktor die Antwort beeinflusst, aber nicht als Grund erscheint. Unsoundness, hier eine sachlich unzutreffende Begründung, liegt vor, wenn die Erklärung einen Faktor nennt, der die Antwort gar nicht beeinflusst hat. Der Removal Wrapper, ein vorgeschalteter Prüfablauf, bearbeitet nur die erste Fehlerart. Ein Hilfsmodell zerlegt die Eingabe in Konzepte, ordnet zu, welche davon in der Erklärung anerkannt werden, entfernt die übrigen und fragt das Zielmodell in einem neuen Kontext erneut.

Begriffe kurz erklärt

• KI: Künstliche Intelligenz; Systeme, die aus Daten Muster ableiten oder Aufgaben automatisiert unterstützen.
• LLM: Large Language Model; großes Sprachmodell zur Verarbeitung und Erzeugung von Text.
• Removal Wrapper: vorgeschalteter Prüfablauf, der nicht erklärte Konzepte aus der Eingabe entfernt und die Antwort neu erzeugen lässt.
• Kausale Konzepttreue: Übereinstimmung zwischen dem messbaren Einfluss eines Konzepts auf die Antwort und seiner Bedeutung in der Erklärung.
• Gegenfaktische Prüfung: Vergleich mit einer gezielt veränderten Eingabe, um den Einfluss eines Faktors zu untersuchen.
• FMEA: Fehlermöglichkeits- und Einflussanalyse; Methode zur vorbeugenden Bewertung von Risiken.
• NIST: National Institute of Standards and Technology; US-Institut für Standards und Technologie.

Deep Dive

Der Ablauf besteht aus vier Schritten. Zuerst identifiziert ein Hilfsmodell die unterscheidbaren Konzepte der Eingabe. Danach erzeugt das Zielmodell, ein großes Sprachmodell (Large Language Model, LLM), Antwort und Erklärung. Das Hilfsmodell markiert, welche Konzepte die Erklärung als Gründe nennt, und entfernt alle übrigen möglichst ohne andere Informationen zu verändern. Schließlich erhält das Zielmodell nur diese reduzierte Eingabe in einem frischen Kontext und erzeugt die auszugebende Antwort samt Erklärung neu. Die Autoren formulieren ihre Garantie ausdrücklich bedingt: Konzepte und Zuordnung müssen korrekt sein, und das Modell muss die Gründe vor und nach der Reduktion konsistent benennen.

Die erste Evaluation verwendet 2.000 Multiple-Choice-Fragen mit zufällig gesetzten Hinweisen. Bei anfälligen Teilmengen stieg die Korrelation zwischen gemessenem Konzepteinfluss und erklärter Bedeutung für Qwen3.5-9B von 0,274 auf 0,873 und für Gemma-4-12B von 0,335 auf 0,924. Ein zweites Maß wechselte von −0,083 auf 0,211 beziehungsweise von −0,190 auf 0,125. Diese Werte gelten für 100 beziehungsweise 86 hinweisempfindliche Fragen, nicht für einen allgemeinen Einsatz.

Ein zweiter Versuch nutzt 100 Fragen aus dem 2.592 Fragen umfassenden Bias Benchmark for Question Answering und je 30 wiederholte Antworten. Dort war das Bild gemischt: Beim kleineren Qwen-Modell veränderte der Wrapper die kausale Konzepttreue nur von 0,780 auf 0,786, für Gemma von 0,622 auf 0,819. Eine kombinierte Methode war bei beiden Qwen-Modellen am stärksten, doch die Unsicherheitsintervalle überlappten. Der Ansatz ist kein pauschaler Leistungsgewinn.

Für einen FQI-Pilot ist die Methode kein automatischer Wahrheitstest, sondern ein Freigabegate für strukturierte Entscheidungen. Eine Fehlermöglichkeits- und Einflussanalyse (FMEA) legt kritische Größen wie Spezifikation, Messwert, Losstatus oder Abweichungsgenehmigung fest. Testfälle enthalten zulässige und unzulässige Zusatzinformationen. Geprüft wird, ob die Erklärung alle entscheidenden Faktoren nennt und die reduzierte Antwort regelkonform bleibt. Abweichungen führen zu Sperre, Evidenzanforderung oder menschlicher Prüfung.

Der Ansatz ergänzt das Prinzip der Erklärungsgenauigkeit des US-Instituts für Standards NIST (National Institute of Standards and Technology). Ein Audit protokolliert Eingabeversion, erkannte Konzepte, erste Erklärung, entfernte Inhalte, zweite Antwort, Modellstände und Entscheidung. Akzeptanzkriterien erfassen auch falsch entfernte Pflichtinformationen, unerwünschte Antwortwechsel und übersehene Einflüsse.

Grenzen und Risiken

Die Studie ist ein Preprint und prüft geschlossene Frage-Antwort-Aufgaben, keine offenen Qualitätsberichte oder realen Freigaben. Die verwendeten Treuemaße greifen ebenfalls auf Hilfsmodelle und konstruierte Gegenfakten zurück. Der Wrapper behebt keine sachlich unzutreffenden Begründungen. Abhängige Konzepte können beim Entfernen ihre Bedeutung verändern; das Hilfsmodell kann relevante Inhalte falsch gruppieren oder löschen. Zudem verbessert eine treuere Erklärung weder automatisch die fachliche Richtigkeit noch Fairness, Robustheit oder Prozesswirkung. Die zusätzliche Modellabfrage erhöht Aufwand und Latenz.

FQI Fazit

Der Beitrag liefert einen belastbaren Perspektivwechsel: Nicht die sprachliche Plausibilität einer Erklärung wird freigegeben, sondern ihre überprüfte Beziehung zur Entscheidung. Das Entfernen nicht genannter Faktoren macht verdeckte Einflüsse experimentell angreifbar und kann ein konkretes Auditereignis erzeugen. Für qualitätsrelevante Anwendungen bleibt die Methode jedoch ein begrenzter Kontrollbaustein. Sie braucht qualifizierte Konzepte, unabhängige Testfälle, dokumentierte Antwortänderungen und eine menschliche Reaktion auf Grenzfälle.

Quellen & Transparenz

• Luo, Nahian, Guttag, Abulnaga und Matton: A Removal Based Approach to Improve LLM Faithfulness at Test-Time, arXiv:2609.04343v1, eingereicht am 3. September 2026.
• Phillips et al.: Four Principles of Explainable Artificial Intelligence, NISTIR 8312.
• Evidenzstatus: Preprint ohne Peer-Review und ohne industrielle Feldstudie. Methode, Versuchsaufbau, Kennzahlen und technische Grenzen stammen aus der Originalquelle. Die Übertragung auf FMEA, Freigabegate und Auditspur ist FQI-Einordnung, gestützt durch das NIST-Prinzip der Erklärungsgenauigkeit.
• Dieser Entwurf wurde KI-gestützt erstellt; menschliche Fach- und Quellenfreigabe liegen noch nicht vor.