Roland Fiege · Blog
Citation Validation für Rechtsfragen
Warum das jetzt zählt
Rechtliche Arbeit verlangt Quellen, Aktualität und saubere Grenzen. Legal AI muss deshalb belegen, woher eine Aussage kommt und wann sie an den Menschen zurückgibt.
Für verifizierbare KI heißt das: Ein Artikel darf nicht nur erklären, dass KI helfen kann. Er muss zeigen, welcher Teil des Fachprozesses sicherer, schneller oder prüfbarer wird. Genau hier unterscheidet sich verifizierbare KI von generischer KI: Sie verkauft keine Magie, sondern eine nachvollziehbare Kette aus Quelle, Regel, Entscheidungsvorlage und Verantwortung.
Die harte These dieses Beitrags lautet: Eine Quelle im Text reicht nicht. Das System muss prüfen, ob die Quelle die Aussage wirklich trägt. Wer diesen Satz nicht belegen kann, sollte ihn nicht als Produktversprechen verwenden. Wer ihn belegen kann, hat einen echten Differenzierungsanker.
Der eigentliche Engpass
In vielen Organisationen wird KI noch als Dialogoberfläche betrachtet. Jemand fragt, das Modell antwortet, ein Mensch kopiert das Ergebnis weiter. Das wirkt schnell, verschiebt aber das Risiko an die Stelle, an der es am teuersten ist: zur Fachperson, die am Ende erklären muss, warum eine Aussage stimmt.
Der Engpass liegt deshalb nicht im Formulieren. Er liegt in drei Fragen:
- Welche Quelle trägt die Aussage?
- Welche Regel oder welcher Prozessschritt wurde angewendet?
- Wann muss das System stoppen und eskalieren?
Wenn diese drei Fragen offen bleiben, entsteht kein belastbarer Fachprozess. Es entsteht ein schönerer Weg, Unsicherheit zu verteilen.
Die verifizierbare Alternative
Ein verifizierbarer Agent beginnt mit erlaubten Quellen und einem klaren Prozessrahmen. Für dieses Thema sind drei Bausteine entscheidend: Klausel, Norm/Fachquelle und Risiko-Hinweis. Sie machen sichtbar, ob das System wirklich arbeitet oder nur plausibel klingt.
Das Ziel ist nicht Vollautomation um jeden Preis. Das Ziel ist eine belegte Vorlage, die Fachmenschen schneller prüfen können. In Verwaltung, Steuer und Recht ist das der sichere Sweet Spot: Die KI übernimmt Sortierung, Recherche, Abgleich und Entwurf. Die Verantwortung bleibt beim Menschen.
Was Entscheider konkret prüfen sollten
Vor einem Pilot oder einer Beschaffung lohnt sich eine nüchterne Checkliste:
- Gibt es eine definierte Wissensbasis, oder darf das Modell frei antworten?
- Wird jede fachliche Aussage mit einer konkreten Fundstelle verbunden?
- Prüft das System, ob die Quelle die Aussage wirklich trägt?
- Gibt es einen Vertrauens- oder Unsicherheitsmechanismus?
- Ist die Datenhaltung passend zum Risiko des Verfahrens?
- Bleibt die finale Entscheidung nachvollziehbar beim zuständigen Menschen?
- Werden Fehlerklassen gemessen, statt nur Zufriedenheit abzufragen?
Diese Fragen sind unbequemer als eine Demo. Genau deshalb sind sie nützlich.
Fazit
Eine Quelle im Text reicht nicht. Das System muss prüfen, ob die Quelle die Aussage wirklich trägt. Das ist keine Stilfrage, sondern eine Betriebsfrage. Regulierte Domänen brauchen Systeme, die sagen können, was sie wissen, woher sie es wissen und wann sie nicht sicher genug sind.
Die nächste KI-Welle in Verwaltung, Steuer und Recht wird deshalb nicht durch die lauteste Demo gewonnen. Sie wird durch Produkte gewonnen, die Quellen, Verantwortung und Geschwindigkeit zusammenbringen.
Quellen
- Roland Fiege Website — Positionierung, Demos, Proof und Formulierungen.