Was KI-Halluzination bedeutet
Eine KI-Halluzination tritt auf, wenn ein Modell Informationen liefert, die sicher oder fließend erscheinen, aber nicht wahr sind oder nicht durch die verfügbaren Beweise gestützt werden. Halluzinationen sind in der generativen KI besonders sichtbar, da eine fließende Sprache Fehler glaubwürdig erscheinen lassen kann.
Warum das wichtig ist
Halluzinationen sind wichtig, weil Nutzer einer selbstbewussten Sprache vertrauen können. Eine Halluzination könnte ein falsches Zitat, ein falsches Datum, ein nicht vorhandenes Produktmerkmal, eine erfundene Richtlinie oder eine irreführende Erklärung sein. In kundenorientierten oder regulierten Kontexten kann dies ein ernstes Risiko darstellen.
Häufige Anwendungen
- Erfundene Zitate in generierten Artikeln.
- Falsche Richtlinienantworten in Support-Chatbots.
- Falsche Produktaussagen in Marketinginhalten.
- Erfundene Fakten in Forschungszusammenfassungen.
- Irreführende Erklärungen von Modellentscheidungen.
Worauf zu achten ist
Teams reduzieren Halluzinationen durch den Einsatz von RAG, die Beschränkung der Antworten auf den bereitgestellten Kontext, die Bitte um Zitate, das Hinzufügen menschlicher Überprüfungen und die Bewertung des Systems anhand realistischer Beispiele. Keine Schadensbegrenzung macht ein Modell fehlersicher.
KI-Halluzination lässt sich am besten im Kontext verstehen: welche Daten verwendet werden, welche Aufgabe unterstützt wird und wie die Ausgabe geprüft wird.