Einfach erklärt
Sprachmodelle erzeugen Antworten anhand erlernter Muster und des bereitgestellten Kontexts. Eine überzeugende Formulierung ist deshalb kein Beleg für Richtigkeit. Klare Aufgaben und geeignete Quellen können Fehler verringern, schließen sie aber nicht aus. Aussagen, auf denen Entscheidungen beruhen, sollten anhand der tatsächlichen Unterlagen geprüft werden.
Ein Beispiel
Ein KI-Text nennt eine Studie, deren angegebener Titel und Link zu keiner realen Veröffentlichung führen.