Warum erfindet KI überhaupt Dinge?
Sprachmodelle sagen das wahrscheinlich nächste Wort voraus. Sie schlagen nicht in einer Datenbank nach, es sei denn, das Werkzeug ist ausdrücklich mit einer Suche oder deinen Dokumenten verbunden. Deshalb klingen falsche Antworten oft genauso überzeugend wie richtige. Eine erfundene Quelle hat das richtige Format, einen plausiblen Titel und ein glaubwürdiges Datum. Genau das macht Halluzinationen gefährlich.
Wie häufig Fehler sind, zeigt eine große Studie von 22 öffentlich-rechtlichen Medienhäusern aus 18 Ländern unter Leitung von EBU und BBC, veröffentlicht im Oktober 2025. Ausgewertet wurden mehr als 3.000 Antworten von ChatGPT, Copilot, Gemini und Perplexity auf Nachrichtenfragen in 14 Sprachen. 45 Prozent der Antworten hatten mindestens ein erhebliches Problem. 31 Prozent hatten Probleme mit Quellenangaben, 20 Prozent erhebliche Genauigkeitsfehler, darunter erfundene Details und veraltete Informationen. Die Werkzeuge haben sich seitdem weiterentwickelt. Die Grundregel bleibt: Prüfen ist Teil der Arbeit, nicht Misstrauen.
Warum diese Prüfung Führungsaufgabe ist, beschreibt unsere Leitseite KI für Führungskräfte.
Was passiert, wenn niemand prüft?
Zwei Beispiele aus deutschen Gerichten zeigen die Folgen. Das Amtsgericht Köln beanstandete mit Beschluss vom 2. Juli 2025 (Az. 312 F 130/25) einen Anwaltsschriftsatz in einer Familiensache: Fundstellen existierten nicht oder führten zu Aufsätzen über ganz andere Themen. Das Gericht nannte die Ausführungen „frei erfunden“. Das Kammergericht Berlin ermahnte mit Beschluss vom 20. November 2025 (Az. 17 WF 144/25) eine Anwältin, weil eine zitierte BGH-Entscheidung nicht existierte, und hielt fest, dass Fundstellen zu prüfen sind. In beiden Fällen lag der Fehler nicht im Werkzeug, sondern im fehlenden Prüfschritt.
In deinem Unternehmen sieht das anders aus, folgt aber demselben Muster: eine erfundene Zahl in der Präsentation für die Bank, eine falsche Norm im Angebot, ein nicht existierendes Förderprogramm in der Entscheidungsvorlage.
Wie gründlich musst du prüfen?
Nicht jedes Ergebnis braucht dieselbe Prüftiefe. Unsere Prüfampel richtet sich nach der Folge eines Fehlers:
- Grün: Entwurf für dich. Ideen sammeln, Gliederung, erste Formulierung. Prüfung: Lesen und Plausibilität. Fehler kosten hier nur Zeit.
- Gelb: Grundlage für eine interne Entscheidung. Zusammenfassungen, Vergleiche, Optionen. Prüfung: jede Zahl und jede Tatsachenbehauptung, die die Entscheidung trägt, an der Quelle.
- Rot: geht nach außen oder betrifft Menschen. Angebote, Verträge, Kundenkommunikation, Aussagen über Mitarbeitende, Rechts- und Steuerfragen. Prüfung: vollständig, durch eine fachkundige Person, Quellen im Original.
Unsere Empfehlung: Lege für dein Team fest, welche Aufgaben in welche Farbe fallen. Das ist schneller als jede Einzeldiskussion und gehört in eine KI-Richtlinie.
Welche Prüfliste hilft im Alltag?
Diese sieben Fragen kannst du für jedes gelbe und rote Ergebnis abarbeiten:
- Zahlen: Steht jede Zahl in einer Quelle, die ich selbst geöffnet habe?
- Quellen: Existiert jede genannte Quelle, und steht dort wirklich, was behauptet wird?
- Namen und Titel: Stimmen Namen von Personen, Gesetzen, Produkten und Programmen?
- Aktualität: Kann sich die Information seit dem Wissensstand des Modells geändert haben, etwa Preise, Fristen oder Rechtslage?
- Ergänzungen: Enthält eine Zusammenfassung Aussagen, die im Ausgangstext nicht stehen?
- Auslassungen: Fehlt ein Punkt, der im Original wichtig war?
- Gegenprobe: Würde ich die Kernaussage auch unterschreiben, wenn sie von einer Praktikantin käme?
Ein Beispiel für Punkt 4: Viele Modelle kennen die Änderung der KI-Verordnung durch die Verordnung (EU) 2026/1744 noch nicht, die seit dem 27. Juli 2026 gilt. Fragst du nach den Pflichten aus Artikel 4, bekommst du dann den alten Stand. Was heute gilt, steht in Was ist KI-Kompetenz nach Artikel 4 der KI-Verordnung?
Welche Prompts helfen beim Prüfen?
KI kann dir beim Prüfen helfen, aber sie ersetzt den Blick in die Quelle nicht. Diese Vorlagen kannst du wörtlich kopieren:
Vorlage 1: Behauptungen auflisten
Liste alle überprüfbaren Tatsachenbehauptungen aus dem folgenden Text auf, also Zahlen, Daten, Namen, Zitate und Quellen. Nummeriere sie. Schreib zu jeder, wie sicher du dir bist, und woran ich sie prüfen kann. Text: [Text]
Vorlage 2: Abgleich mit dem Ausgangstext
Vergleiche die Zusammenfassung mit dem Original. Markiere jede Aussage der Zusammenfassung, die im Original nicht vorkommt, und jeden wichtigen Punkt des Originals, der in der Zusammenfassung fehlt. Original: [Text]. Zusammenfassung: [Text]
Vorlage 3: Unsicherheit sichtbar machen
Beantworte die folgende Frage. Wenn du dir bei einer Angabe nicht sicher bist, schreib das ausdrücklich dazu. Erfinde keine Quellen. Wenn du keine überprüfbare Quelle nennen kannst, schreib „keine Quelle“. Frage: [Frage]
Ein zweites Werkzeug als Gegenprobe kann helfen, ist aber kein Beweis. Zwei Modelle können denselben Fehler machen. Wie du Prompts so baust, dass weniger Fehler entstehen, zeigt Wie schreibe ich als Führungskraft gute Prompts?
Wie verankerst du das Prüfen im Team?
Prüfen wird nur dann zur Gewohnheit, wenn es sichtbar erwartet wird. In der Bitkom-Befragung von 603 Unternehmen ab 20 Beschäftigten aus dem Sommer 2026 schätzten 66 Prozent die KI-Kompetenz ihrer Beschäftigten als gering ein. Seit der Änderung durch die Verordnung (EU) 2026/1744 verlangt Artikel 4 der KI-Verordnung, dass Unternehmen diese Kompetenz fördern. Drei einfache Regeln helfen: Wer ein KI-Ergebnis weitergibt, verantwortet es wie eigene Arbeit. Gelbe und rote Ergebnisse tragen den Vermerk, was geprüft wurde. Und wer einen Fehler der KI findet, teilt ihn im Team, damit alle daraus lernen.
Wann reicht Prüfen nicht?
Wenn niemand im Team die Fachkompetenz hat, das Ergebnis zu beurteilen, hilft auch die beste Prüfliste nicht. Dann gehört die Aufgabe nicht in die KI, sondern zu einer Fachperson. Das gilt besonders für Rechts-, Steuer- und Sicherheitsfragen. Bei KI-Agenten, die selbstständig handeln, verschiebt sich die Prüfung zudem vom Ergebnis zum Ablauf; dazu mehr in Was sind KI-Agenten, und was bedeuten sie für Geschäftsführer? Und wer KI-Texte veröffentlicht, sollte auch die Rechte daran klären: Wem gehören KI-generierte Texte und Bilder?
Wir raten davon ab, eine KI-Antwort als Quelle zu zitieren. Zitierfähig ist nur, was du im Original gefunden hast.
Wie geht es weiter?
Wie sicher dein Unternehmen im Umgang mit KI-Ergebnissen ist, kannst du mit dem kostenlosen KI-Reifegrad-Check in zehn Fragen einschätzen. Wie Prüfen zur Führungsaufgabe wird, beschreibt die Leitseite KI in der Führung. Wenn du Prüfregeln für dein Team festlegen willst, buch dir ein kostenloses Erstgespräch (15 Minuten).