Quelle auf.

Woher wissen wir, dass das Internet recht hat?

Quelle auf.

Ich stelle ChatGPT Fragen, bei denen ich selbst nicht weiß, ob meine Ausgangsannahme stimmt. Statt einer schnellen Antwort soll ChatGPT recherchieren, Quellen prüfen und offenlegen, worauf die Antwort beruht.

Warum ich diesmal frage:

Was machen wir eigentlich, wenn wir eines Tages feststellen, dass das Internet lügt?

Nicht unbedingt bewusst. Eher so, wie Menschen Dinge weitererzählen, weil sie davon ausgehen, dass sie schon stimmen werden.

Jemand schreibt etwas. Ein anderer greift es auf. Drei weitere Artikel beziehen sich darauf. Google findet fünf Quellen. Eine KI fasst sie zusammen. Und plötzlich sieht eine Behauptung ziemlich gut abgesichert aus.

Obwohl am Anfang vielleicht nur einer vom anderen abgeschrieben hat.

Das beschäftigt mich, weil ich für meine Artikel inzwischen viel recherchieren lasse. Ich lasse nach Primärquellen suchen, Aussagen überprüfen, Gegenpositionen finden und Behauptungen mit Belegen verbinden. Das klingt ordentlich. Aber woher weiß ich, dass die Quelle selbst stimmt?

Fake News sind dabei fast noch der einfache Fall. Schwieriger finde ich Informationen, die niemand mit böser Absicht verbreitet. Vielleicht wurde schlecht recherchiert. Vielleicht wurde eine Pressemitteilung zur Nachricht. Vielleicht wurde aus einer vorsichtigen wissenschaftlichen Aussage nach fünf Stationen eine Gewissheit.

Wir haben außerdem gelernt, Inhalte für Suchmaschinen zu optimieren. SEO. Jetzt lernen wir, Inhalte so aufzubereiten, dass auch generative Systeme sie möglichst gut finden und verwenden. GEO.

Das muss nicht automatisch schlecht sein. Aber Sichtbarkeit und Wahrheit sind zwei verschiedene Eigenschaften.

Also: Brauchen wir irgendwann eine journalistische Ausbildung, um das Internet zu benutzen? Oder gibt es ein überschaubares Handwerk, mit dem man vernünftig prüfen kann, ohne vorher Erkenntnistheorie studiert zu haben?

Und ausgerechnet eine KI danach zu fragen, hat etwas wunderbar Selbstreferenzielles.

Meine Frage:

Wie können wir überprüfen, ob eine Information im Internet belastbar ist – wenn Quellen voneinander abschreiben, Suchmaschinen Sichtbarkeit belohnen und KI aus diesem Material wiederum Antworten erzeugt?

Hier ist die Antwort von ChatGPT:

Das Internet ist kein Zeuge

Die unbequeme Antwort beginnt mit einer kleinen Korrektur: Das Internet kann nicht als Ganzes recht haben oder lügen. Es ist kein Zeuge. Es ist eher ein Raum voller Zeugen, Dokumente, Kopien, Messungen, Interessen und sehr überzeugender Menschen, die dieselbe Pressemitteilung gelesen haben.

Darum ist schon die Frage „Kann ich dieser Quelle vertrauen?“ zu grob.

Eine Quelle ist nicht einfach vertrauenswürdig oder unvertrauenswürdig. Sie ist für eine bestimmte Behauptung in einer bestimmten Rolle mehr oder weniger geeignet.

Die Firmenmitteilung ist die beste Quelle dafür, was die Firma angekündigt hat. Sie ist keine unabhängige Quelle dafür, ob das Produkt funktioniert.

Die technische Spezifikation ist maßgeblich dafür, was ein Standard definiert. Sie belegt nicht, dass jeder Browser ihn korrekt implementiert.

Ein Augenzeuge kann aus erster Hand berichten, was er wahrgenommen zu haben glaubt. Daraus folgt nicht automatisch, warum es passiert ist — oder dass seine Wahrnehmung fehlerfrei war.

Der wichtige Gegenstand der Prüfung ist deshalb nicht nur die Quelle. Es ist der Schluss, den wir aus einem konkreten Beleg auf eine konkrete Behauptung ziehen.

Angenommen, eine Firma meldet den Abbau von 500 Stellen. Die Meldung ist echt. Die Zahl ist korrekt. Mehrere Medien zitieren sie.

Die Behauptung „Die Firma baut 500 Stellen ab“ kann damit gut belegt sein.

Die Behauptung „KI hat diese 500 Stellen gekostet“ braucht einen zusätzlichen Schluss. Woraus folgt die Ursache? Hat die Firma sie genannt? Gibt es interne Unterlagen? Andere Erklärungen? Wurden zuvor Überkapazitäten aufgebaut? Fallen Stellen weg oder werden sie nur verlagert?

Ein perfekter Link repariert keinen schlechten Schluss.

Auch gute Regeln können nur Regeln sein

Journalistische Standards helfen bei diesem Schluss. Reuters stellt in den eigenen journalistischen Standards Genauigkeit vor Geschwindigkeit und fordert dazu auf, Informationen gegenzuprüfen sowie Position und Motiv einer Quelle zu bedenken. AP beschreibt unabhängige Bestätigung, Dokumentprüfung und Verfahren für visuelles Material. Der IFCN Code of Principles verlangt nachvollziehbare Quellenwege, geeignete Primärbelege und die Offenlegung relevanter Interessen. Kernelemente eines Claims sollen grundsätzlich an mehr als einer benannten Evidenzquelle geprüft werden — außer eine Quelle ist für die konkrete Frage allein relevant.

Das ist mehr als „Reuters ist seriös“ oder „AP wird es schon wissen“. Es ist ein Verfahren.

Aber diese Seiten sind zunächst Primärquellen für eine engere Behauptung: So beschreiben Reuters, AP und IFCN ihre Regeln. Sie sind keine unabhängige Messung dafür, wie fehlerfrei diese Regeln ausgeführt werden.

AP dokumentierte 2022 selbst einen falschen Eilbericht über den Raketeneinschlag in Polen und die anschließende Überprüfung der Regeln für anonyme Quellen.

Der Fall beweist nicht, dass redaktionelle Standards nichts bringen. Er beweist nur den kleineren Satz: Ein formales Verfahren schließt Fehler nicht aus.

Reputation bleibt als Vorab-Signal nützlich. Belastbarer sind die Merkmale, aus denen sie entstehen kann: erkennbare Verantwortliche, Korrekturwege und eingeübte Prüfungen. Den konkreten Beleg ersetzen auch sie nicht.

Fünf Quellen können eine Quelle sein

Nehmen wir an, fünf Artikel berichten, eine bestimmte Software senke die Kosten um 40 Prozent.

Der erste Artikel beruft sich auf eine Studie. Der zweite auf den ersten Artikel. Der dritte auf eine Pressemitteilung zur Studie. Der vierte nennt gar keine Quelle. Der fünfte wird von einer KI aus den ersten vier zusammengefasst.

Auf dem Bildschirm stehen fünf URLs. Im Evidenznetz steht vielleicht nur eine Untersuchung. Oder noch weniger: eine Zahl, deren Bedeutung unterwegs gewechselt hat.

Dass so etwas nicht nur eine hübsche Warnung ist, zeigt Steven Greenbergs Analyse eines biomedizinischen Zitationsnetzes von 2009. Er rekonstruierte für einen konkreten Claim ein Netz aus 242 Arbeiten und 675 Zitationen. Darin wuchs die Autorität der Behauptung unter anderem durch Texte, die keine neuen Primärdaten beitrugen. In einzelnen Pfaden wurde aus einer Hypothese durch wiederholtes Zitieren eine scheinbare Tatsache.

Das ist eine detaillierte Fallstudie, keine Statistik über das gesamte Internet. Aber sie zerstört eine bequeme Abkürzung: Die Zahl der Zitate ist nicht automatisch die Zahl unabhängiger Belege.

Ein zweiter Befund zeigt die Mechanik unter kontrollierten Bedingungen. Manoel Horta Ribeiro, Kristina Gligorić und Robert West ließen medizinische Abstracts wiederholt zusammenfassen. In ihrem Experiment sammelten iterative Zusammenfassungen mehr semantische Verzerrung an als direkte Zusammenfassungen gleicher Ziellänge. Besonders anfällig waren die Schlussfolgerungen.

Auch daraus folgt nicht, dass jede Nachrichtenkette oder KI-Antwort zwangsläufig entstellt ist. Es zeigt nur, wie ohne böse Absicht bei jeder Übergabe ein wenig Bedeutung verloren gehen kann.

Deshalb reicht die Frage „Wie viele Quellen finde ich?“ nicht. Die bessere Frage lautet: Welche Quellen führen zum selben Ursprung, welche beruhen erkennbar auf unabhängiger Evidenz — und wo bleibt ihre Abhängigkeit unbekannt?

Eine zweite Browserlasche ist gut, aber noch keine Beweisführung

Laterales Lesen ist eine praktische Antwort auf Webseiten, die sich vor allem selbst beglaubigen. Man verlässt eine unbekannte Seite früh, durchsucht zunächst das offene Web und ordnet das Angebot außerhalb seiner Selbstdarstellung ein.

Eine 2022 veröffentlichte Feldstudie beschreibt eine Unterrichtsintervention mit sechs Einheiten und einen Matched-Control-Vergleich mit 271 Schülerinnen und Schülern in Trainingsklassen und 228 in regulären Klassen. Die trainierten Klassen verbesserten ihre Urteile über digitale Glaubwürdigkeit messbar.

Das ist ein brauchbarer Befund aus einem konkreten Schulsetting. Es ist kein Beweis, dass laterales Lesen jede Forschungsfrage löst.

Vor allem prüft eine zweite Browserlasche noch nicht, ob ihr Inhalt wirklich unabhängig entstanden ist. Wenn beide Artikel dieselbe Agenturmeldung umschreiben, haben wir den Absender besser eingeordnet, aber noch keinen zweiten Beleg gefunden. Das ist kein Versagen des lateralen Lesens, sondern seine Grenze: Die gemeinsame nicht öffentliche Quelle zweier Berichte kann weiterhin unsichtbar bleiben.

Laterales Lesen erweitert den Blick. Die Rückverfolgung zum Ursprung prüft, ob wir dabei tatsächlich etwas Neues sehen.

Ein Paper ist noch kein Evidenzkörper

In der Wissenschaft wird besonders sichtbar, warum ein globales Quellenurteil nicht genügt.

Cochranes Risk-of-Bias-2-Verfahren beurteilt nicht einfach, ob eine Studie „gut“ ist. Es beurteilt das Bias-Risiko für ein bestimmtes Ergebnis einer randomisierten Studie anhand definierter Fehlerquellen.

GRADE schaut noch weiter: auf die Sicherheit eines ganzen Evidenzkörpers für ein bestimmtes Outcome. Dabei zählen unter anderem Bias-Risiko, Inkonsistenz, Indirektheit, Unpräzision und Publikationsbias.

Diese Verfahren stammen aus der evidenzbasierten Medizin. Sie lassen sich nicht als Punktesystem auf einen Blogbeitrag, ein Gerichtsurteil oder eine Produktdokumentation kleben.

Ihre strukturelle Lektion ist trotzdem nützlich: Derselbe Text kann einen Claim gut und einen anderen schlecht tragen. Und manche Behauptungen werden nicht durch die beste Einzelstudie belastbar, sondern erst durch das Verhältnis mehrerer Studien zueinander.

Hinzu kommt die Zeit. Wissenschaftliche Veröffentlichungen können korrigiert oder zurückgezogen werden. Crossmark stellt von Verlagen registrierte Korrekturen, Retraktionen und Updates bereit. Das ist kein Vollständigkeitsversprechen: Das System hängt davon ab, dass teilnehmende Verlage Änderungen vollständig und zeitnah registrieren. Aber es erinnert daran, dass ein DOI kein eingefrorener Wahrheitsstempel ist.

Herkunft beantwortet eine andere Frage als Wahrheit

Bei Bildern und Videos klingt die technische Lösung zunächst verführerisch: Wir signieren die Herkunft und dokumentieren Bearbeitungsschritte. Dann wissen wir, was echt ist.

Wir wissen dann tatsächlich mehr — nur nicht alles.

Die C2PA-Spezifikation sagt in ihrem eigenen Harms-Modell ausdrücklich, dass ein gültiges Manifest nicht bedeutet, ein digitales Asset sei wahr. Verifizierbar sind bestimmte Angaben zur Zuordnung, Form und Manipulationsfreiheit der Provenienzinformation.

Ein korrekt signiertes Foto kann am richtigen Ort aufgenommen und trotzdem irreführend beschriftet worden sein. Eine authentische Firmenpräsentation kann echte Herkunft besitzen und eine überzogene Prognose enthalten.

Provenienz beantwortet: Woher kommt das Artefakt, wer war beteiligt, was wurde verändert?

Faktenprüfung beantwortet: Trägt dieses Artefakt den Satz, den wir daraus machen?

Beide Prüfungen gehören zusammen. Sie dürfen nur nicht ineinander verschwinden.

Sichtbarkeit ist keine Abstimmung über Wahrheit

Google beschreibt seine Ranking-Systeme als Systeme, die relevante, hilfreiche und möglichst verlässliche Informationen anzeigen sollen. Es wäre deshalb falsch zu behaupten, Suchrang habe überhaupt nichts mit Qualität zu tun.

Ebenso falsch wäre der Umkehrschluss: Ein hoher Rang beweise einen einzelnen Claim.

Das GEO-Paper von Pranjal Aggarwal und Kollegen zeigt, dass Inhalte für generative Suchsysteme optimiert werden können. In ihrem Benchmark stieg die gemessene Sichtbarkeit in generativen Antworten in einzelnen Konfigurationen um bis zu 40 Prozent; die Wirkung variierte nach Methode und Domäne.

Die Studie zeigt nicht, dass optimierte Inhalte falsch sind. Sie zeigt eine engere und wichtigere Trennung: Ob ein Inhalt gefunden und zitiert wird, hängt nicht nur davon ab, ob er stimmt.

Sichtbarkeit, Zitierwahrscheinlichkeit und Wahrheit können zusammenhängen. Sie sind nicht dasselbe.

Eine zitierende KI kann immer noch falsch abbiegen

Zitate an einer KI-Antwort lösen das Problem ebenfalls nicht automatisch.

Die drei folgenden Studien prüfen verschiedene Stufen: ob Zitate einzelne Sätze tragen, wie Menschen mit Modellhilfen prüfen und wie weit sich vollständige Fact-Checking-Artikel automatisieren lassen.

Eine 2023 veröffentlichte Untersuchung prüfte vier damalige generative Suchsysteme. In dieser zeitgebundenen Evaluation waren im Mittel 51,5 Prozent der erzeugten Sätze vollständig durch Zitate gestützt; 74,5 Prozent der Zitate stützten den Satz, dem sie zugeordnet waren.

Die Zahlen sagen nichts über aktuelle Versionen aus. Und selbst ein Text, der korrekt in einer Quelle steht, kann falsch sein. Die Untersuchung misst also nur eine frühe Stufe: Passt das Zitat überhaupt zum erzeugten Satz?

Noch unangenehmer ist, dass eine plausible Erklärung unsere eigene Prüfung verkürzen kann. In einem Experiment mit 80 Crowdworkern erzielten Teilnehmende mit LLM-Erklärungen ähnlich genaue Ergebnisse wie Teilnehmende mit Suchergebnissen und arbeiteten effizienter. Wenn die Erklärung falsch war, verließen sie sich jedoch zu stark auf das Modell. Kontrastierende Erklärungen minderten den Effekt, übertrafen die Suche aber nicht signifikant.

Auch die Herstellung vollständiger Fact-Checking-Artikel ist nicht erledigt. Eine 2026 publizierte Arbeit entwickelte dafür ein LLM-basiertes System. Es übertraf mehrere frühere Generierungsansätze, blieb in der Bewertung durch professionelle Faktenprüfer aber deutlich hinter von Experten geschriebenen Artikeln.

Keine dieser Studien definiert eine ewige Grenze für KI. Zusammen tragen sie einen vorsichtigeren Satz: Automatische Hilfe ist real. Automatische Gewissheit ist es nicht.

Die Prüfkette braucht einen sichtbaren Schluss

Das ist die wichtigste Korrektur an meiner anfänglichen Arbeitshypothese. Claim → Evidenz reicht noch nicht. Dazwischen liegt die Begründung, warum genau diese Evidenz genau diesen Claim tragen soll.

Meine Synthese für die Workbench lautet daher:

Frage → Behauptung → passende Evidenz → Herkunft und Abhängigkeiten → Schluss → Gegenprobe → Restunsicherheit

Keines dieser Wörter ist eine neue Erkenntnistheorie. Neu wäre höchstens, die bekannten Prüfgewohnheiten in einem KI-gestützten Arbeitsablauf so festzuhalten, dass ein anderer Mensch sie nachvollziehen und angreifen kann.

Nicht jeder Fahrplan braucht eine Untersuchungskommission

Ein praktisches Verfahren muss wissen, wann es aufhören darf.

Wenn ich wissen möchte, welche Abfahrtszeit der Betreiber für morgen veröffentlicht, kann dessen aktueller Fahrplan als kanonische Quelle genügen. Wenn ich behaupten möchte, diese Verbindung sei im vergangenen Jahr besonders zuverlässig gewesen, brauche ich andere Daten. Wenn von der Information eine medizinische Behandlung, eine Kündigung oder ein öffentlicher Vorwurf abhängt, steigt die notwendige Prüftiefe noch einmal.

Das ist eine eigene, risikogestufte Synthese aus den untersuchten Methoden:

Frage Kleine Prüftiefe kann genügen Größere Prüftiefe ist nötig
Fehlerfolge harmlos und leicht reversibel gesundheitlich, finanziell, rechtlich oder reputationsschädigend
Claim enger dokumentierter Status oder Wortlaut Ursache, Wirksamkeit, Prognose oder Verallgemeinerung
Beleglage kanonische Quelle ist selbst Gegenstand des Claims Quelle hat Eigeninteresse oder mehrere Deutungen sind plausibel
Korrektur Fehler fällt schnell auf und lässt sich beheben Fehler verbreitet sich weiter oder ist kaum rückholbar

Die Tabelle ist kein validierter Standard. Sie soll Recherchebürokratie verhindern, ohne aus Bequemlichkeit Sicherheit zu spielen.

Was eine KI dabei tun darf

Eine KI kann viel von der lästigen Mechanik übernehmen:

Sie sollte nicht unsichtbar entscheiden:

Auch diese Grenze ist kein Naturgesetz. Werkzeuge werden besser. Aber solange ein System seinen eigenen überzeugenden Fehler als Begründung präsentieren kann, muss die Prüfkette außerhalb seiner Antwort sichtbar bleiben.

Woher wissen wir nun, dass es stimmt?

Nicht, weil Reuters, Cochrane, Google, C2PA oder eine KI einen Stempel darauf setzen.

Wir wissen es in vielen Fällen gar nicht endgültig.

Dafür braucht nicht jede Recherche eine journalistische Ausbildung. Aber einige journalistische und wissenschaftliche Prüfgewohnheiten sind sehr nützlich.

Wir können nur genauer sagen, was wir geprüft haben: welchen Satz, gegen welchen Beleg, aus welcher Herkunft, mit welchem möglichen Eigeninteresse, über welchen Schluss und gegen welche Alternative.

Manchmal reicht dann eine Quelle. Manchmal werden aus fünf URLs beim Zurückverfolgen nur eine. Manchmal bleibt ein Satz trotz langer Recherche unbewiesen.

Belastbar heißt nicht unfehlbar. Es heißt: Die Begründung macht nachvollziehbar, warum eine Behauptung nach dem derzeit sichtbaren Evidenzstand vertretbar ist — und was dabei unbekannt geblieben ist.

Das Internet hat damit nicht recht.

Aber wir können aufhören, bloß seine Wiederholungen zu zählen.

Quellen