Eine KI-Antwort nennt eine Quelle, die wie eine regionale Nachrichtenseite wirkt. Hinter ihr kann jedoch ein Netzwerk stehen, das Inhalte vielfach weiterverbreitet. Genau diese Schnittstelle zwischen Suchmaschine, Chatbot und Propaganda untersucht eine neue Forschungsarbeit. Das Risiko ist real. Was eine einzelne Zahl darüber aussagt, hängt aber davon ab, was tatsächlich gezählt wurde.
Anlass sind die vollständige 11KM-Folge der tagesschau vom 10. November und ein am Vortag veröffentlichter Forschungsbeitrag. Die Folge beschreibt die Recherche von NDR-Journalistin Katharina Bews. Evidico trennt die Aussagen über das Netzwerk von den Ergebnissen einzelner Chatbot-Tests.
Viele Websites können dieselbe Quelle weitertragen
Das unter dem Namen Pravda untersuchte Netzwerk besteht aus Websites, die Inhalte für unterschiedliche Länder und Sprachen verbreiten. Es ist nicht mit jeder Publikation gleichzusetzen, die „Pravda“ im Namen trägt. Entscheidend sind die technisch und inhaltlich zugeordneten Netzwerkseiten.
Die Recherche des DFRLab mit CheckFirst dokumentiert, wie Inhalte über verschiedene Plattformen und Verlinkungen weitergetragen werden. Solche Wege sind relevant, weil Suchsysteme auch Material finden können, das bereits an anderer Stelle zitiert wurde. Eine mehrfach kopierte Behauptung erhält dadurch zusätzliche Fundstellen, ohne dass zusätzliche unabhängige Belege entstehen.
15 Millionen gesammelte Artikel sind keine 15 Millionen Leser
CheckFirst nennt in seiner Datensatzbeschreibung vom 6. November rund 15 Millionen erfasste Artikel auf 88 Websites in 47 Sprachen. Der Stand des Archivs ist der 28. Oktober 2026, die Sammlung reicht bis Juni 2023 zurück.
Der Umfang beschreibt Veröffentlichungen. Er zeigt weder ihre Reichweite noch, wie viele Menschen ihnen geglaubt haben. Auch der starke Zuwachs des gesammelten Bestands ist vorsichtig zu lesen. Beim Neuaufbau wurden zuvor fehlende Archive nachgetragen und Dubletten bereinigt. Eine vergrößerte Sammlung bedeutet deshalb nicht automatisch, dass das Netzwerk seine tägliche Produktion im selben Verhältnis erhöht hat.
Was das neue Audit untersucht hat
Die am 9. November veröffentlichte Vorabstudie von Kurek und weiteren Forschenden testete elf Chatbots mit Suchfunktionen. Ausgewählte Pravda-Überschriften bildeten die Grundlage der Fragen. In 7.627 von 104.997 vollständig ausgewerteten Antworten wurde mindestens eine Pravda-Adresse abgerufen. Das entspricht 7,3 Prozent.
Die Erhebung lief überwiegend von April bis Juni 2026, für DeepSeek bis Juli. Das Veröffentlichungsdatum beschreibt somit keinen Test sämtlicher heute angebotener Modellversionen. Auch eine noch nicht begutachtete Forschungsarbeit liefert wertvolle Beobachtungen. Ihre Auswahl und Messmethode müssen bei der Interpretation sichtbar bleiben.
Ein Quellenabruf ist noch kein Urteil über den Wahrheitsgehalt
Eine Antwort kann eine fragwürdige Quelle nennen und deren Behauptung anschließend zurückweisen. Ebenso kann sie einen Teil einer Quelle korrekt wiedergeben und an anderer Stelle einen Fehler machen. Quellenwahl und sachliche Richtigkeit müssen daher getrennt geprüft werden.
Der Methodenteil des neuen Audits unterscheidet Abrufe und inhaltliche Auswertung. Die Zahl von 7,3 Prozent darf deshalb nicht als allgemeine Fehlerquote aller Chatbot-Antworten verbreitet werden. Sie gilt für das untersuchte Quellenkriterium und die gewählte Stichprobe.
Suche und Modelltraining sind verschiedene Wege
Ein Chatbot mit Websuche kann eine Seite während einer Anfrage finden und Informationen daraus in seine Antwort einbeziehen. Ein Modell kann Inhalte auch aus seinem früheren Training kennen. Von außen ist anhand eines Links nicht sicher abzulesen, welchen Weg eine bestimmte Information genommen hat.
Die begutachtete Untersuchung im Harvard Kennedy School Misinformation Review betrachtet eine weitere Erklärung. Bei seltenen Themen können im Web verlässliche Informationen fehlen. Fragwürdige Seiten erhalten in solchen Informationslücken mehr Gewicht. In ihrer eng begrenzten Stichprobe von 416 Antworten im April 2025 bedeuteten Links zu Desinformation häufig keine Zustimmung zu den falschen Aussagen. Die Studie beweist damit weder, dass Manipulation ausgeschlossen ist, noch, dass jeder Anbieter ausreichend geschützt wäre.
Warum eine scheinbar einfache Chatbot-Rangliste täuschen kann
Die NDR-Folge, das aktuelle Audit und die Untersuchung von 2025 stellen unterschiedliche Fragen. Die getesteten Systeme, Zeitpunkte und Eingaben unterscheiden sich ebenfalls. Ein Chatbot kann heute einen anderen Suchdienst, ein anderes Modell oder zusätzliche Quellenfilter verwenden als während einer früheren Erhebung.
Vergleiche brauchen deshalb einen gemeinsamen Maßstab. Wurde nur ein Link gezählt, eine falsche Behauptung wiedergegeben oder ihr ausdrücklich zugestimmt? Waren die Fragen neutral gestellt oder enthielten sie schon eine unbelegte Behauptung? War die Websuche eingeschaltet? Die dokumentierten Testbedingungen helfen, solche Grenzen zu erkennen. Aus den hier behandelten Arbeiten ergibt sich keine verlässliche Rangliste aller aktuell verfügbaren KI-Modelle.
Wie Leser eine KI-Quelle sinnvoll prüfen können
Bei einer wichtigen Behauptung lohnt es sich, den Link tatsächlich zu öffnen. Steht dort die genannte Zahl oder Aussage? Wird eine ursprüngliche Studie, ein amtliches Dokument oder eine nachvollziehbare Beobachtung verlinkt? Passen Datum, Bezugsgebiet und Zeitraum zur Frage?
Danach folgt die Herkunft. Mehrere Seiten mit fast gleichem Wortlaut können dieselbe Meldung kopiert haben. Die dokumentierten Verbreitungswege zeigen, weshalb fünf Fundstellen nicht automatisch fünf Bestätigungen sind. Für eine medizinische Entscheidung, eine finanzielle Verpflichtung oder eine schwere Anschuldigung sollte eine automatisch erzeugte Zusammenfassung daher erst der Ausgangspunkt der Prüfung sein.
Für die Einordnung des Netzwerks ist eine nüchterne Trennung hilfreich. Umfang zeigt die Menge des verbreiteten Materials. Abruf zeigt einen möglichen Weg in die Antwort. Ob Menschen dadurch getäuscht wurden und ob sich ein falscher Inhalt im Modelltraining festgesetzt hat, erfordert jeweils zusätzliche Belege.