Wenn KI/LLM sich seriöse Quellen ausdenkt

Es beginnt mit einer harmlosen Recherche. Ein Bürger möchte wissen, ob ein bestimmter AfD-Politiker an einer Waldorfschule eingeladen wurde. Er befrägt Suchmaschinen, befrägt mehrere LLM/KI. Unter anderem eine  KI liefert eine Antwort – tabellarisch, präzise, mit Datum, Ort und vor allem: mit einem Link. Die URL trägt die vertraute Endung „sueddeutsche.de“. Eine seriöse Quelle. Also stimmt es.

Doch der Link ist eine Sackgasse. Die Seite existiert nicht. Sie hat vermutlich nie existiert. Die KI hat sie erfunden – komplett, inklusive der vertrauenswürdigen Domäne. Manche der Erfindungen sind eine Mischung aus Tatsachen aber versehen mit einer falschen Jahreszahl und mit einer falschen Quelle, einen dieser Fälle gab es wirklich in einem anderen Medium und in einem anderen Jahr.

Was wie ein technischer Patzer klingt, ist ein handfestes juristisches und medienethisches Problem.

Das Problem: Vorgaukeln von Seriosität

Large Language Models haben eine fatale Eigenschaft: Sie erfinden Quellen. Nicht manchmal, sondern systematisch. Und sie tun es mit einer Überzeugungskraft, die selbst erfahrene Rechercheure täuscht.

Besonders perfide: Die erfundenen Links tragen echte Domainnamen – „waz.de“, „faz.net“, „zeit.de“, „sueddeutsche.de“. Ein Leser, der nicht auf den Link klickt (weil er der KI vertraut), nimmt die Information als belegt an. Ein Leser, der klickt, findet nichts – und weiß nicht, ob der Artikel gelöscht wurde oder nie existierte.

Die mediale Rufschädigung

Die betroffenen Verlage haben ein Problem, das sie sich nicht ausgesucht haben.

Ein erfundener „Spiegel“-Artikel über einen Politiker, den es nie gab. Eine nicht existente „taz“-Recherche. Ein „rbb24“-Beitrag, der nur in der Vorstellung einer KI existiert. Diese Fälschungen haften an den Marken. Sie untergraben das Vertrauen in echten Journalismus – denn irgendwann weiß niemand mehr, was echt ist und was nur eine KI halluziniert hat.

Die Verlage haben kein Einwilligung gegeben, dass ihre Domains als Tarnung für KI-Halluzinationen missbraucht werden.

Die rechtliche Frage: Können Verlage klagen?

Die Antwort ist komplex, aber der Weg ist nicht ausgeschlossen.

In Betracht kommen:

1. Verletzung des Namensrechts (§ 12 BGB)
Die KI-Anbieter nutzen den Namen und das Markenzeichen des Verlags, um ihrer Ausgabe falsche Autorität zu verleihen. Das ist keine redaktionelle Nutzung, sondern eine kommerzielle – und die bedarf der Zustimmung.

2. Wettbewerbsrecht (UWG)
Ein KI-Modell, das systematisch nicht existente Artikel erfindet und dabei etablierte Medienmarken verwendet, könnte als irreführende geschäftliche Handlung gewertet werden.

3. Produkthaftung für KI-Systeme (kommender EU AI Act)
Die KI-Verordnung der EU stuft bestimmte KI-Systeme als risikobehaftet ein. Das Erfinden von Fakten unter falschem Flaggen könnte als Verstoß gegen Transparenzpflichten gewertet werden.

Das eigentliche Problem: Keine Haftung, keine Änderung

Bislang fehlt der Anreiz für KI-Anbieter, das Problem zu lösen. Die Modelle werden trainiert, plausible Sätze zu produzieren – nicht wahre. Und solange keine Klage droht, wird sich das nicht ändern.

Ein Musterverfahren eines großen Medienhauses gegen einen KI-Anbieter wäre der Katalysator. Nicht, weil man die KI abschaffen will. Sondern weil man sie zwingen muss, zwischen „das habe ich gelernt“ und „das erfinde ich gerade“ zu unterscheiden – oder zumindest zu kennzeichnen, wenn sie sich etwas ausdenkt.

Was verboten werden müsste

Es ist nicht die KI an sich, die verboten gehört. Es ist das Vorgaukeln seriöser Quellen. Eine KI sollte keine URL erfinden dürfen, die auf eine reale Domain verweist, ohne dass der Inhalt tatsächlich dort existiert. Das ist Etikettenschwindel – digital, automatisiert und massiv.

Bis dahin gilt für Leser: Jeder KI-generierte Link ist erst einmal verdächtig. Und für Verlage: Ihr guter Name steht plötzlich in fremder Hand – der Hand einer Maschine, die nicht weiß, was Wahrheit ist.

Nachtrag: So wie eine LLM etwas erfindet, sortiert eine andere LLM aus und findet das  https://www.ovb-online.de/rosenheim/chiemgau/interesse-jugendlichen-politik-geweckt-6398347.html zum Beispiel nicht.