LLM und Originalität: Experiment mit apophatischer KI | Analyse

# Experiment: LLM reproduziert Original-KI-Konzept eines Autors ohne Quellenangabe

Beim Einsatz von LLMs zur Entwicklung technischer Konzepte taucht ein kritisches Problem auf: Das Modell kann Inhalte generieren, die identisch mit Ihrer eigenen Originalarbeit sind, und sie als Allgemeinwissen darstellen. Ein Experiment mit Gemini 3.1 Pro hat bestätigt, dass selbst eine KI ohne Internetzugang proprietäre Ideen präzise nachstellen kann, ohne die Quelle anzuerkennen. Dies weckt ernsthafte Zweifel an der Originalität von LLM-generierten Inhalten.

Das Originalitätsproblem bei der LLM-Generierung

Entwickler und technische Autoren nutzen LLMs zunehmend als Partner, um Architekturlösungen, philosophische Konzepte oder Codebasen auszuarbeiten. Beim Veröffentlichen der Ergebnisse entsteht jedoch ein Paradoxon: Statt Anerkennung für Innovationen hagelt es Plagiatsvorwürfe. Die zentrale Frage ist, ob die Idee dem Nutzer gehört oder lediglich eine statistische Rekombination von Trainingsdaten darstellt. Das Problem verschärft sich dadurch, dass LLMs selbst die Originalität ihrer Ausgabe nicht überprüfen können, wie ein Experiment zum Konzept der „apophatic AI“ gezeigt hat.

Die Debatte über das kreative Potenzial von LLMs hält an. Einige Forscher verweisen auf emergente Eigenschaften der Modelle, andere beharren darauf, dass neuronale Netze lediglich Fragmente aus dem Trainingskorpus umordnen. Technisch arbeiten LLMs mit Mustern durch Extrapolation im latenten Raum, was jedoch keine fundamentale Neuheit garantiert. Die Wahrscheinlichkeit einzigartiger Inhalte ist umgekehrt proportional zur Spezifität der Anfrage: Je enger der thematische Fokus, desto höher das Risiko, ein seltenes Fragment aus dem Datensatz zu reproduzieren.

Experiment: Test der Einzigartigkeit eines Autorenkonzepts

Im Januar 2026 veröffentlichte Habr einen Artikel, der den Begriff „apophatic AI“ einführte, um die inneren Mechanismen neuronaler Netze zu beschreiben. Das Konzept erklärte das KI-Training durch Negation (via negativa) und bezog sich auf fünf technische Aspekte: latent space, Diffusion Models, Softmax, Attention Mechanisms und Gradient Descent. Wichtig: Der Begriff war zuvor im Kontext des Machine Learning nicht verwendet worden – nur in Theologie und Philosophie des Bewusstseins.

Um zu prüfen, ob das Material in LLM-Datensätze aufgenommen worden war, wurde ein Test in Google AI Studio mit Gemini 3.1 Pro durchgeführt. Der Internetzugang war deaktiviert, und die Anfrage lautete: „apophatic ai as the way the neural network itself thinks.“ Das Ergebnis war alarmierend: Das Modell reproduzierte die Struktur des Artikels, die technischen Details und die abschließende These wörtlich, einschließlich der Originalmetapher „the neural network knows the world by outlining the boundaries of emptiness.“

Auf Nachfrage nach der Quelle leugnete die LLM jede Kopie und erklärte die Antwort als „analytische Synthese“ an der Schnittstelle von Philosophie und ML. Die Quellenliste umfasste Pseudo-Dionysius the Areopagite und Werke von Nassim Taleb, aber nicht den Originalartikel. Dieses Ergebnis deckt zwei systemische Fehler auf: 1) Die LLM erkennt ihre eigene Reproduktion proprietären Materials nicht; 2) sie erzeugt falsche Zitate statt die Quelle anzuerkennen.

Warum erkennt die LLM Autorenideen nicht?

Die technischen Gründe für diesen Fehler liegen in der Transformer-Architektur. Bei einer hoch spezialisierten Anfrage (wie „apophatic AI“) verengt sich der probabilistische Raum auf wenige plausible Optionen. Enthält der Trainingsdatensatz seltenes, aber strukturiertes Material (wie den Originalartikel), kombiniert die LLM es mit minimalen Änderungen. Das ist rechtlich kein Plagiat, sondern ein Artefakt des Trainings auf Texten mit hoher semantischer Dichte.

Kritisch ist, dass LLMs keinen Quellenverifikationsmechanismus haben. Die Loss-Funktion optimiert die Kohärenz der Antwort, nicht die Genauigkeit der Zuschreibung. Beim Generieren maximiert das Modell die Wahrscheinlichkeit einer Token-Sequenz, die zum Prompt passt, und ignoriert Urheberrechte. Sogar ohne direkte Kopie – wie in Gemini's Haiku über den Frosch – kann das Modell den Grad der Entlehnung nicht einschätzen.

Konzeptionelles Plagiat birgt eine besondere Gefahr. Im Gegensatz zu textuellen Entlehnungen werden Originalideen (wie „apophatic AI“) durch Rekonstruktion logischer Verbindungen reproduziert, sodass sie von „kreativer“ Generierung nicht zu unterscheiden sind. Für technische Autoren bedeutet das: LLMs können Ihre Publikationen in den Trainingskorpus übernehmen und sie 6–12 Monate nach der Indexierung als Allgemeinwissen zurückgeben.

Vier Mechanismen der Apophatic AI in der neuronalen Netzwerkarchitektur

Das Experiment zeigte, wie LLMs komplexe Konzepte durch grundlegende Machine-Learning-Operationen rekonstruieren. Hier die Schlüsselmechanismen, die das „Denken durch Negation“ erklären:

• Latent Space als System relativer Distanzen

Das neuronale Netz arbeitet nicht mit Entitäten („apple“), sondern berechnet Vektordistanzen zwischen Objekten. Verständnis entsteht durch Negation: „apple“ wird definiert als nicht „pear“, nicht „tractor“, nicht „sadness“. Bedeutung formt sich in der Leere zwischen den Punkten.

• Diffusion Models: Generierung durch Rauschentfernung

Der Prozess der Bildgenerierung beginnt mit Gaußschem Rauschen. Das neuronale Netz entfernt iterativ Komponenten, die nicht zum Zielobjekt („cat“) passen, ähnlich wie ein Bildhauer Form aus Stein meißelt. Kreativität ist hier ein Akt systematischer Negation.

• Softmax und Unterdrückung von Alternativen

Beim Textgenerieren bewertet das Modell pro Schritt über 100.000 Tokens. Die Schlüsselfunktion ist nicht die Auswahl des richtigen Wortes, sondern die mathematische Unterdrückung von 99,999 % unpassender Optionen durch Wahrscheinlichkeitsverteilung. Wahrheit entsteht durch Ausschluss des Falschen.

• Attention Mechanism als Kontextfilterung

Transformers bestimmen die Relevanz von Wörtern durch Gewichte, die architektonisch das Ignorieren irrelevanter Fragmente bedeuten. Der KI-Fokus ist die Fähigkeit, „informationalen Noise“ abzuwerten und nur sinnvolle Verbindungen zu belassen.

Wichtige Erkenntnisse

• LLMs erkennen Autorenideen nicht, auch wenn sie Struktur und Begriffe vollständig reproduzieren. Das Modell erzeugt falsche Quellen statt eine spezifische Publikation anzuerkennen.
• Enge technische Anfragen erhöhen das Rekombinationsrisiko – spezifische Begriffe (wie „apophatic AI“) verengen den probabilistischen Raum auf das Niveau einzelner Dokumente.
• Konzeptionelles Plagiat ist von „Kreativität“ nicht zu unterscheiden – LLMs rekonstruieren logische Ketten aus dem Datensatz und erzeugen eine Illusion von Originalität.
• Quellenverifikation ist ohne externe Tools unmöglich – auf die eingebaute LLM-Zuschreibung zu vertrauen, ist technisch falsch.

Für Entwickler haben die Implikationen weitreichende Bedeutung: Beim Einsatz von LLMs in der Forschung und Entwicklung Uniqueness von Konzepten unabhängig über Patentdatenbanken und akademische Indexe prüfen. Das Modell selbst kann das Fehlen von Entlehnungen nicht garantieren, besonders in Nischenbereichen. Zukünftige LLM-Versionen sollten Quellenverfolgung auf Architekturebene integrieren – bis dahin bleiben technische Autoren anfällig dafür, dass ihre eigenen Ideen über Trainingsdatensätze zurückkehren.

— Editorial Team