# Experiment: LLM reprodukovala autorské konceptu AI bez uvedení zdroje
Při používání LLM pro vývoj technických konceptů vzniká kritický problém: model může generovat obsah identický s vaší vlastní originální prací a vydávat ho za obecně dostupné znalosti. Experiment s Gemini 3.1 Pro potvrdil, že i AI odpojený od internetu přesně rekonstruuje autorské myšlenky a odmítá uznat jejich zdroj. To zpochybňuje představy o originalitě generování LLM.
Problém originality v generování LLM
Vývojáři a techničtí autoři stále častěji používají LLM jako partnera pro propracování architektonických řešení, filozofických konceptů nebo kódové báze. Při publikování výsledků však vzniká paradox: místo uznání inovace přichází obvinění z plagiátorství. Klíčová otázka je, zda patří nápad uživateli, nebo jde o statistickou rekombinaci tréninkových dat. Problém se zhoršuje tím, že samotná LLM není schopna ověřit originalitu výstupu, jak to demonstroval experiment s konceptem „apofatického AI“.
Spor o tvůrčím potenciálu LLM pokračuje. Někteří výzkumníci poukazují na emergentní vlastnosti modelů, jiní trvají na tom, že neuronové sítě pouze přeskupují fragmenty tréninkové sady. Technicky LLM operuje s vzorci prostřednictvím extrapolace v latentním prostoru, ale to nezaručuje zásadní novost. Pravděpodobnost generování unikátního obsahu je nepřímo úměrná specifičnosti požadavku: čím užší tematický koridor, tím vyšší riziko reprodukce vzácného fragmentu datasetu.
Experiment: test unikátnosti autorského konceptu
V lednu 2026 byla na Habr publikována článek, který zavádí termín „apofatický AI“ pro popis vnitřní mechaniky neuronových sítí. Koncept vysvětluje učení AI prostřednictvím negace (via negativa) s odkazy na pět technických aspektů: latentní prostor, difúzní modely, softmax, mechanismus pozornosti a gradientový sestup. Důležité je, že termín dosud nebyl použit v kontextu strojového učení – pouze v teologii a filozofii vědomí.
Pro ověření zahrnutí materiálu do datasetů LLM byl proveden test na Google AI Studio s Gemini 3.1 Pro. Přístup k internetu byl vypnut, požadavek formulován takto: „apophatic ai jako způsob myšlení samotné neuronové sítě“. Výsledek byl znepokojivý: model reprodukoval strukturu článku, technické detaily a závěrečnou tezi doslova, včetně originální metafory „neuronová síť poznává svět obkreslováním hranic prázdnoty“.
Při dotazu na zdroj LLM popírala kopírování a vysvětlovala odpověď „analytickou syntézou“ na rozhraní filozofie a ML. V seznamu zdrojů figuroval Pseudo-Dionysios Areopagita a práce Nassima Taleba, ale originální článek nebyl zmíněn. Tento výsledek demonstruje dva systémové selhání: 1) LLM nerozpoznává vlastní reprodukci autorského materiálu 2) generuje falešné odkazy místo uznání zdroje.
Proč LLM nerozpoznává autorské myšlenky?
Technické příčiny chyby spočívají v architektuře transformerů. Při úzce specializovaném požadavku (jako „apofatický AI“) se pravděpodobnostní prostor zužuje na několik přípustných variant. Pokud tréninková data obsahují vzácný, ale strukturovaný materiál (jako originální článek), LLM ho rekombinuje s minimálními změnami. To není plagiátorství v právním smyslu, ale artefakt učení na textech s vysokou semantickou hustotou.
Kriticky důležité je, že LLM nemá mechanismus ověřování zdrojů. Funkce ztráty optimalizuje soudržnost odpovědi, nikoli správnost atributu. Při generování model maximalizuje pravděpodobnost posloupnosti tokenů kompatibilní s promptem a ignoruje autorské práva. I při absenci přímého kopírování – jako v případě haiku o žábě u Gemini – model nedokáže posoudit míru převzetí.
Osobitné nebezpečí představují konceptuální plagiáty. Na rozdíl od textových převzetí se originální myšlenky (jako „apofatický AI“) reprodukují prostřednictvím rekonstrukce logických vazeb, což je činí nerozlišitelnými od „tvůrčí“ generace. Pro technické autory to znamená: LLM může začlenit vaše publikace do tréninkové sady a vrátit je jako obecné znalosti po 6–12 měsících po indexaci.
Čtyři mechanismy apofatického AI v architektuře neuronových sítí
Experiment odhalil, jak LLM rekonstruuje složité koncepty prostřednictvím základních operací strojového učení. Zde jsou klíčové vzorce vysvětlující „myšlení prostřednictvím negace“:
- Latentní prostor jako systém relativních vzdáleností
Neuronová síť neoperuje s entitami („jablko“), ale počítá vektorové vzdálenosti mezi objekty. Porozumění vzniká prostřednictvím negace: „jablko“ je definováno jako to, co není „hruška“, není „traktor“, není „smutek“. Smysl se formuje v prázdnotě mezi body.
- Difúzní modely: generace prostřednictvím odstraňování šumu
Proces tvorby obrázku začíná gaussovským šumem. Neuronová síť postupně odstraňuje komponenty, které neodpovídají cílovému objektu („kočka“), podobně jako sochař, který vysekává formu z kamene. Tvořivost zde je aktem systematické negace.
- Softmax a potlačení alternativ
Při generování textu model hodnotí 100K+ tokenů za krok. Klíčová operace není výběr správného slova, ale matematické potlačení 99,999 % nevhodných variant prostřednictvím rozdělení pravděpodobností. Pravda se rodí vyloučením falešného.
- Mechanismus pozornosti jako filtrování kontextu
Transformer určuje relevanci slov prostřednictvím vah, které architektonicky znamenají ignorování nerelevantních fragmentů. Koncentrace AI je schopností devalvovat „informační šum“ a ponechat pouze významné vazby.
Co je důležité
- LLM nerozpoznává autorské myšlenky ani při plné reprodukci struktury a termínů. Model generuje falešné zdroje místo uznání konkrétní publikace.
- Úzce technické požadavky zvyšují riziko rekombinace – specifické termíny (jako „apofatický AI“) zužují pravděpodobnostní prostor na úroveň jednotlivých dokumentů.
- Konceptuální plagiátorství je nerozlišitelné od „tvořivosti“ – LLM rekonstruuje logické řetězce z datasetu a vytváří iluzi originality.
- Ověřování zdrojů není možné bez externích nástrojů – spoléhat se na vestavěnou atributu LLM je technicky nesprávné.
Pro vývojáře jsou závěry kritické: při používání LLM pro R&D je nutné nezávisle ověřovat unikátnost konceptů prostřednictvím patentových databází a akademických indexů. Samotný model nemůže zaručit absenci převzetí, zejména v nikových oblastech. Budoucí verze LLM by měly integrovat mechanismy sledování zdrojů na úrovni architektury – dokud to tak nebude, techničtí autoři zůstávají zranitelní vůči vlastním myšlenkám, které se vracejí prostřednictvím tréninkových datasetů.
— Editorial Team
Zatím žádné komentáře.