# Eksperyment: LLM odtworzyła autorską koncepcję AI bez wskazania źródła
Przy użyciu LLM do tworzenia koncepcji technicznych pojawia się krytyczny problem: model może generować treści identyczne z twoją oryginalną pracą, przedstawiając je jako powszechnie dostępne wiedzę. Eksperyment z Gemini 3.1 Pro potwierdził, że nawet odcięty od internetu AI dokładnie odtwarza autorskie idee, odmawiając uznania ich źródła. To podważa pojęcie oryginalności generacji LLM.
Problem oryginalności w generacji LLM
Programiści i autorzy techniczni coraz częściej korzystają z LLM jako partnera do opracowywania rozwiązań architektonicznych, koncepcji filozoficznych czy baz kodu. Jednak przy publikowaniu wyników pojawia się paradoks: zamiast uznania innowacji następuje oskarżenie o plagiat. Kluczowe pytanie brzmi: czy pomysł należy do użytkownika, czy jest statystyczną rekombinacją danych treningowych. Problem pogłębia fakt, że sama LLM nie jest w stanie zweryfikować oryginalności swojego wyjścia, co prodemonstrowano w eksperymencie z koncepcją „apofatycznego AI”.
Spór o kreatywny potencjał LLM trwa. Niektórzy badacze wskazują na emergentne właściwości modeli, inni twierdzą, że sieci neuronowe jedynie przestawiają fragmenty zbioru treningowego. Technicznie LLM operuje wzorcami poprzez ekstrapolację w przestrzeni latentnej, ale nie gwarantuje to zasadniczej nowości. Prawdopodobieństwo wygenerowania unikalnej treści jest odwrotnie proporcjonalne do specyficzności zapytania: im węższy tematyczny korytarz, tym większe ryzyko odtworzenia rzadkiego fragmentu zbioru danych.
Eksperyment: test unikalności autorskiej koncepcji
W styczniu 2026 roku na Habr opublikowano artykuł wprowadzający termin „apofatyczny AI” do opisu wewnętrznej mechaniki sieci neuronowych. Koncepcja wyjaśniała uczenie AI poprzez negację (via negativa), odwołując się do pięciu aspektów technicznych: przestrzeni latentnej, modeli dyfuzyjnych, softmax, mechanizmu uwagi i gradientowego spadku. Ważne, że termin ten wcześniej nie był używany w kontekście uczenia maszynowego — jedynie w teologii i filozofii świadomości.
Aby sprawdzić, czy materiał znalazł się w zbiorach danych LLM, przeprowadzono test w Google AI Studio z Gemini 3.1 Pro. Dostęp do internetu wyłączony, zapytanie sformułowane jako: „apophatic ai jako sposób myślenia samej sieci neuronowej”. Wynik był niepokojący: model odtworzył strukturę artykułu, szczegóły techniczne i końcową tezę dosłownie, włącznie z oryginalną metaforą „sieć neuronowa poznaje świat, obrysowując granice pustki”.
Na żądanie źródła LLM zaprzeczała kopiowaniu, wyjaśniając odpowiedź „analityczną syntezą” na styku filozofii i ML. W liście źródeł pojawił się Pseudo-Dionizjusz Areopagita i prace Nassima Taleba, ale nie wspomniano oryginalnego artykułu. Ten wynik pokazuje dwa systemowe błędy: 1) LLM nie rozpoznaje własnego odtwarzania materiału autorskiego 2) generuje fałszywe odniesienia zamiast uznania źródła.
Dlaczego LLM nie rozpoznaje autorskich idei?
Techniczne przyczyny błędu tkwią w architekturze transformerów. Przy wąsko wyspecjalizowanym zapytaniu (jak „apofatyczny AI”) przestrzeń probabilistyczna zawęża się do kilku dopuszczalnych wariantów. Jeśli w danych treningowych jest rzadki, ale strukturalny materiał (jak oryginalny artykuł), LLM rekombinuje go z minimalnymi zmianami. To nie plagiat w sensie prawnym, lecz artefakt uczenia na tekstach o wysokiej gęstości semantycznej.
Krytycznie ważne, że LLM nie ma mechanizmu weryfikacji źródeł. Funkcja straty optymalizuje spójność odpowiedzi, a nie rzetelność atrybucji. Podczas generacji model maksymalizuje prawdopodobieństwo sekwencji tokenów zgodnej z promptem, ignorując prawa autorskie. Nawet bez bezpośredniego kopiowania — jak w przypadku haiku o żabie u Gemini — model nie może ocenić stopnia zapożyczenia.
Szczególne zagrożenie stanowią plagiaty koncepcyjne. W przeciwieństwie do zapożyczeń tekstowych, oryginalne idee (jak „apofatyczny AI”) odtwarzane są poprzez rekonstrukcję logicznych powiązań, co czyni je nieodróżnialnymi od „kreatywnej” generacji. Dla autorów technicznych oznacza to: LLM może włączyć twoje publikacje do zbioru treningowego i zwrócić je jako powszechną wiedzę po 6-12 miesiącach od indeksacji.
Cztery mechanizmy apofatycznego AI w architekturze sieci neuronowych
Eksperyment ujawnił, jak LLM rekonstruuje złożone koncepcje poprzez podstawowe operacje uczenia maszynowego. Oto kluczowe wzorce wyjaśniające „myślenie poprzez negację”:
- Przestrzeń latentna jako system względnych odległości
Sieć neuronowa nie operuje bytami („jabłko”), lecz oblicza wektorowe dystanse między obiektami. Zrozumienie powstaje poprzez negację: „jabłko” definiowane jest jako to, co nie jest „gruszą”, nie „traktorem”, nie „smutkiem”. Sens formuje się w pustce między punktami.
- Modele dyfuzyjne: generacja poprzez usuwanie szumu
Proces tworzenia obrazu zaczyna się od szumu gaussowskiego. Sieć neuronowa stopniowo usuwa komponenty niepasujące do obiektu docelowego („kot”), podobnie jak rzeźbiarz wydobywający formę z kamienia. Kreatywność to tu akt systematycznej negacji.
- Softmax i tłumienie alternatyw
Przy generowaniu tekstu model ocenia 100K+ tokenów na krok. Kluczowa operacja to nie wybór właściwego słowa, lecz matematyczne tłumienie 99,999% nieodpowiednich wariantów poprzez rozkład prawdopodobieństwa. Prawda rodzi się poprzez wykluczenie fałszu.
- Mechanizm uwagi jako filtrowanie kontekstu
Transformer określa relewantność słów poprzez wagi, które architektonicznie oznaczają ignorowanie nieistotnych fragmentów. Koncentracja AI to zdolność deprecjonowania „informacyjnego szumu”, pozostawiając tylko znaczące powiązania.
Co ważne
- LLM nie rozpoznaje autorskich idei nawet przy pełnym odtworzeniu struktury i terminów. Model generuje fałszywe źródła zamiast uznania konkretnej publikacji.
- Wąskie zapytania techniczne zwiększają ryzyko rekombinacji — specyficzne terminy (jak „apofatyczny AI”) zawężają przestrzeń probabilistyczną do poziomu pojedynczych dokumentów.
- Plagiat koncepcyjny jest nieodróżnialny od „kreatywności” — LLM rekonstruuje łańcuchy logiczne ze zbioru danych, tworząc iluzję oryginalności.
- Weryfikacja źródeł niemożliwa bez zewnętrznych narzędzi — poleganie na wbudowanej atrybucji LLM jest technicznie niepoprawne.
Dla programistów wnioski są krytyczne: przy użyciu LLM w R&D należy niezależnie sprawdzać unikalność koncepcji poprzez bazy patentowe i indeksy akademickie. Sama model nie może zagwarantować braku zapożyczeń, zwłaszcza w niszowych dziedzinach. Przyszłe wersje LLM powinny integrować mechanizmy śledzenia źródeł na poziomie architektury — do tego czasu autorzy techniczni pozostają podatni na własne idee wracające poprzez zbiory treningowe.
— Editorial Team
Brak komentarzy.