Proč vývojáři nedůvěřují AI-kontentu a kódu

Fenomén averze k AI: Proč vývojáři nedůvěřují obsahu generovanému umělou inteligencí

Aktivní zavádění generativní umělé inteligence do každodenních pracovních procesů vyvolává nejen nadšení, ale i značný odpor, zejména mezi zkušenými IT specialisty. Tato averze k takzvanému „neuronovému balastu“ se projevuje jak při interakci s texty, tak s programovým kódem generovaným modely LLM. V tomto článku se podíváme na hluboké příčiny tohoto fenoménu, opírajíce se o principy biologie, psychologie, teorie informací a praktické zkušenosti z vývoje, abychom pochopili, proč je obsah vytvořený AI často vnímán jako prázdný a nespolehlivý, a jak to ovlivňuje důvěru a odpovědnost v profesionální komunitě.

Kořeny nedůvěry: Biologické a ekonomické aspekty komunikace

V základu lidské interakce leží nevyřčená dohoda: každá komunikace vyžaduje od odesílatele investici kognitivních zdrojů — času, úsilí na formulaci, strukturování a přesvědčování. Tato investice staví v sázku reputaci autora, signalizující hodnotu sdělení. Příjemce zase investuje svou pozornost — jeden z nejvíce nedostatkových zdrojů současnosti. Pokud získané informace neospravedlňují vynaloženou pozornost, důvěra se naruší, což vyvolá podráždění a ztrátu zájmu. Neuronové sítě radikálně mění tuto dynamiku, nulují náklady na tvorbu obsahu. Autor může během několika minut vygenerovat text, který vyžaduje značný čas na přečtení. To porušuje implicitní dohodu, čímž vytváří nerovnováhu mezi úsilím tvůrce a spotřebitele. Pokud za textem nestojí skutečná intelektuální práce, jeho hodnota pro čtenáře se blíží nule. Stejná logika platí i pro kód: revize kódu zjevně generovaného AI, do kterého nebylo vloženo značné lidské úsilí, je vnímána jako neoprávněné přenášení odpovědnosti a plýtvání časem kvalifikovaného specialisty.

Evoluční psychologie a „Zlověstné údolí“ textu

Miliony let evoluce formovaly náš mozek k efektivnímu hodnocení jiných biologických agentů. Instinktivně vnímáme spolehlivost a záměry prostřednictvím neverbálních signálů: mimiky, intonace, pohybů. AI takové signály neposkytuje, což naši systém detekce hrozeb ponechává bez vstupních dat a interpretuje to jako potenciální nebezpečí. Tento mechanismus je podobný efektu „zlověstného údolí“ (uncanny valley) ve vizuálním vnímání: objekt, který je téměř identický s člověkem, ale ne zcela, vyvolává silnější odpor než zjevně nelidský. V kontextu textu neuronové sítě generují obsah, který je gramaticky správný, povrchně logický a stylisticky neutrální. Je dostatečně podobný lidské řeči, aby aktivoval rozpoznávací mechanismy, ale dostatečně se liší absencí jedinečných, organických znaků osobnosti, aby vyvolal úzkost. Mozek rozpoznává faleš, interpretuje ji jako hrozbu ze strany agenta, který se vydává za člověka, ale není jím.

Sociální psychologie a problém odpovědnosti

Důvěra ve společnosti je postavena na sociální smlouvě, která předpokládá vzájemnou zranitelnost a odpovědnost. AI však nelze pohnat k odpovědnosti, nemá reputaci, kterou by mohla ztratit. To vytváří takzvanou „accountability gap“ – mezeru v odpovědnosti. Na rozdíl od difúze odpovědnosti (efekt přihlížejícího), kde se odpovědnost rozptyluje mezi lidmi, zde se rozptyluje mezi člověkem a strojem, který „přijímá rozhodnutí“. Paradox spočívá v následujícím: na jedné straně pozorujeme „averzi k algoritmům“ – jedna chyba AI podkopává důvěru silněji než deset lidských. Na druhé straně je přítomna „automatizační zaujatost“ – tendence slepě následovat doporučení stroje. Současně nedůvěřujeme AI kvůli absenci odpovědnosti a spoléháme se na ni kvůli její zdánlivé jistotě a rychlosti. Tato mezera nám brání kriticky myslet a přijímat odpovědnost za svá rozhodnutí, delegujeme ji na nestranný, ale nezodpovědný systém.

Subjektivní vnímání: Prázdnota vydávaná za myšlenku

Z mého pohledu není klíčový problém v samotné neuronové síti, ale v prázdnotě, kterou se snaží vydávat za myšlenku. Člověk, který nemá co říct, používá AI jako štít k vygenerování průměrného obsahu, čímž zakrývá absenci vlastního postoje. Postoj je vždy riziko, volba a ochota obhajovat svůj názor, i když je chybný. Obsah od LLM, trénovaných na miliardách textů a kalibrovaných pomocí RLHF, je „váženým průměrem“. Není špatný ani dobrý, je prostě „nijaký“. Avšak skutečně cenné texty jsou vždy odchylkou od mediánu, výsledkem jedinečné zkušenosti, hluboké reflexe a osobního postoje autora. Právě jedinečnost, nikoli průměrnost, dodává textu hloubku a hodnotu. Absence tohoto osobního otisku činí text bezpohlavním, podobným řeči z nádražního amplionu, neschopnou vyvolat emocionální odezvu nebo stimulovat myšlenku.

Srovnání lidského a AI textu

| Charakteristika | Lidský text | AI text |

| :---------------------- | :-------------------------------------------------- | :-------------------------------------------------------- |

| Rytmus a struktura | Nepravidelný rytmus, rozmanitost délek vět. | Rovnoměrná struktura, stejné typy vět. |

| Metafory | Nečekané, někdy riskantní. | Bezpečné, klišé nebo chybějící. |

| Detailnost | Může mít mezery, spoléhá na inteligenci čtenáře. | Rozžvýkání každého kroku, „jako pro pětileté dítě“. |

| Postoj | Pevný, subjektivní, s argumenty. | Neutralita, „na jedné straně... na druhé straně...“. |

| Příklady | Živé, z osobní zkušenosti, nečekané. | Abstraktní, šablonovité, univerzální. |

Teorie informací: Odstraněná nejistota a nuda

Z pohledu teorie informací je LLM v podstatě „T9 na steroidech“, předpovídající následující tokeny na základě kontextu. Informace je definována jako odstraněná nejistota: čím méně je zpráva předvídatelná, tím více informací nese. Generování textu neuronovou sítí je proces vytváření průměrných sekvencí. Prakticky v nich chybí Shannonova entropie, což znamená minimální množství nových informací a maximální předvídatelnost. Lidský mozek naopak touží po překvapení, po nových vzorcích, které přinášejí hodnotu a eliminují nudu. Neuronová síť uspořádává již známé a předvídatelné, čímž vytváří obsah, který je sice správný, ale informačně prázdný. To vede k tomu, že texty AI se často zdají nudné a nezajímavé, jelikož nenabízejí nic nového ani jedinečného.

Jak rozpoznat obsah (a kód) generovaný AI

Zkušení uživatelé a vývojáři často intuitivně rozpoznávají obsah generovaný AI podle charakteristických znaků:

• Strukturální vzorce:

* Nemoc seznamů: Nadměrné používání odrážkových nebo číslovaných seznamů, i když by bylo vhodnější odstavcové uspořádání. AI se k nim často uchyluje, když má potíže s vytvořením souvislého vyprávění.

* Symetrické konstrukce: Opakující se fráze jako „Za prvé… Za druhé… Za třetí…“ s podezřele stejnou délkou bodů, vytvářející umělou symetrii.

* Fraktální opakovatelnost: Každá část textu se řídí stejným rigidním schématem (teze, vysvětlení, příklad, závěr), což vytváří monotónnost a předvídatelnost.

• Lexikální a sémantické znaky:

* Slova-paraziti: Nadměrné používání úvodních konstrukcí, jako jsou „Pojďme se na to podívat“, „Je důležité poznamenat“, „Tímto způsobem“, „Je třeba zdůraznit“, „Závěrem“, které maskují absenci hluboké myšlenky.

* Hyperkorektnost: Absence hovorových obratů, slangu, elips. Text zní příliš formálně, jako překlad oficiálního dokumentu, postrádající živou řeč.

* Zdánlivá plynulost: Množství úvodních slov a spojek, které vytvářejí iluzi plynulého vyprávění, ale skrývají mezery v logice nebo povrchnost argumentace.

* Prázdná přídavná jména: Používání obecných, neinformativních přídavných jmen jako „efektivní“, „pohodlný“, „výkonný“, „flexibilní“ bez konkretizace jejich významu.

* Absence rozporů: Lineární, absolutně bezrozporné vyprávění. Člověk může změnit názor, konfrontovat myšlenky, uznat složitost, zatímco AI vydává „ideálně“ konzistentní text.

* Falešná hloubka: Dlouhé odstavce, které se při pozorném čtení ukážou jako několikanásobné opakování téže myšlenky.

* Překompetentnost: Text s naprostou jistotou a bez nuancí popisuje zcela odlišné oblasti znalostí, což si žádný lidský expert nemůže dovolit.

V kontextu kódu se kromě nadbytečných komentářů často objevují „artefakty“, které naznačují generování. Například kód může být syntakticky správný a dokonce funkční pro jednoduché případy, ale zároveň ignorovat důležité aspekty: absenci zpracování výjimek, neefektivní algoritmy pro velká data, bezpečnostní zranitelnosti nebo úplnou absenci zohlednění okrajových případů. Takový kód může fungovat, ale zřídka je optimální, udržovatelný nebo bezpečný pro produkční prostředí, vyžadující značné přepracování a refaktorování ze strany člověka.

Co je důležité:

• Porušení komunikační smlouvy: AI nuluje náklady na tvorbu obsahu, což podkopává důvěru, jelikož čtenář investuje pozornost, zatímco autor minimální úsilí.
• „Zlověstné údolí“ textu: Texty AI se podobají lidským, ale absence jedinečných znaků osobnosti vyvolává odpor, podobný vnímání robotů, téměř identických s člověkem.
• Mezera v odpovědnosti (Accountability Gap): AI nenese odpovědnost za svá slova ani kód, což vytváří mezeru v důvěře a ztěžuje adekvátní hodnocení jejích rozhodnutí.
• Informační entropie: AI generuje předvídatelný, průměrný obsah s nízkou informační hodnotou, zatímco člověk hledá překvapení a jedinečnost.
• Znaky AI obsahu: Nadměrné seznamy, symetrické konstrukce, slova-paraziti, hyperkorektnost, falešná hloubka a překompetentnost – to vše jsou známky „neuronového balastu“ v textu a kódu.

— Editorial Team