Detektory AI v roce 2026: skutečná přesnost a zranitelnosti | Analýza ICLR

# ICLR zamítl 497 článků: proč jsou detektory AI v roce 2026 falešnou jistotou

Koncem března 2026 konference ICLR zamítla 497 vědeckých prací kvůli podezření na použití AI při psaní recenzí. Nezávislé studie však ukazují: současné detektory AI fungují s přesností o 15–20 % nižší, než je uváděno, a lze je obejít během 30 sekund. Navíc se tyto systémy systematicky mýlí na úkor nerodilých mluvčích angličtiny. Rozbor ukazuje, proč tato situace zpochybňuje metodologii vědeckých konferencí.

Jak fungují detektory AI: tři technické základy

Současné detektory AI vycházejí ze tří zásadně odlišných architektur. Všechny analyzují text a udávají pravděpodobnost generování AI, ale algoritmy zpracování se liší kardinalně:

• Systémy založené na perplexitu (GPTZero, ZeroGPT). Vypočítávají perplexitu – míru předvídatelnosti textu pro jazykový model (obvykle GPT-2). Texty od AI mají nízkou perplexitu díky statistické homogennosti. Metoda je zranitelná vůči variabilitě délek vět a stylistickým nedokonalostem.
• Kontrastní přístup (Binoculars). Porovnává perplexitu dvou modelů: základního a doladěného. Rozdíl v ukazatelích naznačuje původ textu. Přesnost je o 10–15 % vyšší, ale vyžaduje složitou kalibraci modelů.
• Nesítové klasifikátory (Originality.ai, Copyleaks). Využívají RoBERTa nebo analogy, natrénované na datech „člověk vs. AI". Soubory modelů (jako v TriBoost) teoreticky dosahují 99% přesnosti, ale jen v laboratorních podmínkách.

Klíčový systémový nedostatek všech tří typů: detektory nezachycují samotný fakt generování AI, ale statistické vzorce typické pro texty od AI. Tento zásadní rozdíl činí systémy zranitelnými vůči manipulacím.

Deklarované vlastnosti versus reálná data

V březnu–dubnu 2026 provedly nezávislé laboratoře (TextShift, Walter Writes, UndetectedGPT) testování komerčních detektorů na smíšených korpusech z 500–2000 textů. Výsledky se systematicky liší od marketingových tvrzení:

• Originality.ai: uvedeno 96–99 % → reálná přesnost 84–88 %
• Pangram: uvedeno 99,5 % → reálná přesnost 81–87 %
• GPTZero: uvedeno 98 % → reálná přesnost 65–72 %
• Copyleaks: uvedeno 99 % → reálná přesnost 78–82 %
• ZeroGPT: uvedeno 98 % → reálná přesnost 60–68 %

Rozdíl 15–20 procentuálních bodů není výjimkou, ale pravidlem. Důvodů je dva: za prvé, testovací datasety detektorů neodrážejí skutečné rozmanití textů, za druhé, vývojáři úmyslně optimalizují metriky pro laboratorní podmínky. Například Pangram Labs ve svém březnovém reportu přiznává, že jejich model dosahuje 99,5% přesnosti jen na tréninkových korpusech a ztrácí 12–15 % na reálných akademických textech.

Obcházení detektorů: lidský faktor za 30 sekund

Od prosince 2025 se rychle rozvíjejí „humanizátory“ – prompty pro LLM, které mění statistické vlastnosti textu. Technicky přidávají:

• Variabilitu délek vět
• Nelogické přechody a hovorové výrazy
• Typografické nedokonalosti (navíc čárky, útržky vět)
• Stylistickou „nečistotu“ (vyhýbání se šablonám jako „je třeba poznamenat")

Efekt humanizace prudce snižuje přesnost detektorů:

• Originality.ai: z 88 % na 7,8 %
• Copyleaks: z 82 % na 6,2 %
• Turnitin: z 79 % na 5,1 %
• GPTZero: z 72 % na 4,3 %
• ZeroGPT: z 65 % na 3,1 %

Příklad humanizačního promptu:

HUMANIZE_PROMPT = """
Rewrite the following text so it sounds like a human draft.
You may: inconsistency, uneven rhythm, colloquial inserts,
a little uncertainty, sometimes dlinnye sentences, sometimes obryvki.
Withkeep the meaning, but change structure. Not ispolzuy typical templates
like «in-first, in-second», «takim way», «it should be noted».
"""

V experimentu s akademickými recenzemi ukázal humanizovaný text pravděpodobnost AI 6–14 % v detektorech – výsledek shodný s lidským textem. Pro zkušeného uživatele to trvá 30 sekund bez speciálních dovedností.

Systémová chyba vůči nerodilým mluvčím angličtiny

Stanfordská studie (Liang et al., 2023) a následné práce odhalily kritický problém: detektory AI vykazují silný bias vůči nerodilým mluvčím angličtiny. Data Pangram Labs (březen 2026):

• 61 % esejů od nerodilých mluvčích angličtiny označí alespoň jeden detektor jako generované AI
• U rodilých mluvčích je míra falešných poplachů 5–7 %
• Důvody: nerodilí píší „rovnoměrněji“, s menší jazykovou redundancí, což je statisticky blíže textům od AI

Pangram Labs tvrdí, že jejich nový model snížil false positive rate pro ESL na 1,2 %. Nezávislá verifikace na velkých korpusech však chybí – data jsou příliš čerstvá. Vzhledem k tomu, že 70 % účastníků ICLR jsou nerodilí mluvčí angličtiny (Čína, Indie, Rusko, Brazílie), je vysoce pravděpodobné, že mezi 497 zamítnutými pracemi je významný podíl recenzí napsaných lidmi, nikoli AI.

Důsledky pro vědeckou komunitu

Situace s detektory AI v roce 2026 vede k třem zásadním problémům:

• Metodologická nevhodnost hromadného odstraňování. Detektory nedokážou spolehlivě odlišit humanizovaný text od AI od lidského a zároveň trestají nerodilé mluvčí.
• Etické riziko. Rozhodnutí založená na detektorech (zamítnutí publikace, diskvalifikace) mohou zničit kariéry bez důvěryhodných důkazů.
• Technický slepý uliček. Jak dokázala práce Sadasivan et al., úkol spolehlivého detekování generování AI pro současné LLM je matematicky nerealizovatelný bez vestavěného watermarku.

Komercní poskytovatelé (včetně OpenAI) watermarking úmyslně vypínají, protože snižuje retenci uživatelů. Bez systémové podpory ze strany generativních modelů čeká nás éra nedůvěry k textovému obsahu.

Co je důležité

• Současné detektory AI vykazují reálnou přesnost o 15–20 % nižší než marketingová tvrzení
• Humanizace textu jednoduchým promptem snižuje přesnost detektorů na úroveň házení mincí (3–8 %)
• Systémová chyba vůči nerodilým mluvčím angličtiny vede k 61 % falešných poplachů
• Používání detektorů jako důkazů porušení etiky vědeckých publikací je metodologicky chybné
• Spolehlivé detekování generování AI bez podpory LLM je technicky nemožné

V příštích letech budou vědecké konference a vzdělávací instituce muset přehodnotit politiku kontroly textů. Důraz se musí posunout od technického skenování k expertové evaluaci a transparentnosti výzkumných metod. Zatím epizoda s ICLR ukazuje, jak neochota uznat limity technologií škodí samotné ideji vědecké poctivosti.

— Editorial Team