Halucinace LLM: artefakty komprese dat

Halucinace v LLM jako artefakty lossy komprese: informační teorie

LLM fungují jako lossy kompresory dat: předpověď dalšího tokenu je ekvivalentní kompresi obrovského korpusu textu do parametrů modelu. Podle Shannonovy věty kvalita předpovědí přímo určuje míru komprese. Halucinace vznikají při dekompresi, když model obnovuje ztracené informace věrohodnými, ale nepřesnými fragmenty.

Matematický základ předpovědi a komprese

Na základní úrovni LLM implementují předpověď distribuce dalšího tokenu na základě kontextu. To je matematicky identické s aritmetickým kódováním, kde pravděpodobnostní prediktor minimalizuje počet bitů na entropii zdroje.

def predict_next_token(context: str) -> Distribution:
    """Předpověď tokenu = dekomprese komprimované reprezentace"""
    pass

Váhy modelu uchovávají komprimované znalosti z trénovací sady. Zvětšení modelu zvyšuje bitrate, snižuje ztráty, ale neodstraňuje je úplně.

Srovnání s JPEG:

| JPEG | LLM |

|------|-----|

| Velké bloky | Obecné vzory |

| Jemné detaily | Vzácné fakty |

| Artefakty na hranách | Halucinace |

| Kvalita 1–100 % | Parametry 7B–405B |

Proč LLM vynikají v kódu, ale jsou slabé v matematice

Kód se komprimuje efektivně díky striktní syntaxi a opakujícím se strukturám. Vzory jako cykly for i in range(n) se zachovávají téměř beze ztrát, podobně jako velké oblasti na obrázku.

Matematika trpí ztrátou přesných čísel – jemných detailů bez vzorů. Příklad:

> 17 × 38?
GPT: 646  # správně

> 1847 × 9283?
GPT: 17,143,301  # chyba, správně: 17,143,501

Vzácné kombinace způsobují artefakty, podobně jako rozmazání čísel na JPEG.

• Kód: Vysoká kompresibilita díky omezenému slovníku a strukturám.
• Matematika: Vyžaduje přesné uchování nebo výpočty, nedostupné pro lossy přístup.
• Fakta: Vzácné události se ztrácejí jako první.

Temperature jako regulátor artefaktů

Parametr temperature řídí vzorkování z distribuce:

# temperature=0.0: argmax, ostré artefakty
# temperature=0.7: rovnováha pravděpodobností
# temperature=1.5: šum, 'kreativita'
# temperature→∞: náhodnost

Nízká teplota zesiluje determinismus, ale fixuje artefakty. Vysoká přidává variabilitu, rozmazává ztráty.

Techniky minimalizace artefaktů z hlediska komprese

Metody práce s LLM jsou přehodnocovány optikou komprese:

• RAG: Vložení lossless dat do kontextu, obcházení komprimovaných reprezentací.
• Fine-tuning: Překódování s prioritami na cílové domény.
• Prompt inženýrství: Nasměrování dekodéru k relevantním blokům latentního prostoru.
• RLHF: Optimalizace pro subjektivní kvalitu, jako psychoakustické modely v audiu.
• System prompt: Nastavení profilu dekodéru.

| Technika | Analogie v kompresi |

|---------|---------------------|

| RAG | Lossless vložení |

| Fine-tuning | Nový profil kodeku |

| Prompt | Seek v komprimovaném souboru |

Nemožnost úplné eliminace halucinací

Artefakty jsou nevyhnutelné při kompresi pod entropií dat. Zvětšení modelu (bitrate) nebo externí paměť snižuje ztráty, ale 10 TB do 70 GB vždy zanechá mezery. Sliby 'úplného řešení' ignorují informační teorii.

Lidská paměť je analogická: konfabulace vyplňuje ztráty věrohodnými detaily kvůli omezením úložiště.

Co je důležité

• Halucinace nejsou chyby, ale artefakty lossy dekomprese podle Shannona.
• Zvětšení parametrů snižuje, ale neodstraňuje ztráty.
• RAG a fine-tuning jsou nástroje lokální kompenzace artefaktů.
• Kód a vzory se zachovávají lépe než přesné fakty.
• Temperature reguluje viditelnost artefaktů, ne jejich přítomnost.

LLM jako umělá paměť: efektivní pro obecné vzory, děravá pro detaily. Inženýrství s ohledem na kompresní povahu je klíčem k spolehlivým aplikacím.

— Editorial Team