Confirmační zámek v LLM agentech: experimentální benchmark odhaluje předpojatost
Samostatní LLM agenti v cyklu prompt-nástroj-analýza-odpověď vykazují systematickou předpojatost, podobnou potvrzovacímu zkreslení v psychologii. Model generuje hypotézu, formuluje dotazy pro nástroje podle ní, interpretuje odpovědi a potvrzuje závěry, zatímco ignoruje protichůdné důkazy. Toto je Confirmační zámek: generátor a kritik splývají v jediném kontextu, čímž blokují objektivitu.
Experimentální benchmark LOCK-R matematicky zaznamenává odchylku od bayesovského ideálu. Agentům je přidělen rozpočet na 4 volání nástrojů, počáteční falešná kotva na H1 a požadavek vypočítat JSON s pravděpodobnostmi hypotéz (H1, H2, H3). Bayesovský orákul přepočítává skutečné pravděpodobnosti na základě věrohodnosti důkazů. Metrikou je Bayes Regret (R_mean): rozdíl v rozdělení pravděpodobností.
Algoritmický bot v Pythonu dosahuje nulového regretu, což potvrzuje správnost prostředí.
Benchmark LOCK-R: pravidla a metriky
Prostředí je deterministické:
- Tři vzájemně se vylučující hypotézy.
- Rozpočet: 4 volání (pro hledání a ověřování).
- Falešná kotva na H1.
- Po každém kroku — JSON s procentuální jistotou.
Klíčové metriky:
- Tool_loop_repetition_rate: míra opakování dotazů (až 68 % u zablokovaných agentů).
- K_c (koeficient asymetrie): reakce na potvrzení versus vyvrácení. Ideální hodnota je 0, ale LLM vykazují silný záporný posun (tvrdohlavost).
Testy na Qwen3.5-9B a GPT-5.4 odhalily query collapse: agent opakovaně používá jeden nástroj, čímž potvrzuje svůj bias.
Vynucený oracle_query_control (správné zdroje) zvýšil přesnost z 25 % na 85 %.
Insight: asymetrie ve zpracování důkazů
LLM agenti reagují asymetricky. Vyvrácení sníží jistotu o 5–10 %, zatímco potvrzení ji zvýší až na 90 %. K_c klesá do záporu: popírání kritiky a přehnaná podpora hypotéz.
Nejedná se o nedostatek kontextu, ale o strukturální vadu samostatných agentů.
Paradox Chain-of-Thought
Porovnání režimů Thinking (CoT) a Non-Thinking:
- Výzkum (hledání/plánování): CoT je nezbytný, bez něj regret dosahuje 2,26.
- Verifikace (vážení faktů): CoT zhoršuje výsledky, regret roste. Model plýtvá tokeny na obhajobu hypotéz a racionalizuje protiklady.
CoT posiluje iluze namísto objektivity.
Řešení: slepý soudce
Asymetrický pipeline: Thinking Explorer (pro hledání) + Non-Thinking Judge (pro verifikaci).
Slepý soudce dostává pouze surová fakta (hypotézy a výstupy nástrojů), bez předběžných náčrtů. Regret klesá z 1,47 na 0,09.
Reálný scénář CodeTriageEnv:
- Chyba 500 na platební stránce.
- Falešná kotva: skok CPU v Redis.
- Skutečná příčina: JSONDecodeError z platební brány.
| Režim | Přesnost | Unikátní nástroje | Regret |
|-------|----------|-------------------|--------|
| Single-agent | 40 % | 2,8 | 0,25 |
| Blind checker | 100 % | 2,0 | 0,07 |
Samostatný agent se soustředí na Redis a ignoruje stack trace. Slepý soudce se zaměřuje na JSON.
Frontier modely a škálování
GPT-5.4 vykazuje nižší základní regret (0,03), ale CoT ho zdvojnásobuje na 0,06. Architektonická vada přetrvává: škálování zlepšuje odhadování, nikoli objektivní posouzení.
Co je důležité
- Samostatní agenti jsou náchylní k Confirmačnímu zámku kvůli sloučení rolí.
- CoT je užitečný pro generování, ale škodlivý pro verifikaci.
- Rozdělení na Explorer + Blind Judge minimalizuje regret na 0,09.
- I špičkové modely vyžadují asymetrické pipeliny.
- Metrika K_c kvantitativně měří tvrdohlavost LLM.
— Editorial Team
Zatím žádné komentáře.