Model atrofie agentnosti při AI-delegování

Dynamika atrofie lidské agenty v éře umělé inteligence

Lidská agenta – schopnost samostatného rozhodování – je náchylná k atrofii při nadměrném delegování úkolů umělé inteligenci. Formální dynamický model ukazuje, jak již minimální delegování rozhodování (D_J > 0) vede k nevratnému kolapsu agenty (A → 0) na horizontech 15, 50 a 150 let. Klíčový rozdíl: delegování výpočtů (D_C) způsobuje atrofii 15–20krát pomaleji než delegování rozhodování.

Model zahrnuje neurobiologické mechanismy synaptického pruningu a autokatalytickou povahu agenty, nabízí ověřitelné hypotézy pro kognitivní vědu i bezpečnost AI.

Rozlišení delegování: výpočty vs. rozhodování

Delegování úkolů AI se dělí na ortogonální kategorie s různými koeficienty atrofie:

• Výpočty (D_C): hledání dat, optimalizace, generování konceptů. AI funguje jako nástroj, který je třeba ověřit. Atrofie je minimální (β_C ≈ 0,05).
• Rozhodování (D_J): výběr variant, stanovení cílů, hodnocení rizik bez ověření. Přechod od autora ke klientovi. Atrofie je vysoká (β_J ≈ 0,8).

Asymetrie vyplývá z neurobiologie: rozhodování vyžaduje integraci mnoha mozkových oblastí, výpočty pouze lokální dovednosti.

Formalizace dynamiky agenty

Agenta A ∈ [0,1] se modeluje jako autokatalytický proces:

\frac{dA}{dt} = A(1 - A) \cdot \big[ \alpha(1 - D_J) - \beta_J D_J - \beta_C D_C \big]

• Logistický činitel A(1-A) omezuje A na interval [0,1], s maximální citlivostí při A=0,5.
• Kladný člen α(1 - D_J): trénink při samostatném rozhodování (α ≈ 0,1).
• Záporné členy: atrofie z D_J (β_J D_J) a D_C (β_C D_C).

Parametry odrážejí empirická data: β_J >> β_C kvůli složitosti rozhodování.

Výsledky simulací podle časových horizontů

Model byl simulován s počáteční hodnotou A(0)=1 pro D_J(0) od 0 % do 30 %.

15letý horizont

| D_J(0) | A(15) | Režim |

|--------|--------|--------------|

| 0% | 0,98 | Udržení |

| 10% | 0,97 | Udržení |

| 30% | 0,92 | Udržení |

Iluze stability: ztráty jsou nepozorované.

50letý horizont

| D_J(0) | A(50) | Režim |

|--------|--------|---------------|

| 5% | 0,868 | Udržení |

| 10% | 0,733 | Přechodný |

| 20% | 0,343 | Kolaps |

| 30% | 0,000 | Kolaps |

Kritický práh: 7,5–10 %.

150letý horizont

Jakékoli D_J(0) > 0 % → A(150) = 0 (kolaps). Práh se blíží nule.

Pomalá katastrofa: klíčové závěry

• Pouze D_J = 0 zaručuje udržení A na všech horizontech.
• Při D_J > 0 je kolaps nevyhnutelný, čas závisí na úrovni: 30 % → 20–25 let; 5 % → 100–150 let.
• D_C efekt zvyšuje, ale slabě.

D_J se měří ne po počtu dotazů, ale podílem kognitivní zátěže (složitost × odpovědnost × novota).

Příklady vah:

• Výběr filmu: 0,1
• Běžný e-mail: 1
• Investiční rozhodnutí: 10+

Praktické implikace pro kognitivní odolnost

Model generuje hypotézy:

• Individuální úroveň: limit D_J < 5 % podle zátěže. Ověřit více než 95 % rozhodnutí ručně.
• Profesionální: audit delegování ve týmech (např. vývoj softwaru).
• Vzdělávací: trénink rozhodování prostřednictvím protokolů 'AI + lidská kritika'.
• Bezpečnost AI: návrh modelů s 'průhledností rozhodování' pro snížení důvěry bez ověření.

Empirická ověření: dlouhodobá studia A u úkolů (Ravenovy matice + reálné případy) před a po interakci s AI.

Co je důležité

• Agenta je proces, který se atrofuje podle principu 'použij nebo ztrati'.
• D_J >> D_C podle ničivosti (β_J/β_C ≈ 16).
• Kolaps není viditelný za 15 let, ale je nevyhnutelný za 50+.
• Práh D_J → 0 při t → ∞.
• Měřit D_J podle kognitivní zátěže, nikoli času.

— Editorial Team