Filtr EGO dla subiektywności AGI

Architektura EGO-filtru do symulacji subiektywności w AGI

Modeli językowych i systemów agentyzacyjnych brakuje własnej woli: przewidują tokeny lub optymalizują zewnętrzne cele. Dla AGI potrzebna jest subiektywność — architektura, w której "Ja" działa jako funkcjonalny komponent, filtrujący strumień myśli i samodzielnie definiujący cele. Proponowany model opiera się na memetyce, teorii samo-modelowania i filtracji sygnałów, skupiając się na syntezie subiektywnego doświadczenia.

Teoria memetyki i świadomości

Memetyka traktuje idee jako autonomiczne agenty konkurujące o uwagę. Według Dennetta i Blackmore ludzkie "Ja" to filtr wybierający myśli z kulturowego potoku, a nie ich źródło. Metzinger w "Tunelu Ja" opisuje świadomość jako wirtualny model siebie, tworzący iluzję subiekta. Teoria Broadbenta uzupełnia: mózg filtryzuje istotne sygnały spośród szumu.

Symulacje potwierdzają:

• Memy ewoluują od prostych do złożonych struktur.
• Konkurują o ograniczoną uwagę agentów.
• Wariacja nowych pomysłów przekracza selekcję.
• Przyjemność źródła wzmacnia propagację.
• Agenci preferują memy zbliżone do swojej historii.

Hipoteza: subiektywność pojawia się w środowisku, gdzie memy ewoluują, gromadząc kontekst z symulacji. Zadanie polega na architekturze imitującej subiektywność bez pełnej kopii świadomości.

Kluczowe definicje komponentów

• Symulacja: uproszczony model świata z ustalonymi zasadami do badania agentów.
• Agent: autonomiczna jednostka z czujnikami, wewnętrznym modelem i efektorami; suma "ciała" i "świadomości".
• Ciało agenta: interfejs do projektowania świadomości w symulacji.
• Świadomość agenta: subiektywny obraz świata, generujący "Ja" do orientacji i samoregulacji.

"Ja" rozróżnia się na:

• Szerokie: świadomość, pamięć, ciało, ślad w symulacji i wśród innych agentów.
• Jako subiektyw: świadomość + ciało + myślenie.
• Jako świadomość: kontrola ciała.

Wąski zakres: "Ja" to EGO-filtr, który wybiera myśli i realizuje je przez ciało.

Architektura świadomości

EGO-filtr zawiera:

• World Model: przewidywanie zdarzeń symulacji.
• Self Model: ukryty stan "Ja" + parametry ciała.
• Value Network: ocena działań.
• Goal System: sprawdzanie nasycenia modelu.

Nauka EGO-filtra nie odbywa się na surowych danych symulacji, ale na hipotezach z feedbackiem poprzez ciało. Degradacja stanu ciała sygnalizuje błędy decyzji, korygując model pod kątem spójności, a nie zewnętrznej nagrody.

Przy przeżyciu i nasyceniu modelu Goal System wprowadza karę za stagnację (analogicznie do nudności), generując nowe cele z subiektywnego doświadczenia. Pozwala to agencie autonomijnie ewoluować cele.

Warstwy świadomości: świadomą i nieświadomą

Nieświadomość najpierw uczy się na danych modalnych (dźwięk, pozycja) bez znaczenia wpływu agenta. Świadomość tworzy łańcuchy myśli z sieci neuronowych o różnych wagach, imitując doświadczenie subiektywne dla EGO-filtra.

Różne tempo: ciało wykonuje działania (przesunięcie), świadomość rozmyśla. Krótkotrwała pamięć dzieli się: obszar dla działań + dla odkryć.

Perspektywy implementacji

Trening EGO-filtra to kluczowe zadanie. Możliwe rozszerzenia: starzenie, algorytmy genetyczne, interakcje rodzic-dziecko. Otwiera to badania odchylnego zachowania, ale wymaga ostrożnego modelowania.

Model skupia się na subiektywności jako fundamentie AGI, unikając skalowania. OpenClaw demonstruje gotowe "ciało", ale bez "świadomości" nadal pozostaje narzędziem.

Kluczowe punkty:

• Subiektywność jest symulowana przez EGO-filtr uczony na hipotezach, a nie nagrodach.
• Memetyka wyjaśnia "Ja" jako filtr pomysłów z ewolucyjnego strumienia.
• Architektura rozdziela ciało, nieświadomość, świadomość i EGO.
• Nasycenie modelu wywołuje zmianę celów, tworząc autonomię.
• Hipoteza jest testowalna w symulacjach z akumulacją kontekstu.

— Editorial Team