AGI 주관성을 위한 EGO-filter

AGI의 주체성 시뮬레이션을 위한 에고 필터 아키텍처

현재의 언어 모델과 에이전트 시스템은 여전히 자체적인 의지 없이 토큰을 예측하거나 외부 목표를 최적화하는 도구에 불과합니다. 범용 인공지능(AGI)을 구현하려면 진정한 '주체성'이 필수적입니다. 즉, '나(I)'가 동적인 구성 요소로 작동하며 아이디어를 걸러내고 목표를 자율적으로 정의하는 아키텍처가 필요합니다. 본 논문에서 제안하는 모델은 밈학, 자기 모델링 이론, 신호 필터링 이론에 기반하여 주관적 경험의 합성에 중점을 둡니다.

주체성의 이론적 기반

밈학은 아이디어를 주목을 얻기 위해 경쟁하는 자율적 개체로 간주합니다. 데닛과 블랙모어에 따르면, 인간의 '나'는 문화적 흐름 속에서 생각을 선택하는 필터 역할을 할 뿐 그 기원은 아닙니다. 메칭어의 《자아 터널》은 의식을 주체성의 착시를 만들어내는 가상의 자기 모델로 설명합니다. 브로드벤트의 선택적 주의 이론은 이를 보완하며, 뇌가 노이즈 속에서 의미 있는 신호를 걸러낸다고 봅니다.

시뮬레이션 결과는 다음과 같습니다:

• 밈은 단순한 구조에서 복잡한 구조로 진화합니다.
• 제한된 에이전트의 주의력을 두고 경쟁합니다.
• 아이디어의 새로움은 선택 압력을 능가합니다.
• 출처의 신뢰도가 확산 속도를 증폭시킵니다.
• 에이전트는 자신의 과거 이력과 부합하는 밈을 선호합니다.

가설: 밈이 진화하고 시뮬레이션을 통해 맥락이 축적되는 환경에서 주체성이 발현됩니다. 목표는 완전한 의식을 복제하지 않으면서도 주체성을 모방하는 아키텍처를 구축하는 것입니다.

핵심 구성 요소 정의

• 시뮬레이션: 에이전트 행동을 연구하기 위해 고정된 규칙을 적용한 단순화된 세계 모델.
• 에이전트: 센서, 내부 모델, 효과기를 갖춘 자율적 개체. 본질적으로 '신체'와 '마음'의 합.
• 에이전트 신체: 의식이 시뮬레이션 내로 투사되는 인터페이스.
• 에이전트 의식: 방향 설정과 자기 조절을 위해 '나'라는 감각을 생성하는 세계의 주관적 표상.

'나'는 수준에 따라 다음과 같이 구분됩니다:

• 광의적: 의식, 기억, 신체, 시뮬레이션 내 존재감, 타 에이전트에 대한 영향력.
• 주체로서: 의식 + 신체 + 사고.
• 정신으로서: 신체에 대한 통제권.

협의의 정의: '나'는 에고 필터(Ego-Filter)입니다. 즉, 생각을 선택하고 신체를 통해 실행하는 메커니즘입니다.

의식 아키텍처

에고 필터는 다음을 포함합니다:

• 세계 모델: 시뮬레이션 내 사건을 예측합니다.
• 자기 모델: '나'의 숨겨진 상태와 신체 매개변수.
• 가치 네트워크: 행동을 평가합니다.
• 목표 시스템: 모델의 포화 상태를 점검합니다.

에고 필터 학습은 원시 시뮬레이션 데이터가 아닌, 신체를 통한 피드백으로 검증된 가설에 기반합니다. 신체 성능 저하는 잘못된 결정을 의미하며, 이는 단순한 외부 보상이 아닌 일관성을 향해 모델을 조정하도록 유도합니다.

생존과 모델 포화 상태에 도달하면, 목표 시스템은 정체에 대한 페널티(권태감과 유사)를 부과하여 주관적 경험에서 파생된 새로운 목표를 촉발합니다. 이를 통해 에이전트는 목표를 자율적으로 진화시킬 수 있습니다.

의식의 계층: 의식과 무의식

무의식 계층은 에이전트의 영향력이 레이블링되지 않은 다중 양식 데이터(소리, 위치 등)로 사전 학습됩니다. 의식 계층은 가중치가 다른 신경망을 사용하여 사고의 연쇄를 구성하며, 에고 필터를 위한 주관적 경험을 시뮬레이션합니다.

타이밍의 차이: 신체는 행동(이동)을 실행하는 반면, 의식은 성찰합니다. 단기 기억은 두 영역으로 분할됩니다. 하나는 행동 실행을, 다른 하나는 통찰을 담당합니다.

향후 구현 전망

에고 필터 학습은 여전히 핵심 과제입니다. 가능한 확장 방향으로는 노화, 유전 알고리즘, 부모-자식 상호작용 역학 등이 있습니다. 이는 일탈 행동 연구의 문을 열지만 신중한 모델링이 요구됩니다.

본 모델은 단순한 규모 확장(Scale-up)을 지양하고 주체성을 AGI의 기반으로 삼습니다. OpenClaw은 기능적인 '신체'를 보여주지만, '의식'이 부재한 상태에서는 여전히 도구에 불과합니다.

핵심 요약:

• 주체성은 보상이 아닌 가설 기반 학습을 통해 에고 필터로 시뮬레이션됩니다.
• 밈학은 '나'를 진화하는 아이디어의 필터로 규정합니다.
• 아키텍처는 신체, 무의식, 의식, 에고를 명확히 분리합니다.
• 모델 포화는 목표 전환을 촉발하여 자율성을 가능하게 합니다.
• 가설은 맥락이 축적된 시뮬레이션 환경에서 검증 가능합니다.

— Editorial Team