Neuroscience for AI — Ch.11: Chapter 11. Neuroscience for AGI [KR]

STATERA Library · Volume 44 · Chapter 11 · KR
Source: https://github.com/Statera-Library/01_Vol_44_Neuroscience_for_AI/blob/main/Chapter_11_Neuroscience_for_AGI/Chapter_11_Neuroscience_for_AGI_KR.md

Volume 44 Neuroscience for AI

Chapter 11. Neuroscience for AGI

11.00 AGI Context

인공 일반 지능(Artificial General Intelligence, AGI)은 좁게 정의된 특정 영역에서만 작동하는 것이 아니라, 광범위한 지적 과제(Intellectual Tasks)를 수행하면서 유연하게 적응할 수 있는 인공 시스템이라는 개념을 의미합니다. 이 장의 구조에서 AGI는 뉴런(Neurons), 학습(Learning), 예측 처리(Predictive Processing), 기억(Memory), 내부 모델(Internal Models), 의식 관련 메커니즘(Consciousness-Related Mechanisms), 인공지능 에이전트 아키텍처(AI-Agent Architectures)에 대한 앞선 논의를 바탕으로 신경과학(Neuroscience)의 관점에서 살펴봅니다.

신경과학적 맥락(Neuroscience Context)이 중요한 이유는 생물학적 지능(Biological Intelligence)이 지각(Perception), 기억, 학습, 추론(Reasoning), 의사결정(Decision Making), 운동 제어(Motor Control), 적응(Adaptation), 사회적 상호작용(Social Interaction)을 하나의 아키텍처 안에서 결합하는 가장 완전한 기존 사례이기 때문입니다. 목표는 뇌를 문자 그대로 복제하는 것이 아니라, 다양한 전문화된 메커니즘들이 어떻게 협력하여 유연하고 일반적인 행동을 만들어내는지를 설명할 수 있는 계산 원리(Computational Principles)를 파악하는 것입니다.

인간 지능(Human Intelligence)은 하나의 범용 추론 모듈(Universal Reasoning Module)에 의해 통제되기보다는 매우 분산된 형태로 구성됩니다. 시각 시스템(Visual Systems)은 복잡한 감각 구조를 처리하고, 기억 시스템(Memory Systems)은 다양한 형태의 경험을 보존하며, 전전두엽 네트워크(Prefrontal Networks)는 계획과 제어를 지원하고, 기저핵(Basal Ganglia)은 행동 선택(Action Selection)에 기여하며, 감각운동 시스템(Sensorimotor Systems)은 환경과의 상호작용을 조정합니다. 일반 지능(General Intelligence)은 전문화를 제거하는 것이 아니라 이러한 전문화된 시스템들의 조정을 통해 형성됩니다.

이러한 관찰은 AGI가 모듈성(Modularity)과 통합(Integration)을 동시에 필요로 할 가능성을 시사합니다. 전문화된 구성 요소는 지각, 언어(Language), 공간 추론(Spatial Reasoning), 기억 검색(Memory Retrieval), 예측(Prediction), 계획(Planning), 운동 제어를 효율적으로 수행할 수 있으며, 공유 메커니즘(Shared Mechanisms)은 이들 사이에서 정보가 이동하도록 합니다. 이러한 아키텍처는 여러 독립적인 인공지능 모델을 단순히 모아 놓은 것과 다르며, 표상(Representations), 목표(Goals), 불확실성(Uncertainty), 피드백(Feedback)이 여러 기능에 걸쳐 지속적으로 조정되어야 합니다.

학습(Learning)은 일반 지능을 위한 또 하나의 핵심 요구사항입니다. 생물학적 유기체(Biological Organisms)는 하나의 고정된 학습 단계 이후 영구적으로 배치되는 방식에만 의존하지 않습니다. 환경과 상호작용하면서 지속적으로 지식을 획득하고, 내부 모델을 갱신하며, 중요한 기억을 공고화(Consolidation)하고, 기술을 정교화하며, 환경이 변화하면 행동을 적응시킵니다. 따라서 AGI에서는 기존에 획득한 능력을 보존하면서 지속적으로 학습하고 기존 지식과 새로운 지식 사이의 파괴적 간섭(Destructive Interference)을 방지하는 지속 학습(Continual Learning)이 중요한 문제가 됩니다.

기억(Memory) 역시 일반 지능이 시간에 걸친 연속성(Continuity)을 필요로 하기 때문에 근본적으로 중요합니다. 작업 기억(Working Memory)은 현재 수행 중인 과제에 필요한 정보를 유지하고, 일화 기억(Episodic Memory)은 구체적인 경험을 보존하며, 의미 기억(Semantic Memory)은 일반화된 지식을 조직하고, 절차 기억(Procedural Memory)은 학습된 기술을 지원합니다. 앞서 다룬 신경과학적 구조에서는 이러한 기억 시스템을 서로 구별되면서도 상호작용하는 메커니즘으로 다루며, 이는 통합된 인공 기억(Integrated Artificial Memory)을 고려하기 위한 중요한 기반을 제공합니다.

예측 처리(Predictive Processing)와 내부 모델(Internal Models)은 AGI로 연결되는 또 다른 중요한 다리를 제공합니다. 지능적 행동(Intelligent Behavior)은 현재 관찰에 반응하는 것만으로는 충분하지 않으며, 에이전트는 숨겨진 상태(Hidden States)를 추정하고 상황이 어떻게 변화할지를 예측하며 가능한 행동의 결과를 평가해야 합니다. 내부 모델은 시스템이 환경과 자신의 상호작용을 함께 표상하도록 하여 시뮬레이션(Simulation), 계획, 예상(Anticipation), 그리고 예측과 실제 관찰이 일치하지 않을 때의 수정을 지원합니다.

월드 모델(World Models)은 객체(Objects), 사건(Events), 동역학(Dynamics), 공간적 관계(Spatial Relationships), 가능한 미래 상태(Future States)에 대한 구조화된 표상(Structured Representations)을 인공지능 에이전트가 유지할 수 있도록 함으로써 이러한 원리를 확장합니다. 충분히 강력한 월드 모델은 단순히 원시 감각 신호(Raw Sensory Signals)를 예측하는 것을 넘어 여러 영역에서 추론을 지원해야 합니다. 따라서 일반 지능은 즉각적인 지각에서 추상적 개념(Abstract Concepts)과 장기적인 인과 구조(Long-Term Causal Structure)에 이르는 여러 수준의 유용한 규칙성을 포착하는 표상에 의존합니다.

체화(Embodiment) 역시 AGI를 바라보는 신경과학적 관점에서 중요합니다. 생물학적 지능은 지각과 행동 사이의 지속적인 상호작용을 통해 발달했으며, 유기체는 감각 신호가 행동에 가져오는 결과를 경험하면서 그 의미를 학습합니다. 체화된 에이전트(Embodied Agent)는 능동적으로 정보를 수집하고, 객체를 조작하고, 가설(Hypotheses)을 검증하며, 물리적 규칙성을 학습할 수 있습니다. 이를 통해 인지가 환경으로부터 완전히 분리되지 않고 상호작용에 기반하는 폐쇄형 학습 루프(Closed Learning Loop)가 형성됩니다.

주의(Attention)는 제한된 처리 능력 아래에서 작동하기 위한 메커니즘을 제공합니다. 일반 지능은 사용 가능한 모든 신호를 동일한 깊이로 처리할 필요가 없습니다. 대신 목표, 새로움(Novelty), 불확실성, 기대 가치(Expected Value), 잠재적 위험(Potential Risk)에 따라 관련 정보를 선택해야 합니다. 따라서 주의는 특정 순간 어떤 표상이 계산적으로 우선되어야 하는지를 동적으로 결정함으로써 지각, 기억, 추론, 행동을 조정할 수 있습니다.

순환 처리(Recurrent Processing)는 반복적인 정제(Iterative Refinement) 과정을 추가합니다. 특히 모호한 환경에서는 초기 해석이 불완전하거나 잘못될 수 있습니다. 정보는 보다 일관된 표상이 형성될 때까지 맥락(Context), 기억, 예측, 피드백을 이용하여 반복적으로 재검토될 수 있습니다. AGI의 관점에서 이는 유연한 추론(Flexible Reasoning)이 입력에서 출력으로 이어지는 단 한 번의 순방향 변환(Feedforward Transformation)에만 의존하기보다 반복적인 내부 계산(Internal Computation)을 필요로 할 수 있음을 시사합니다.

자기 모델링(Self-Modeling)은 에이전트 자체에 대한 표상을 이러한 아키텍처에 추가합니다. 일반적인 능력을 갖춘 시스템은 적어도 기능적인 수준에서 자신이 어떤 자원을 가지고 있는지, 어떤 행동을 수행할 수 있는지, 어떤 정보가 부족한지, 어떤 목표를 추구하고 있는지, 그리고 어떤 한계가 자신의 행동을 제약하는지를 알아야 합니다. 이러한 자기 모델(Self-Model)은 후보 행동을 이상적인 무제한 시스템이 아니라 에이전트가 실제로 보유한 능력을 기준으로 평가하도록 함으로써 계획을 지원할 수 있습니다.

메타인지(Metacognition)는 인지 자체의 신뢰성을 모니터링함으로써 자기 모델링을 확장합니다. 지능형 시스템은 신뢰도(Confidence)를 추정하고, 모순(Contradictions)을 감지하고, 누락된 정보를 식별하고, 효과적이지 않은 전략을 재검토하거나, 외부 지원(External Assistance)이 필요한 시점을 인식해야 할 수 있습니다. 에이전트가 익숙하지 않은 과제를 수행할수록 내부 모델이 불완전하거나 불확실한 상황에 더 자주 노출되기 때문에 이러한 능력은 일반성이 증가할수록 더욱 중요해집니다.

일반 지능에는 조합성(Compositionality)과 전이(Transfer)도 필요합니다. 하나의 맥락에서 획득한 지식은 전체 시스템을 처음부터 다시 학습시키지 않고도 다른 맥락에서 재사용될 수 있어야 합니다. 개념(Concepts), 기술(Skills), 인과 관계(Causal Relationships), 행동 기본 요소(Action Primitives)는 새로운 해결책을 구성하기 위해 재조합될 수 있습니다. 따라서 이후의 구조에서는 AGI의 맥락을 조합성과 모듈성(Compositionality and Modularity), 상식과 월드 모델(Common Sense and World Models), 체화 지능(Embodied Intelligence), 자기 학습 시스템(Self-Learning Systems)과 직접 연결합니다.

뇌 효율성(Brain Efficiency)은 AGI 설계에 추가적인 제약 조건을 제공합니다. 생물학적 뇌는 에너지(Energy), 통신 대역폭(Communication Bandwidth), 기억 접근(Memory Access), 처리 속도(Processing Speed)의 엄격한 제약 아래에서도 광범위한 적응성을 구현합니다. 이는 일반 지능이 단순히 모델 규모(Model Scale)를 증가시키는 것뿐만 아니라 선택적 계산(Selective Computation), 분산 표상(Distributed Representation), 희소 활동(Sparse Activity), 적응적 기억 접근(Adaptive Memory Access), 전문화된 하위 시스템 사이의 효율적인 조정에도 의존할 수 있음을 시사합니다.

동시에 신경과학을 AGI를 위한 완전한 공학적 명세(Engineering Specification)로 취급해서는 안 됩니다. 생물학적 메커니즘은 현대 컴퓨팅 시스템과 매우 다른 제약 조건 아래에서 진화했으며, 인지(Cognition)의 많은 측면은 여전히 과학적으로 완전히 규명되지 않았습니다. 따라서 중요한 목표는 모든 신경 메커니즘을 그대로 재현한다고 가정하는 것이 아니라 유용한 원리를 추출하는 것입니다. 뇌 기반 설계(Brain-Inspired Design)는 기능적 가치(Functional Value), 확장성(Scalability), 신뢰성(Reliability), 인공 하드웨어와의 호환성(Compatibility)을 기준으로 평가되어야 합니다.

이러한 맥락에서 AGI는 규모 확장 문제(Scaling Problem)인 동시에 통합 문제(Integration Problem)로 이해할 수 있습니다. 일반 지능 시스템은 학습, 기억, 예측, 월드 모델링(World Modeling), 자기 모델링, 추론, 주의, 행동, 메타인지적 조절(Metacognitive Regulation)을 하나의 적응적 폐쇄 루프(Adaptive Closed Loop) 안에서 연결해야 합니다. 따라서 이후의 내용에서는 모듈성, 상식(Common Sense), 체화, 자기 학습(Self-Learning), 뇌 효율성이 점점 더 일반적이고 자율적인 지능(Autonomous Intelligence)을 구현하는 아키텍처에 어떻게 기여할 수 있는지를 살펴봅니다.

11.01 General Intelligence in the Brain

뇌의 일반 지능(General Intelligence)은 하나의 해부학적 위치나 단일한 범용 인지 메커니즘(Universal Cognitive Mechanism)에서 발생하는 것으로 보이지 않습니다. 대신 지각(Perception), 기억(Memory), 주의(Attention), 추론(Reasoning), 가치 평가(Valuation), 행동(Action), 학습(Learning)을 담당하는 분산된 신경 시스템(Distributed Neural Systems) 사이의 조정된 상호작용을 통해 형성됩니다. 뇌는 전문화된 계산(Specialized Computations)을 통합하면서 여러 공간적·시간적 규모에 걸쳐 정보 교환을 유지함으로써 유연한 행동을 구현합니다.

대뇌피질(Cerebral Cortex)은 이러한 분산 지능(Distributed Intelligence)을 구현하는 주요 기반을 제공합니다. 서로 다른 피질 영역(Cortical Regions)은 시각, 청각, 체성감각(Somatosensory), 언어, 공간, 실행 정보(Executive Information)를 전문적으로 처리하지만, 이 영역들은 서로 밀접하게 연결되어 있습니다. 고차 연합 영역(Higher Association Regions)은 여러 감각 양식의 정보를 결합하여 개별적인 감각 특징에서 추상적 표상(Abstract Representations)으로 발전시키며, 이를 통해 계획, 개념적 추론(Conceptual Reasoning), 맥락 의존적 행동(Context-Dependent Behavior)을 지원합니다.

전전두엽 피질(Prefrontal Cortex)은 작업 기억(Working Memory), 목표 유지(Goal Maintenance), 계획(Planning), 억제(Inhibition), 전략 선택(Strategy Selection), 행동 적응(Behavioral Adaptation)을 지원하기 때문에 유연한 인지에서 특히 중요합니다. 전전두엽이 일반 지능 자체를 단독으로 담당하는 것이 아니라 뇌의 다른 영역에서 생성된 정보를 조정합니다. 과제와 관련된 표상을 유지하고, 가능한 행동을 비교하며, 부적절한 반응을 억제하고, 기존에 성공적이었던 전략이 더 이상 효과적이지 않을 때 행동을 재구성할 수 있습니다.

작업 기억(Working Memory)은 정보를 능동적으로 유지하고 조작할 수 있는 일시적인 작업공간(Temporary Workspace)을 제공합니다. 이러한 능력을 통해 뇌는 현재의 지각을 목표, 검색된 지식(Retrieved Knowledge), 중간 추론 단계(Intermediate Reasoning Steps), 가능한 미래 행동과 연결할 수 있습니다. 작업 기억의 용량은 제한되어 있기 때문에 주의는 어떤 정보를 활성 상태로 유지할 것인지를 선택적으로 결정해야 하며, 따라서 지능적 인지는 무제한적인 정보 처리보다는 조정된 제어(Coordinated Control)에 의존합니다.

장기 기억(Long-Term Memory)은 유연한 지능이 작동할 수 있는 상황의 범위를 크게 확장합니다. 일화 기억(Episodic Memory)은 구체적인 과거 경험에 접근할 수 있도록 하고, 의미 기억(Semantic Memory)은 일반화된 지식을 제공하며, 절차 기억(Procedural Memory)은 학습된 기술을 보존합니다. 해마(Hippocampus)와 분산된 피질 네트워크는 이러한 다양한 기억 형태를 조직하는 데 기여하며, 과거 경험이 서로 다른 맥락에서 현재의 해석, 예측, 계획, 문제 해결에 영향을 미치도록 합니다.

해마 시스템(Hippocampal System)은 단순한 기억 저장을 넘어 관계적 표상(Relational Representations)과 공간적 표상(Spatial Representations)에도 기여합니다. 사건, 위치, 객체, 맥락적 관계를 연결함으로써 경험을 유연하게 재조합할 수 있도록 지원합니다. 이러한 표상은 유기체가 인지 지도(Cognitive Maps)를 구성하고, 대안적인 경로를 상상하며, 관련된 경험을 회상하고, 직접 함께 경험하지 않았던 관계를 추론할 수 있도록 하며, 이는 일반화 가능한 추론(Generalizable Reasoning)에 중요한 능력입니다.

기저핵(Basal Ganglia)은 행동 선택(Action Selection), 강화학습(Reinforcement Learning), 경쟁하는 행동 가능성의 조절을 통해 일반 지능에 기여합니다. 피질 시스템(Cortical Systems)은 여러 후보 해석이나 행동을 생성할 수 있으며, 기저핵 회로는 기대 가치(Expected Value), 학습된 결과(Learned Consequences), 맥락, 현재 목표에 따라 어떤 행동을 선택할 것인지를 결정하는 데 도움을 줍니다. 이러한 상호작용은 추상적 인지(Abstract Cognition)를 실제 행동에 영향을 주는 의사결정과 연결합니다.

소뇌(Cerebellum)는 행동과 그 결과 사이의 예측 관계(Predictive Relationships)를 학습함으로써 또 다른 중요한 기능을 제공합니다. 전통적으로 운동 조정(Motor Coordination)과 관련된 영역으로 알려져 있지만, 소뇌 계산(Cerebellar Computation)은 보다 광범위한 기능 영역에서 예측, 타이밍(Timing), 오류 수정(Error Correction), 적응(Adaptation)에 관여하는 것으로 이해되고 있습니다. 반복적인 회로 구조는 중앙집중식 제어 없이도 전문화된 예측 메커니즘이 복잡한 행동을 빠르게 정교화할 수 있음을 보여줍니다.

따라서 일반 지능은 예측(Prediction)에 크게 의존합니다. 뇌는 다음에 어떤 감각 신호, 내부 상태(Internal States), 행동 결과가 발생할 가능성이 높은지를 지속적으로 추정합니다. 실제 관찰이 기대와 다르면 예측 오류(Prediction Errors)가 내부 모델(Internal Models)의 갱신을 유도할 수 있습니다. 이를 통해 변화하는 환경에서도 지각과 행동이 적응성을 유지할 수 있으며, 기존에 획득한 지식이 해석을 경직되게 결정하지 않으면서도 현재의 해석을 안내할 수 있습니다.

주의(Attention)는 이러한 분산 시스템 내부에서 동적인 자원 할당(Dynamic Resource Allocation)을 제공합니다. 뇌는 사용 가능한 모든 정보를 동일하게 처리하는 대신 목표, 새로움(Novelty), 불확실성(Uncertainty), 기대 가치, 잠재적 위협(Potential Threat)에 따라 신호의 우선순위를 결정합니다. 주의는 관련된 감각 표상을 증폭하고, 기억 검색(Memory Retrieval)을 촉진하며, 의사결정 과정에 영향을 주고, 어떤 정보가 더 넓은 네트워크에서 사용될지를 조절함으로써 제한된 계산 능력 아래에서도 지능이 효율적으로 작동하도록 합니다.

대규모 뇌 네트워크(Large-Scale Brain Networks) 사이의 정보 교환 역시 필수적입니다. 실행 제어 네트워크(Executive Control Networks), 기본 모드 시스템(Default-Mode Systems), 현저성 관련 네트워크(Salience-Related Networks), 감각 시스템, 기억 구조는 과제에 따라 동적으로 상호작용합니다. 외부의 복잡한 문제를 해결할 때는 감각과 실행 시스템 사이의 조정이 강조될 수 있으며, 내부 시뮬레이션(Internal Simulation)에서는 기억과 연합 네트워크(Associative Networks)가 더 중요한 역할을 할 수 있습니다. 변화하는 요구에 따라 이러한 상호작용을 재구성하는 능력이 유연한 지능을 형성하는 중요한 기반입니다.

순환 처리(Recurrent Processing)는 표상을 반복적으로 정교화할 수 있도록 합니다. 정보는 순방향 경로(Feedforward Pathways)를 통해 빠른 초기 해석을 생성한 다음 피드백 연결(Feedback Connections)을 통해 되돌아가 맥락(Context), 기대(Expectations), 목표, 기억을 통합할 수 있습니다. 이러한 반복적 과정(Iterative Process)은 모호한 정보를 다시 검토할 수 있게 하고 시간에 따라 표상을 안정화함으로써 단순한 일회성 처리 아키텍처보다 더욱 강건한 인지(Robust Cognition)를 가능하게 합니다.

생물학적 지능(Biological Intelligence)의 또 다른 핵심 특성은 계층적 조직(Hierarchical Organization)입니다. 신경 표상(Neural Representations)은 비교적 국소적인 감각 특징에서부터 객체, 상황, 목표, 개념, 추상적 관계(Abstract Relationships)에 이르는 다양한 수준으로 구성됩니다. 상위 수준은 피드백을 통해 하위 수준에 영향을 미칠 수 있으며, 하위 수준은 상위 수준의 해석을 제한하는 증거를 제공합니다. 따라서 지능은 상징적 수준(Symbolic Scale)이나 감각적 수준 가운데 하나에서만 작동하는 것이 아니라 여러 추상화 수준(Levels of Abstraction)에 걸친 조정된 계산을 포함합니다.

조합성(Compositionality)은 이러한 계층적 구조와 밀접하게 관련됩니다. 이전에 학습한 요소들을 새로운 표상, 계획, 행동으로 재조합할 수 있습니다. 사람은 모든 가능한 구성을 처음부터 다시 학습하지 않고도 익숙한 개념, 공간 관계, 행동, 인과적 기대(Causal Expectations)를 결합하여 새로운 상황을 이해할 수 있습니다. 이러한 재조합(Recombination)은 일반화(Generalization)를 가능하게 하며 익숙하지 않은 문제를 해결하는 데 필요한 경험의 양을 줄여줍니다.

뇌는 또한 지속적으로 학습합니다. 시냅스 가소성(Synaptic Plasticity)은 평생에 걸쳐 표상과 행동 정책(Behavioral Policies)을 수정하며, 기억 공고화(Memory Consolidation)는 중요한 지식을 안정화하는 데 도움을 줍니다. 새로운 학습은 기존 기술을 지속적으로 덮어쓰는 것이 아니라 이미 확립된 능력과 공존해야 합니다. 따라서 생물학적 지능은 빠른 적응(Rapid Adaptation)과 장기적 구조를 보존하는 메커니즘을 결합하며, 이는 치명적 망각(Catastrophic Forgetting) 없이 지속 학습(Continual Learning)을 구현하려는 인공 시스템에 중요한 참고점을 제공합니다.

체화(Embodiment)는 인지가 뇌, 신체, 환경 사이의 상호작용을 통해 발달하기 때문에 일반 지능을 더욱 구체적으로 형성합니다. 감각 신호는 가능한 행동, 신체적 제약(Bodily Constraints), 예측된 결과와의 관계 속에서 해석됩니다. 유기체는 이동하고, 객체를 조작하고, 새로운 정보를 수집하며, 주변 환경을 변화시킬 수 있습니다. 따라서 지능은 단순한 수동적 표상이 아니라 지각, 예측, 개입(Intervention), 피드백, 학습이 연결된 능동적인 과정(Active Process)이 됩니다.

인공지능(Artificial Intelligence)의 관점에서 뇌는 일반 지능이 하나의 뛰어난 알고리즘(Superior Algorithm)보다는 조정된 시스템 통합(Coordinated System Integration)의 관점에서 더 잘 이해될 수 있음을 시사합니다. 전문화된 구성 요소는 지각, 기억, 예측, 추론, 행동 선택, 제어를 수행할 수 있으며, 공유 표상(Shared Representations)과 순환적 정보 교환(Recurrent Communication)은 이들이 협력하도록 합니다. 따라서 일반적 능력(General Capability)은 여러 메커니즘이 얼마나 효과적으로 정보를 교환하고 함께 적응하는가에 크게 의존할 수 있습니다.

더 넓은 관점에서 얻을 수 있는 핵심 교훈은 뇌의 일반 지능이 분산된 전문화(Distributed Specialization)와 유연한 통합(Flexible Integration)의 결합을 통해 형성된다는 것입니다. 기억은 경험을 제공하고, 주의는 자원을 할당하며, 예측 모델(Predictive Models)은 변화를 예상하고, 실행 시스템(Executive Systems)은 목표를 유지하며, 순환 네트워크(Recurrent Networks)는 해석을 정교화하고, 행동 시스템(Action Systems)은 환경과의 폐쇄 루프(Closed Loop)를 완성합니다. 이들의 조정된 작동은 지식을 전이하고, 지속적으로 학습하며, 익숙하지 않은 문제를 해결하고, 다양한 상황에 맞추어 행동을 조정할 수 있는 적응적 아키텍처(Adaptive Architecture)를 형성합니다.

11.02 Compositionality and Modularity [w/Code]

조합성(Compositionality)과 모듈성(Modularity)은 복잡한 지능이 재사용 가능한 전문화된 구성 요소로부터 어떻게 형성될 수 있는지를 설명하는 서로 밀접하게 연관된 두 가지 원리입니다. 모듈성은 인지를 서로 다른 기능을 수행하는 시스템으로 분할하고, 조합성은 이러한 시스템에서 생성된 표상(Representations), 개념(Concepts), 기술(Skills), 연산(Operations)을 새로운 형태로 재결합할 수 있도록 합니다. 두 원리를 결합하면 모든 새로운 문제를 처음부터 다시 학습하지 않고도 유연한 행동을 생성할 수 있는 기반이 마련됩니다.

뇌는 상당한 수준의 기능적 전문화(Functional Specialization)를 보여줍니다. 시각, 청각, 운동, 기억, 언어, 공간, 가치 평가(Valuation), 실행 시스템(Executive Systems)은 서로 다른 유형의 계산을 수행하면서도 상호 연결되어 있습니다. 이러한 구조를 통해 신경 회로(Neural Circuits)는 특정 정보 처리 요구에 적합한 표상을 발달시킬 수 있습니다. 따라서 일반 지능(General Intelligence)은 모든 뇌 영역이 모든 기능을 수행하는 것을 요구하는 것이 아니라 전문화된 신경 자원(Neural Resources) 사이의 효과적인 협력에 의존합니다.

생물학적 모듈성(Biological Modularity)은 경직된 분리와 동일하지 않습니다. 뇌 영역은 여러 기능에 동시에 참여하는 경우가 많으며, 각 영역의 역할은 맥락(Context), 과제 요구(Task Demands), 학습 이력(Learning History), 다른 네트워크와의 상호작용에 따라 달라집니다. 따라서 유용한 모듈(Module)은 고립된 구성 요소가 아니라 상대적으로 전문화된 계산 하위 시스템(Computational Subsystem)으로 이해해야 합니다. 유연한 지능은 전문화된 시스템이 동적으로 정보를 교환하고 기능적 관계를 재구성할 수 있을 때 형성됩니다.

조합성은 기존 요소들을 새로운 조합으로 구성할 수 있도록 함으로써 이러한 구조를 보완합니다. 인간은 익숙한 단어를 이용해 처음 접하는 문장을 이해하고, 알려진 속성을 결합하여 새로운 객체를 상상하며, 학습된 운동 기술을 이용해 새로운 행동 시퀀스(Action Sequences)를 구성하고, 기존에 획득한 개념을 조합하여 새로운 문제를 해결할 수 있습니다. 가능한 조합의 수는 학습 과정에서 직접 경험한 사례의 수를 크게 초과할 수 있습니다.

언어(Language)는 조합적 처리(Compositional Processing)의 명확한 사례를 제공합니다. 제한된 어휘(Vocabulary)와 일련의 문법적 관계(Grammatical Relationships)를 이용하여 매우 다양한 표현을 생성하고 해석할 수 있습니다. 의미는 개별 요소에만 의존하는 것이 아니라 이러한 요소들이 어떻게 구조화되고 서로 관계를 형성하는지에도 의존합니다. 이는 재사용 가능한 표상이 체계적인 조합(Systematic Combinations)에 참여할 수 있을 때 일반 지능에서 훨씬 강력한 기능을 발휘할 수 있음을 보여줍니다.

조합성은 지각(Perception)에서도 나타납니다. 객체는 형태(Shape), 색상(Color), 질감(Texture), 공간적 관계(Spatial Relationships), 기능(Function), 맥락적 연관성(Contextual Associations)의 조합으로 표상될 수 있습니다. 이에 따라 장면(Scene)은 완전히 독립적인 하나의 패턴으로 저장되는 대신 객체와 관계의 조합으로 구성될 수 있습니다. 이러한 구조화된 표상(Structured Representations)은 익숙하지 않은 구성에서도 기존 요소를 인식하고 이전에 경험하지 못한 감각적 상황에서도 일반화(Generalization)할 수 있도록 지원합니다.

운동 행동(Motor Behavior)에서도 유사한 원리가 나타납니다. 복잡한 행동은 재사용 가능한 움직임 패턴(Movement Patterns), 목표, 하위 목표(Subgoals), 감각운동 변환(Sensorimotor Transformations)을 조합하여 구성할 수 있습니다. 뻗기(Reaching), 잡기(Grasping), 걷기(Walking), 회전하기(Turning), 조작하기(Manipulating)와 같은 행동은 다양한 행동 시퀀스에 활용될 수 있습니다. 계층적 제어(Hierarchical Control)는 이러한 구성 요소를 서로 다른 시간적 규모에서 조정하여 가능한 모든 과제마다 별도의 운동 정책(Motor Policy)을 학습하지 않고도 유연한 행동을 가능하게 합니다.

기억(Memory)은 나중에 검색하고 재조합할 수 있는 구성 요소를 보존함으로써 조합성을 지원합니다. 일화 기억(Episodic Memory)은 구체적인 경험을 제공하고, 의미 기억(Semantic Memory)은 개념과 관계를 제공하며, 절차 기억(Procedural Memory)은 학습된 기술을 제공합니다. 추론이나 계획 과정에서는 현재 목표에 따라 이러한 시스템에서 선택된 요소들을 결합할 수 있습니다. 따라서 기억은 단순한 저장 장치가 아니라 새로운 내부 표상(Internal Representations)을 구성하기 위한 자원으로도 기능합니다.

해마 시스템(Hippocampal System)은 사람, 객체, 위치, 사건, 맥락 사이의 관계를 부호화(Encoding)할 수 있기 때문에 특히 중요합니다. 관계적 표상(Relational Representations)은 이전에 분리되어 있던 경험들을 연결하고 재구성할 수 있도록 합니다. 이러한 능력은 인지 지도(Cognitive Maps), 추론적 사고(Inferential Reasoning), 일화적 시뮬레이션(Episodic Simulation), 상상(Imagination)을 지원하며, 과거 경험의 요소들을 직접 경험하지 않았던 새로운 상황으로 조합할 수 있도록 합니다.

전전두엽 피질(Prefrontal Cortex)은 현재의 과제 요구에 따라 목표를 유지하고 여러 표상의 조합을 조직하는 데 기여합니다. 작업 기억(Working Memory)에 중간 상태를 유지하면서 기억, 지각, 가치 평가, 행동 시스템의 정보를 조정할 수 있습니다. 이러한 제어는 조합이 무작위로 이루어지는 것을 방지하고 목적 지향적(Purposeful)으로 이루어지도록 하며, 뇌가 특정 문제와 관련된 표상과 행동 시퀀스를 구성할 수 있도록 합니다.

모듈성은 학습에도 장점을 제공합니다. 전문화된 시스템은 전체 인지 아키텍처(Cognitive Architecture)를 동시에 수정하지 않고도 특정 유형의 정보에 적응할 수 있습니다. 이는 서로 관련이 적은 기술 사이의 간섭(Interference)을 줄이고 각각의 학습 메커니즘이 적절한 속도로 작동하도록 할 수 있습니다. 그러나 지나치게 고립된 모듈 구조는 지식 전이(Knowledge Transfer)를 방해할 수 있기 때문에 일반 지능을 구현하려면 모듈 사이의 통신과 공유 표상(Shared Representations)이 필수적입니다.

인공지능(Artificial Intelligence)의 관점에서 모듈성은 지각, 기억, 언어, 계획, 월드 모델링(World Modeling), 제어(Control) 등의 기능을 담당하는 전문화된 구성 요소로 이루어진 아키텍처를 제안합니다. 각 구성 요소는 자신의 역할에 적합한 계산 메커니즘을 사용하면서 구조화된 인터페이스(Structured Interfaces)나 공유 잠재 표상(Shared Latent Representations)을 통해 정보를 교환할 수 있습니다. 이러한 접근 방식은 해석 가능성(Interpretability), 유지보수성(Maintainability), 전문화(Specialization), 개별 능력을 교체하거나 개선할 수 있는 가능성을 향상시킬 수 있습니다.

조합적 인공지능(Compositional AI)은 체계적으로 재사용할 수 있는 형태로 지식을 표상함으로써 이러한 개념을 확장합니다. 에이전트는 완전한 해결책을 그대로 암기하는 대신 객체, 관계, 기술, 목표, 제약 조건(Constraints), 변환(Transformations)을 학습하고 이를 새로운 해결책으로 조립할 수 있습니다. 예를 들어 로봇이 용기(Container), 잡기, 내비게이션(Navigation), 열기(Opening), 배치(Placement)를 각각 이해한다면 이전에 경험하지 못한 조작 과제에서도 이러한 능력을 결합할 수 있습니다.

이 원리는 계획(Planning)과 월드 모델(World Models)에서 특히 중요합니다. 조합적 월드 모델(Compositional World Model)은 객체(Entity), 속성(Properties), 관계, 행동, 동역학(Dynamics)을 서로 재조합할 수 있을 정도로 구분하면서 동시에 이들 사이의 상호작용을 보존할 수 있습니다. 계획 시스템은 이러한 상태와 행동의 가능한 조합을 탐색할 수 있습니다. 재사용 가능한 구성 요소가 새로운 조건에서 어떻게 상호작용하는지를 예측할 수 있다면 시스템이 모든 완전한 궤적(Trajectory)을 직접 경험할 필요가 없습니다.

조합성은 전이 학습(Transfer Learning)과 체계적 일반화(Systematic Generalization)도 지원합니다. 하나의 과제에서 학습한 지식은 두 과제가 의미 있는 구성 요소나 관계를 공유할 경우 다른 과제에 활용될 수 있습니다. 이는 단순한 표면적 유사성(Superficial Similarity)을 넘어 추상적인 구조(Abstract Structure)를 통해 전이가 이루어질 수 있음을 의미합니다. 에이전트가 포함(Containment), 지지(Support), 방해(Obstruction), 순서(Sequence), 인과성(Causality)과 같은 개념을 이해한다면 다양한 환경과 체화 형태(Embodiments)에서 이러한 관계를 재사용할 수 있습니다.

그러나 모듈성과 조합성은 상당한 공학적 과제(Engineering Challenges)도 발생시킵니다. 모듈은 중요한 맥락을 잃지 않으면서 정보를 교환해야 하고, 여러 하위 시스템 사이에서 표상의 호환성(Representation Compatibility)을 유지해야 하며, 하나의 구성 요소에서 발생한 오류가 전체 아키텍처로 전파될 수도 있습니다. 또한 학습된 표상이 서로 얽혀(Entangled) 깔끔한 재조합을 어렵게 만들 수 있습니다. 따라서 효과적인 시스템에는 조정(Coordination), 라우팅(Routing), 불확실성 전파(Uncertainty Propagation), 공동 적응(Joint Adaptation)을 위한 메커니즘이 필요합니다.

신경과학 기반 아키텍처(Neuroscience-Inspired Architecture)는 모듈형 전문화(Modular Specialization)를 전역적 통합(Global Integration) 및 순환적 정보 교환(Recurrent Communication)과 결합할 수 있습니다. 전문화된 하위 시스템은 후보 표상을 생성하고, 주의(Attention)는 어떤 정보가 중요한지를 결정하며, 작업 기억은 선택된 요소들을 일시적으로 결합하고, 순환 처리(Recurrent Processing)는 그 관계를 반복적으로 정교화할 수 있습니다. 경험이 축적되면 학습은 개별 모듈뿐만 아니라 이들을 조정하는 인터페이스도 함께 수정할 수 있습니다.

체화 지능(Embodied Intelligence)에서 조합은 궁극적으로 지각을 물리적 행동(Physical Action)과 연결해야 합니다. 객체, 공간적 관계, 목표, 행동유도성(Affordances), 기술, 예측된 결과를 현실 세계의 제약 조건 아래에서 실행 가능한 행동으로 조합해야 합니다. 피드백(Feedback)은 어떤 조합이 실패했는지를 알려주며, 이를 통해 에이전트는 개별 구성 요소 또는 구성 요소의 조직 방식을 수정할 수 있습니다. 따라서 조합성은 추상적인 표상 원리를 넘어 적응적 상호작용(Adaptive Interaction)을 가능하게 하는 메커니즘으로 확장됩니다.

일반 지능의 관점에서 더 넓은 시사점은 확장성(Scalability)이 단순히 학습된 지식의 양을 증가시키는 것뿐만 아니라 지식을 얼마나 효과적으로 재사용할 수 있는지에도 의존할 수 있다는 것입니다. 모듈성은 전문화된 계산 구성 요소(Computational Building Blocks)를 제공하고, 조합성은 이러한 구성 요소를 이용해 새로운 표상, 계획, 행동을 생성할 수 있도록 합니다. 두 원리의 통합은 기존 능력을 새로운 방식으로 재구성하여 익숙하지 않은 상황에 대응함으로써 학습 사례를 넘어 일반화할 수 있는 시스템으로 발전하는 하나의 경로를 제공합니다.

11.03 Common Sense and World Models [w/Code]

상식(Common Sense)은 지능형 시스템(Intelligent System)이 일상적인 상황을 해석하고, 그럴듯한 결과를 예측하며, 어떤 상황이 비정상적이거나 불가능한지를 인식할 수 있도록 하는 광범위한 암묵적 지식(Implicit Knowledge)의 집합을 의미합니다. 인간은 모든 사건에 대해 매번 처음부터 추론하지 않습니다. 대신 축적된 경험은 객체, 사람, 공간, 시간, 인과성(Causality), 행동, 물리적 제약(Physical Constraints)에 대한 기대를 제공하여 일상적인 추론을 효율적으로 수행할 수 있도록 합니다.

월드 모델(World Models)은 이러한 종류의 지식을 조직하기 위한 계산적 프레임워크(Computational Framework)를 제공합니다. 월드 모델은 객체(Entities), 속성(Properties), 관계(Relationships), 사건(Events), 동역학(Dynamics), 가능한 미래 상태(Future States)를 포함하여 환경의 관련 측면을 표상합니다. 지능형 시스템은 관찰을 행동으로 직접 연결하는 대신 이러한 내부 표상(Internal Representation)을 사용하여 현재 상황을 해석하고, 다음에 무엇이 일어날지를 예상하며, 실제 행동을 실행하기 전에 대안적인 행동을 평가할 수 있습니다.

생물학적 인지(Biological Cognition)에서 상식은 명시적인 사실들로 구성된 하나의 데이터베이스에 저장되지 않습니다. 상식은 지각(Perception), 의미 기억(Semantic Memory), 일화적 경험(Episodic Experience), 공간적 표상(Spatial Representations), 인과 학습(Causal Learning), 운동 지식(Motor Knowledge), 사회적 이해(Social Understanding)의 상호작용을 통해 형성됩니다. 반복적으로 경험하는 규칙성을 통해 뇌는 세계가 일반적으로 어떻게 작동하는지에 대한 기대를 발달시키며, 모든 관련 규칙을 의식적으로 다시 구성하지 않고도 상황을 빠르게 해석할 수 있습니다.

물리적 상식(Physical Common Sense)은 고체성(Solidity), 지지(Support), 포함(Containment), 중력(Gravity), 지속성(Persistence), 운동(Motion), 충돌(Collision)과 같은 속성에 관한 지식을 포함합니다. 인간은 지지되지 않은 물체가 떨어지고, 고체 물체가 서로 관통하는 것을 방해하며, 가려진 객체도 계속 존재하고, 용기는 내부의 물체를 제한한다고 예상합니다. 이러한 기대는 감각 정보가 불완전하거나 정확히 동일한 상황을 이전에 경험하지 않았더라도 예측을 가능하게 하는 배경 모델(Background Model)을 제공합니다.

객체 지속성(Object Persistence)은 지능형 시스템이 즉각적인 관찰을 넘어 표상을 유지해야 하기 때문에 특히 중요합니다. 객체가 일시적으로 가려지더라도 뇌는 일반적으로 그 객체가 존재하지 않게 되었다고 판단하지 않습니다. 내부 표상은 감각적 증거가 사라진 동안에도 객체의 정체성(Identity), 위치(Location), 예상 운동(Expected Motion)을 유지합니다. 따라서 월드 모델은 각각의 관찰을 독립적인 스냅샷(Snapshot)으로 처리하는 것이 아니라 시간적 연속성(Temporal Continuity)을 유지해야 합니다.

공간적 상식(Spatial Common Sense)은 개별 객체를 인식하는 것을 넘어 확장됩니다. 지능적 행동에는 상대적 위치(Relative Position), 거리(Distance), 방향(Direction), 접근 가능성(Accessibility), 포함 관계, 연결성(Connectivity), 내비게이션 구조(Navigational Structure)에 대한 이해가 필요합니다. 인지 지도(Cognitive Maps)는 유기체가 위치와 가능한 경로 사이의 관계를 표상하도록 합니다. 이러한 표상은 객체가 어디에 있을 가능성이 있는지, 목적지에 도달할 수 있는지, 대안적인 행동이 공간 관계를 어떻게 변화시킬 수 있는지를 추론하도록 지원합니다.

인과적 이해(Causal Understanding)는 또 하나의 필수적인 구성 요소입니다. 상관관계(Correlation)만으로는 강건한 행동(Robust Action)을 수행하기에 충분하지 않습니다. 에이전트는 개입(Intervention)이 미래 상태를 어떻게 변화시키는지를 추정해야 하기 때문입니다. 뇌는 관찰, 탐색(Exploration), 피드백(Feedback)을 통해 행동과 결과 사이의 관계를 학습합니다. 따라서 유용한 월드 모델은 어떤 사건들이 함께 발생하는지만 표상하는 것이 아니라 행동, 힘(Forces), 제약 조건(Constraints), 환경 조건(Environmental Conditions)이 상태 전이(State Transitions)에 어떻게 기여하는지도 표상해야 합니다.

시간적 추론(Temporal Reasoning)은 서로 다른 시간 규모(Time Scales)에 걸쳐 사건들을 연결합니다. 상식에는 지속 시간(Duration), 순서(Sequence), 반복(Repetition), 지연(Delay), 변화(Change)에 대한 기대가 포함됩니다. 일부 결과는 즉시 발생하지만 다른 결과는 장시간의 상호작용 이후에 나타납니다. 따라서 월드 모델은 시간에 따른 상태 전이를 표상하고, 하나의 관찰에서는 유사해 보이지만 서로 다른 궤적(Trajectories)과 예상 결과를 갖는 사건들을 구별할 수 있을 정도로 충분한 과거 정보를 유지해야 합니다.

기억(Memory)은 이러한 모델을 구성하는 데 핵심적인 역할을 합니다. 일화 기억(Episodic Memory)은 특정 사건에 대한 사례를 제공하고, 의미 기억은 보다 안정적인 규칙성을 추출하며, 작업 기억(Working Memory)은 현재 상황과 관련된 정보를 유지합니다. 공고화(Consolidation)와 일반화(Generalization)를 통해 반복된 경험은 재사용 가능한 지식으로 변환될 수 있습니다. 따라서 상식은 모든 원래의 관찰을 그대로 보존하지 않으면서 다양한 상황에서 유용한 규칙성을 포착하는 압축된 경험(Compressed Experience)으로 부분적으로 이해할 수 있습니다.

예측(Prediction)은 저장된 지식을 능동적인 지능(Active Intelligence)으로 전환합니다. 현재 상태가 주어지면 시스템은 가능한 미래 상태를 추정하고 이를 새롭게 들어오는 관찰과 비교할 수 있습니다. 예측 오류(Prediction Errors)는 내부 모델이 불완전하거나 부정확하거나 비정상적인 사건을 마주하고 있음을 나타낼 수 있습니다. 순환적 갱신(Recurrent Updating)은 기대를 지속적으로 수정할 수 있도록 하며, 월드 모델을 현실에 대한 고정된 설명이 아니라 적응적인 표상(Adaptive Representation)으로 만듭니다.

조합성(Compositionality)은 상식 지식을 더욱 일반화할 수 있도록 합니다. 지능형 시스템은 가능한 모든 장면을 암기하는 대신 객체, 속성, 관계, 행동, 제약 조건을 재사용 가능한 구성 요소(Reusable Components)로 표상할 수 있습니다. 이러한 요소들은 익숙하지 않은 상황을 해석하기 위해 새롭게 결합될 수 있습니다. 예를 들어 깨지기 쉬운 객체(Fragile Object)가 떨어지면 파손될 수 있다는 지식은 동일한 경험을 반복하지 않고도 다양한 객체와 맥락에 전이될 수 있습니다.

계층적 표상(Hierarchical Representation) 역시 중요합니다. 유용한 세계 지식은 여러 추상화 수준(Levels of Abstraction)에 존재하기 때문입니다. 저수준 모델(Low-Level Models)은 운동과 기하학(Geometry)을 표상하고, 중간 수준 모델은 객체와 상호작용을 설명하며, 상위 수준 모델은 목표, 사건, 인과 구조(Causal Structures), 사회적 상황(Social Situations)을 표상할 수 있습니다. 추론은 과제에 따라 이러한 수준 사이를 이동하면서 필요할 경우 세밀한 물리적 예측을 수행하고, 세부 정보가 필요하지 않은 경우에는 보다 추상적인 계획을 수행할 수 있습니다.

인공지능(Artificial Intelligence)의 관점에서 월드 모델은 순수한 반응형 행동(Reactive Behavior)을 넘어설 수 있는 경로를 제공합니다. 인공지능 에이전트(AI Agent)는 관찰을 잠재 상태(Latent States) 또는 구조화된 상태(Structured States)로 변환하고, 후보 행동이 이러한 상태를 어떻게 변화시킬지를 예측하며, 예상 결과에 따라 행동을 선택할 수 있습니다. 이는 계획(Planning), 반사실적 추론(Counterfactual Reasoning), 탐색, 오류 복구(Error Recovery)를 지원하며, 행동의 비용이 높거나 위험하거나 물리적으로 되돌릴 수 없는 경우 특히 중요한 가치를 갖습니다.

체화 인공지능(Embodied AI)은 로봇이 환경을 단순히 설명하는 것이 아니라 실제 환경과 상호작용해야 하기 때문에 상식에 더 높은 요구사항을 부과합니다. 로봇은 주행 가능성(Traversability), 도달 가능성(Reachability), 충돌, 객체 행동유도성(Object Affordances), 조작 제약(Manipulation Constraints), 불확실성(Uncertainty), 자신의 물리적 능력(Physical Capabilities)에 관한 실용적인 지식을 필요로 합니다. 월드 모델은 지각과 행동을 연결하여 로봇이 실제로 감지하고 실행할 수 있는 범위 안에서 예측이 이루어지도록 해야 합니다.

능동적 상호작용(Active Interaction)은 월드 모델을 향상시킬 수도 있습니다. 불확실성이 높은 경우 에이전트는 센서를 움직이고, 객체에 접근하고, 무언가를 조작하거나, 추가적인 증거를 얻기 위해 통제된 행동(Controlled Action)을 수행할 수 있습니다. 이는 지각을 수동적 관찰(Passive Observation)에서 능동 추론(Active Inference)으로 전환합니다. 에이전트는 단순히 데이터를 전달받음으로써 학습하는 것이 아니라 숨겨진 속성을 드러내고 환경에 관한 서로 경쟁하는 가설을 검증할 수 있는 행동을 선택함으로써 학습합니다.

자기 모델(Self-Model)은 예측되는 환경 내부에서 에이전트 자신을 표상함으로써 월드 모델을 보완합니다. 이에 따라 계획은 세계 상태(World-State)와 자기 상태(Self-State)의 전이를 모두 포함하게 됩니다. 시스템은 행동을 완료하는 데 충분한 에너지, 감지 능력(Sensing Capability), 도달 범위(Reach), 이동 능력(Mobility), 지식, 계산 자원(Computational Resources)을 가지고 있는지를 추정할 수 있습니다. 따라서 상식적 추론(Common-Sense Reasoning)은 일반적으로 무엇이 가능한지만이 아니라 특정 에이전트에게 실제로 무엇이 가능한지에 기반하게 됩니다.

메타인지(Metacognition)는 월드 모델 예측의 신뢰성을 추정함으로써 이러한 아키텍처를 더욱 강화합니다. 에이전트는 예측을 충분히 뒷받침할 수 있는 익숙한 상황과 불확실성이 높은 익숙하지 않은 상황을 구별해야 합니다. 이에 따라 추가 증거를 수집하거나, 대안적인 모델을 사용하거나, 더욱 안전한 행동을 선택하거나, 외부 지원을 요청할 수 있습니다. 월드 모델 자체를 보유하는 것만큼이나 월드 모델의 한계(Limitations)를 파악하는 것도 중요할 수 있습니다.

실용적인 월드 모델은 현실의 모든 세부 사항을 완벽하게 재현할 수 없습니다. 따라서 지능에는 행동과 예측에 필요한 정보를 유지하면서 불필요한 복잡성을 제거하는 선택적 추상화(Selective Abstraction)가 필요합니다. 적절한 표상은 과제에 따라 달라질 수 있습니다. 내비게이션에는 조작(Manipulation)이나 사회적 상호작용과 다른 종류의 세부 정보가 필요하기 때문에 유연한 월드 모델은 현재 목표와 가장 관련된 변수와 관계를 동적으로 강조할 수 있어야 합니다.

일반 지능(General Intelligence)의 관점에서 상식과 월드 모델은 축적된 경험(Accumulated Experience)과 유연한 미래 행동(Flexible Future Behavior)을 연결하는 중요한 다리를 제공합니다. 상식은 환경이 일반적으로 어떻게 작동하는지에 대한 재사용 가능한 기대를 제공하고, 월드 모델은 이러한 기대를 예측, 시뮬레이션(Simulation), 행동을 지원하는 표상으로 조직합니다. 이를 기억, 조합성, 자기 모델링(Self-Modeling), 메타인지, 체화(Embodiment)와 결합하면 에이전트는 단순히 학습 과정에서 경험한 패턴을 재현하는 것을 넘어 익숙하지 않은 상황에 대해서도 추론할 수 있습니다.

11.04 Embodied Intelligence [w/Code]

체화 지능(Embodied Intelligence)은 인지 시스템(Cognitive System), 물리적 신체(Physical Body), 환경(Environment) 사이의 지속적인 상호작용을 통해 지능이 형성되는 과정으로 설명됩니다. 이러한 관점에서 지능은 내부 계산(Internal Computation)만으로 생성되는 것이 아닙니다. 지각(Perception), 움직임(Movement), 물리적 제약(Physical Constraints), 감각적 결과(Sensory Consequences), 환경 피드백(Environmental Feedback)이 함께 작용하여 에이전트가 무엇을 학습하고, 표상하고, 예측하며, 궁극적으로 무엇을 수행할 수 있는지를 결정합니다.

생물학적 지능(Biological Intelligence)은 이러한 원리를 가장 명확하게 보여주는 사례입니다. 신경계(Nervous System)는 감각 정보를 행동과 분리된 수동적인 정보 흐름으로 받아들이지 않습니다. 눈은 시각 정보를 획득하기 위해 움직이고, 손은 물체의 물리적 특성을 파악하기 위해 물체를 조작하며, 이동(Locomotion)은 감각적 관점을 변화시킵니다. 따라서 지각은 부분적으로 행동을 통해 생성되며, 감지(Sensing)와 행동(Acting)은 인지를 구성하는 상호 의존적인 요소가 됩니다.

신체(Body)는 단순히 뇌를 담고 있는 기계적 용기(Mechanical Container)가 아닙니다. 신체의 형태(Morphology), 감각 시스템(Sensory Systems), 자유도(Degrees of Freedom), 힘(Strength), 도달 범위(Reach), 속도(Speed), 물리적 한계(Physical Limitations)는 어떤 상호작용이 가능한지를 결정합니다. 이러한 제약은 유기체가 경험할 수 있는 범위를 구조화함으로써 학습에 영향을 줍니다. 따라서 지능은 특정 신체와 그 신체가 주변 세계와 상호작용할 수 있는 가능성에 상대적으로 발달합니다.

이러한 관계는 체화 지능의 중심에 위치하는 지각-행동 루프(Perception-Action Loop)를 형성합니다. 감각 시스템은 환경을 관찰하고, 내부 과정(Internal Processes)은 이러한 관찰을 해석하며, 행동은 에이전트 또는 환경을 변화시키고, 그 결과는 새로운 감각적 증거(Sensory Evidence)를 생성합니다. 각각의 순환 과정은 이후의 의사결정을 갱신할 수 있으며, 이를 통해 감지, 행동, 평가(Evaluation), 적응(Adaptation)이 지속적으로 연결되는 폐쇄 루프 과정(Closed-Loop Process)이 형성됩니다.

감각운동 지능(Sensorimotor Intelligence)은 감각 상태(Sensory States)와 행동 사이에서 반복적으로 나타나는 규칙적인 관계를 통해 발달합니다. 유기체는 특정 움직임이 시각, 촉각(Touch), 고유수용감각(Proprioception), 균형(Balance), 공간적 위치(Spatial Position)에 예측 가능한 변화를 발생시킨다는 것을 학습합니다. 이러한 관계는 신체와 환경 모두에 대한 구조화된 지식(Structured Knowledge)을 제공합니다. 따라서 운동 경험(Motor Experience)은 단순히 인지 처리의 최종 출력이 아니라 지각 형성에 직접적으로 기여합니다.

고유수용감각(Proprioception)과 내수용 정보(Interoceptive Information)는 에이전트 자신의 물리적 상태에 대한 표상을 추가합니다. 관절 위치(Joint Positions), 근육 상태(Muscle States), 균형, 노력(Effort), 방향(Orientation) 등의 신체 변수는 현재 어떤 행동을 수행할 수 있는지에 관한 지속적인 정보를 제공합니다. 인공 체화 에이전트(Artificial Embodied Agents)에서도 이와 유사한 내부 감지는 상태 추정(State Estimation), 제어(Control), 고장 감지(Fault Detection), 에너지 관리(Energy Management), 물리적 능력과 연결된 기능적 자기 모델(Functional Self-Model)을 지원할 수 있습니다.

근거화된 인지(Grounded Cognition)는 체화로부터 자연스럽게 이어집니다. 개념(Concepts)은 감각 및 운동 경험과 연결될 때 실질적인 의미를 획득합니다. 무겁다(Heavy), 깨지기 쉽다(Fragile), 도달 가능하다(Reachable), 미끄럽다(Slippery), 막혀 있다(Obstructed), 안정적이다(Stable)와 같은 속성은 단순한 추상적 레이블(Abstract Labels)이 아니라 객체, 행동, 가능한 결과 사이의 관계를 설명합니다. 근거화(Grounding)는 내부 표상이 상징적 또는 언어적 지식(Symbolic or Linguistic Knowledge)을 현실 세계의 물리적 구조와 연결하도록 합니다.

행동유도성(Affordances)은 이러한 관계를 표현하는 데 특히 유용한 표상을 제공합니다. 객체는 그것이 허용하는 행동을 통해 부분적으로 이해될 수 있습니다. 표면은 서 있는 것을 지지할 수 있고, 손잡이(Handle)는 잡는 행동을 가능하게 하며, 개구부(Opening)는 통과를 허용하고, 용기(Container)는 다른 객체를 내부에 수용할 수 있습니다. 행동유도성은 환경의 특성과 에이전트의 신체 모두에 의존하므로 동일한 환경이라도 서로 다른 에이전트에게는 서로 다른 행동 가능성(Action Possibilities)을 제공할 수 있습니다.

체화는 능동 지각(Active Perception)도 가능하게 합니다. 감각 정보가 불완전할 때 에이전트는 수동적으로 기다릴 필요가 없습니다. 시점을 변경하거나, 객체에 접근하거나, 표면을 만지거나, 특정 영역을 조명하거나, 물체를 조작하거나, 탐색 행동(Exploratory Action)을 수행할 수 있습니다. 따라서 행동은 정보 가치(Information Value)를 고려하여 선택될 수 있으며, 이를 통해 에이전트는 불확실성을 줄이고 숨겨진 환경 특성에 관한 가설(Hypotheses)을 검증할 수 있습니다.

월드 모델(World Models)은 이러한 상호작용에 근거할 때 더욱 강력해집니다. 관찰 사이의 상관관계만을 표상하는 대신 체화된 월드 모델(Embodied World Model)은 행동이 환경 상태(Environmental States)와 자기 상태(Self-States)를 어떻게 변화시키는지를 학습할 수 있습니다. 객체가 움직일 것인지, 경로가 주행 가능한지(Traversable), 잡기가 성공할 것인지, 행동 이후 에이전트 자신의 구성이 어떻게 변화할 것인지 등을 예측할 수 있습니다. 이에 따라 예측은 실제 개입(Intervention)과 직접적으로 연결됩니다.

순방향 모델(Forward Models)은 후보 행동(Candidate Actions)의 감각적 결과 또는 상태 결과를 예측하기 때문에 특히 중요합니다. 에이전트가 움직임 명령(Movement Command)을 내리면 내부 모델은 행동을 실행하기 전이나 실행하는 동안 결과로 발생할 신체 구성(Body Configuration)과 환경 변화를 추정할 수 있습니다. 예측된 결과와 실제 관찰 결과를 비교하면 오류 신호(Error Signals)가 생성되며, 이는 수정(Correction), 적응, 상태 추정, 내부 모델의 정교화(Refinement)를 지원할 수 있습니다.

역방향 모델(Inverse Models)은 원하는 상태를 생성할 수 있는 행동을 추정함으로써 이러한 과정을 보완합니다. 순방향 모델과 역방향 모델을 결합하면 목표와 물리적 동역학(Physical Dynamics)을 연결할 수 있습니다. 하나는 행동으로부터 결과를 예측하고, 다른 하나는 원하는 결과로부터 필요한 행동을 추정합니다. 이들의 상호작용은 운동 제어(Motor Control), 계획(Planning), 기술 학습(Skill Learning), 환경 동역학이나 신체 조건이 변화할 때의 행동 적응을 지원합니다.

뇌의 예측적 운동 시스템(Predictive Motor Systems)은 체화가 여러 시간 규모(Time Scales)에 의존한다는 것을 보여줍니다. 빠른 감각운동 루프(Sensorimotor Loops)는 매우 짧은 시간 안에 움직임을 안정화할 수 있는 반면, 더 느린 과정은 행동 시퀀스(Action Sequences), 목표, 장기 계획(Long-Term Plans)을 조직합니다. 계층적 조직(Hierarchical Organization)은 빠른 제어와 숙고적 추론(Deliberative Reasoning)이 공존하도록 합니다. 인공 체화 시스템 역시 실시간 제어(Real-Time Control)와 고수준 계획(High-Level Planning)을 분리하면서 두 계층 사이의 정보 교환을 유지함으로써 이점을 얻을 수 있습니다.

체화 시스템에서 학습은 근본적으로 경험적(Experiential)입니다. 모든 물리적 상호작용은 기하학(Geometry), 동역학(Dynamics), 인과성(Causality), 객체 특성(Object Properties), 행동 결과(Action Outcomes), 에이전트 자신의 능력에 관한 정보를 생성할 수 있습니다. 강화학습(Reinforcement Learning)은 행동과 결과를 연결하고, 자기지도학습(Self-Supervised Learning)은 다중모달 감각 흐름(Multimodal Sensory Streams)의 규칙성을 활용하며, 예측 학습(Predictive Learning)은 예상 결과와 실제 결과 사이의 차이를 최소화하여 내부 모델을 향상시킬 수 있습니다.

체화는 인과 학습(Causal Learning)을 위한 자연스러운 기반도 제공합니다. 에이전트는 환경에 개입하고 그 결과 무엇이 변화하는지를 관찰할 수 있습니다. 밀기(Pushing), 들어 올리기(Lifting), 놓기(Releasing), 이동하기(Moving), 잡기(Grasping), 주행(Navigating)은 수동적인 관찰만으로는 파악하기 어려운 물리적 관계에 대한 증거를 생성합니다. 따라서 통제된 개입(Controlled Interventions)을 수행하는 능력은 인과 구조(Causal Structure)와 통계적 상관관계(Statistical Correlation)를 구별하고 익숙하지 않은 조건에서의 계획 능력을 향상시키는 데 도움을 줍니다.

실제 환경은 불확실하고 지속적으로 변화하기 때문에 적응적 행동(Adaptive Behavior)에는 연속적인 피드백(Continuous Feedback)이 필요합니다. 표면 특성이 달라지고, 객체가 움직이며, 센서에 잡음이 발생하고, 액추에이터(Actuators)가 외란(Disturbances)의 영향을 받으며, 다른 에이전트가 예상하지 못한 행동을 할 수 있습니다. 따라서 처음에는 합리적이었던 고정된 개방 루프 계획(Open-Loop Plan)도 실패할 수 있습니다. 체화 지능은 피드백을 이용해 의도된 상태와 실제 상태를 비교하고, 편차를 수정하며, 예측을 갱신하고, 조건 변화에 따라 이후 행동을 수정합니다.

기억(Memory)은 체화 지능을 시간적으로 확장합니다. 일화 기억(Episodic Memory)은 구체적인 상호작용을 보존하고, 의미 기억(Semantic Memory)은 객체와 환경에 대한 재사용 가능한 지식을 추출하며, 절차 기억(Procedural Memory)은 학습된 기술을 유지할 수 있습니다. 과거의 물리적 경험은 이후의 행동을 안내할 수 있습니다. 경험이 관련 객체, 과제, 상황에 전이할 수 있는 표상으로 공고화(Consolidation)된다면 로봇은 모든 특성을 반복적으로 다시 발견할 필요가 없습니다.

인공지능(Artificial Intelligence)의 관점에서 체화는 단순히 인지 모델(Cognitive Model)에 로봇의 신체를 부착하는 것 이상의 통합을 요구합니다. 지각, 기억, 월드 모델링(World Modeling), 추론(Reasoning), 계획, 제어, 학습, 행동이 하나의 조정된 아키텍처(Coordinated Architecture)에 참여해야 합니다. 현대의 체화 아키텍처(Embodied Architectures)는 다중모달 지각(Multimodal Perception), 예측적 월드 모델(Predictive World Models), 적응 제어(Adaptive Control), 학습 메커니즘, 고수준 인지 시스템(Higher-Level Cognitive Systems)을 지속적인 피드백 루프 안에서 점차 통합하고 있습니다.

이러한 통합은 물리적 환경에 모호성(Ambiguity), 불확실성, 새로움(Novelty), 그리고 사전에 완전히 표상하기 어려운 결과가 존재하기 때문에 일반 지능(General Intelligence)에서 특히 중요합니다. 체화된 에이전트는 무엇이 중요한지를 지속적으로 판단하고, 부족한 정보를 수집하고, 가능한 미래를 예측하며, 실행 가능한 행동을 선택하고, 행동의 실행 과정을 모니터링하며, 결과로부터 학습해야 합니다. 따라서 지능은 입력에서 출력으로 이어지는 고정된 매핑(Fixed Mapping)이 아니라 지속적으로 진행되는 적응적 과정(Adaptive Process)이 됩니다.

신경과학(Neuroscience)의 관점에서 체화 지능은 전체 인지 아키텍처에서 논의되는 다양한 메커니즘을 연결합니다. 지각은 환경에 대한 증거를 제공하고, 내부 모델(Internal Models)은 행동의 결과를 예측하며, 기억은 경험을 보존하고, 주의(Attention)는 관련 정보를 선택하며, 행동은 예측을 실제 환경에서 검증하고, 피드백은 적응을 유도합니다. 이러한 요소들의 통합은 인지를 현실 세계에 근거화하고, 추상적인 인공지능에서 실제 물리 세계에서 효과적으로 학습하고 행동할 수 있는 자율 에이전트(Autonomous Agents)로 발전하기 위한 중요한 경로를 제공합니다.

11.05 Self Learning Systems [w/Code]

자기 학습 시스템(Self-Learning Systems)은 고정된 학습 단계(Fixed Training Phase)에만 의존하지 않고 지속적인 상호작용을 통해 내부 모델(Internal Models), 표상(Representations), 정책(Policies), 전략(Strategies)을 개선하는 인공 또는 생물학적 시스템을 의미합니다. 신경과학(Neuroscience)의 맥락에서 이러한 개념은 학습(Learning), 기억(Memory), 예측(Prediction), 체화(Embodiment), 적응(Adaptation)을 연결하며, 생물학적 지속 학습(Biological Continual Learning)과 더욱 자율적인 인공지능 에이전트(Artificial Agents)를 연결하는 중요한 개념입니다.

뇌는 새로운 감각 입력(Sensory Inputs), 과제(Tasks), 환경(Environments), 목표(Goals)에 지속적으로 적응하기 때문에 자기 주도적 학습(Self-Directed Learning)의 자연스러운 사례를 제공합니다. 학습은 초기 학습 기간이 끝났다고 해서 중단되지 않습니다. 시냅스 가소성(Synaptic Plasticity), 기억 공고화(Memory Consolidation), 강화 메커니즘(Reinforcement Mechanisms), 예측적 갱신(Predictive Updating)을 통해 신경 시스템은 이전에 획득한 지식과 기술의 상당 부분을 유지하면서 평생에 걸쳐 변화할 수 있습니다.

따라서 자기 학습 시스템은 현재 보유한 지식이 충분하지 않은 시점을 감지할 수 있는 메커니즘을 필요로 합니다. 예측 오류(Prediction Errors), 행동 실패(Failed Actions), 불확실성(Uncertainty), 새로움(Novelty), 상충하는 증거(Conflicting Evidence), 예상하지 못한 결과(Unexpected Outcomes)는 모두 적응이 필요하다는 신호가 될 수 있습니다. 시스템은 이러한 사건을 단순한 실패로 처리하지 않고 어떤 표상, 모델 또는 정책을 수정해야 하는지를 식별하는 학습 신호(Learning Signals)로 활용할 수 있습니다.

예측 학습(Predictive Learning)은 지능형 시스템이 예상된 결과와 실제 관찰을 비교함으로써 학습할 수 있기 때문에 특히 중요합니다. 월드 모델(World Model)이 미래 상태를 예측했지만 현실이 이와 다르다면, 그 결과로 발생한 오류는 모델이 아직 포착하지 못한 것이 무엇인지에 대한 정보를 제공합니다. 반복적인 예측과 수정을 통해 시스템은 모든 경험에 명시적인 레이블(Explicit Labels)을 요구하지 않고도 객체, 동역학(Dynamics), 시간적 구조(Temporal Structure), 행동 결과(Action Consequences)에 대한 표상을 개선할 수 있습니다.

자기지도학습(Self-Supervised Learning)은 인공 시스템을 위한 이와 관련된 전략을 제공합니다. 풍부한 감각 데이터 흐름(Sensory Streams)은 누락된 정보, 미래 관찰(Future Observations), 교차 모달 관계(Cross-Modal Relationships), 상태 전이(State Transitions)를 예측하는 것과 같이 자체적으로 학습 목표를 생성할 수 있는 내부 구조를 포함합니다. 체화된 에이전트(Embodied Agents)에서는 시각, 촉각, 고유수용감각(Proprioception), 오디오(Audio), 행동 이력(Action Histories)이 서로를 제약하는 신호를 제공하여 대규모 경험을 유용한 학습 데이터로 활용할 수 있도록 합니다.

강화학습(Reinforcement Learning)은 행동과 장기적인 결과(Long-Term Consequences)를 연결함으로써 자기 학습에 기여합니다. 에이전트는 다양한 행동을 탐색하고, 보상(Rewards)이나 비용(Costs)을 관찰하며, 경험에 따라 자신의 정책을 수정할 수 있습니다. 생물학적 보상 시스템(Biological Reward Systems) 역시 예측 오류를 이용하여 학습에 영향을 줍니다. 자기 학습 에이전트에서 강화 신호(Reinforcement Signals)는 어떤 발견이 실제로 목표 지향적 행동(Goal-Directed Behavior)을 향상시키는지를 강조함으로써 예측 및 자기지도 학습 목표를 보완할 수 있습니다.

따라서 탐색(Exploration)은 자기 학습의 근본적인 요소입니다. 수동적인 관찰(Passive Observation)만으로는 중요한 속성이 숨겨진 상태로 남을 수 있지만, 능동적인 상호작용(Active Interaction)을 통해 이러한 속성을 드러낼 수 있습니다. 에이전트는 더 나은 시점을 확보하기 위해 이동하거나, 객체를 조작하고, 경로를 시험하거나, 통제된 조건에서 불확실한 행동을 의도적으로 수행할 수 있습니다. 탐색은 불확실성을 단순히 행동을 피해야 하는 이유가 아니라 새로운 정보를 획득할 기회로 전환합니다.

기억(Memory)은 여러 학습 과정에 걸쳐 연속성(Continuity)을 제공합니다. 일화 기억(Episodic Memory)은 특이하거나 유용한 경험을 보존하고, 의미 기억(Semantic Memory)은 일반화된 지식을 축적하며, 절차 기억(Procedural Memory)은 성공적으로 학습된 기술을 유지할 수 있습니다. 재생(Replay)과 공고화(Consolidation)는 중요한 경험이 발생한 이후에도 이를 다시 처리할 수 있도록 하여 원래 상황이 계속 존재하지 않아도 학습을 지속하고 즉각적인 온라인 갱신(Online Updates)에 대한 의존성을 줄여줍니다.

지속 학습(Continual Learning)은 새로운 능력을 획득하면서 기존 능력을 보존해야 하는 문제를 발생시킵니다. 최근 경험에 따라 모델을 갱신하면 이전에 학습한 과제를 지원하는 표상이 덮어써져 치명적 망각(Catastrophic Forgetting)이 발생할 수 있습니다. 생물학적 시스템은 분산 표상(Distributed Representations), 재생, 공고화, 다중 학습 시간 척도(Multiple Learning Timescales), 선택적 가소성(Selective Plasticity)을 통해 이러한 문제를 완화하는 것으로 보이며, 이는 인공 지속 학습(Artificial Continual Learning)을 위한 유용한 원리를 제공합니다.

따라서 자기 학습 아키텍처(Self-Learning Architecture)는 빠른 적응(Fast Adaptation)과 느린 공고화(Slower Consolidation)를 분리할 수 있습니다. 빠른 메커니즘은 새로운 조건에 신속하게 대응하고, 느린 메커니즘은 새로운 정보가 장기 지식(Long-Term Knowledge)을 영구적으로 수정해야 하는지를 평가할 수 있습니다. 이러한 분리는 중요한 환경 변화가 미래 행동에 영향을 미치도록 하면서도 일시적인 잡음이나 고립된 사건이 기존에 확립된 표상을 불안정하게 만드는 것을 방지하는 데 도움을 줍니다.

메타인지(Metacognition)는 언제 그리고 어떻게 학습할 것인지를 조절할 수 있습니다. 자신의 불확실성을 추정하는 에이전트는 잘 이해하지 못하는 상황에 추가적인 계산 자원이나 데이터 수집을 할당하면서 익숙한 조건에서는 불필요한 갱신을 피할 수 있습니다. 신뢰도 추정(Confidence Estimates)은 새로운 경험이 즉각적인 적응을 유발해야 하는지, 이후 검토를 위해 저장되어야 하는지, 또는 센서 잡음(Sensor Noise)이나 모호한 증거 때문에 신뢰할 수 없는 것으로 처리되어야 하는지를 결정하는 데에도 활용될 수 있습니다.

자기 모델링(Self-Modeling) 역시 중요합니다. 학습은 에이전트 자체에서 발생하는 변화까지 고려해야 하기 때문입니다. 로봇에서는 배터리 성능 저하(Battery Degradation), 센서 드리프트(Sensor Drift), 적재량 변화(Altered Payload), 액추에이터 마모(Actuator Wear), 하드웨어 교체(Hardware Replacement)가 발생할 수 있습니다. 시스템이 자신의 능력과 한계를 표상할 수 있다면 환경 변화와 자신의 신체에서 발생한 변화를 구별하고 이에 따라 제어, 지각, 계획을 적응시킬 수 있습니다.

월드 모델(World Models)은 상태가 어떻게 변화하고 행동이 이러한 변화에 어떤 영향을 미치는지에 대한 지식을 축적할 수 있기 때문에 자기 학습의 핵심 기반을 제공합니다. 새로운 경험은 객체 표상(Object Representations), 공간 관계(Spatial Relationships), 인과적 가정(Causal Assumptions), 동역학을 지속적으로 정교화할 수 있습니다. 이후 에이전트는 시뮬레이션(Simulation)이나 실제 상호작용을 통해 갱신된 모델을 검증하여 학습이 예측을 개선하고 향상된 예측이 다시 다음 학습을 안내하는 순환 구조를 형성할 수 있습니다.

조합성(Compositionality)은 새롭게 획득한 지식이 전체 과제 해결 방법이 아니라 재사용 가능한 구성 요소(Reusable Components)를 수정할 수 있도록 함으로써 자기 학습의 효율성을 높일 수 있습니다. 예를 들어 특정 표면이 미끄럽다는 사실을 학습하면 각각의 과제를 독립적으로 다시 학습하지 않고도 내비게이션(Navigation), 조작(Manipulation), 균형(Balance), 계획에 영향을 줄 수 있습니다. 따라서 모듈형 표상(Modular Representations)은 국소적인 발견이 여러 관련 행동에 전파될 수 있도록 하여 지식 전이(Knowledge Transfer)를 지원합니다.

체화(Embodiment)는 행동 자체가 구조화된 학습 경험(Structured Training Experiences)을 생성하기 때문에 자기 학습을 더욱 강화합니다. 물리적 에이전트는 자신의 예측과 계획이 현실과 일치하는지에 대한 지속적인 피드백을 받습니다. 접촉력(Contact Forces), 운동 오류(Motion Errors), 객체 이동(Object Movement), 경로 성공(Path Success), 센서 변화는 적응을 위한 밀도 높은 신호(Dense Signals)를 제공합니다. 따라서 학습은 내부 모델과 외부 세계 사이의 관계를 직접 반영하는 실제 결과에 근거하게 됩니다.

그러나 제한되지 않은 자기 학습(Unrestricted Self-Learning)은 불안정성을 발생시킬 수도 있습니다. 자율 시스템(Autonomous System)은 잘못된 가정을 강화하거나, 최근 경험에 과적합(Overfitting)하거나, 손상된 데이터(Corrupted Data)로부터 학습하거나, 원하는 행동에서 점진적으로 벗어날 수 있습니다. 따라서 실용적인 아키텍처에는 적응이 신뢰성을 훼손하지 않으면서 능력을 향상시키도록 제약 조건(Constraints), 검증(Validation), 불확실성 모니터링(Uncertainty Monitoring), 안전한 탐색(Safe Exploration), 롤백 메커니즘(Rollback Mechanisms), 필요한 경우 인간 감독(Human Oversight)이 포함되어야 합니다.

인공 일반 지능(Artificial General Intelligence, AGI)의 관점에서 자기 학습 시스템은 배치(Deployment) 이후에도 수정 가능성을 유지하는 지능을 의미합니다. 이러한 시스템은 사전학습(Pretraining)에서 획득한 능력을 단순히 실행하는 것에 그치지 않고 지속적으로 관찰하고, 평가하고, 실험하고, 기억하며, 적응할 수 있습니다. 핵심 과제는 하나의 일관된 학습 아키텍처 안에서 가소성(Plasticity)과 안정성(Stability), 자율성(Autonomy)과 안전성(Safety), 빠른 적응과 장기적인 지식 보존(Long-Term Knowledge Preservation)을 결합하는 것입니다.

더 넓은 신경과학 기반 원리(Neuroscience-Inspired Principle)에서 학습은 폐쇄형 인지 루프(Closed Cognitive Loop)의 일부로 작동해야 합니다. 지각(Perception)은 증거를 제공하고, 기억은 경험을 보존하며, 월드 모델은 예측을 생성하고, 행동은 이러한 예측을 검증하며, 피드백(Feedback)은 오류를 드러내고, 메타인지적 제어(Metacognitive Control)는 무엇을 변경해야 하는지를 결정합니다. 이러한 순환을 반복함으로써 자기 학습 에이전트(Self-Learning Agent)는 새로운 환경과 과제에 지속적으로 대응하면서 자신의 모델, 기술, 전략을 점진적으로 향상시킬 수 있습니다.

11.06 Brain Efficiency vs AI Scaling [w/Code]

뇌 효율성(Brain Efficiency)과 인공지능 확장(AI Scaling)의 비교는 점점 더 높은 능력을 가진 지능으로 발전하는 서로 다른 두 가지 경로를 보여줍니다. 생물학적 뇌(Biological Brains)는 매우 엄격한 에너지와 하드웨어 제약 아래에서도 광범위한 지각(Perception), 학습(Learning), 기억(Memory), 추론(Reasoning), 행동(Action)을 수행하는 반면, 현대 인공지능은 주로 파라미터(Parameters), 학습 데이터(Training Data), 가속기(Accelerators), 메모리 대역폭(Memory Bandwidth), 계산량(Computation)을 증가시켜 성능을 향상시킵니다. 따라서 이 주제는 신경과학 기반 AGI(Neuroscience-Inspired AGI)를 실용적인 에너지 효율적 인공지능(Energy-Efficient AI) 설계와 연결합니다.

인공지능 확장(AI Scaling)은 더 많은 데이터와 계산 자원을 사용하여 더 큰 모델을 학습하면 점점 더 광범위한 능력을 획득할 수 있다는 것을 보여주었습니다. 확장은 표상 품질(Representation Quality), 전이(Transfer), 문맥 내 적응(In-Context Adaptation), 다양한 과제에서의 성능을 향상시킬 수 있습니다. 그러나 규모가 증가하면 학습 비용(Training Cost), 추론 비용(Inference Cost), 메모리 요구량, 통신 오버헤드(Communication Overhead), 에너지 소비, 배포 복잡성(Deployment Complexity)도 증가하므로 계산 효율성(Computational Efficiency)은 지능형 시스템 설계에서 점점 더 중요한 요소가 됩니다.

뇌는 이와 상당히 다른 계산 체계(Computational Regime)를 따릅니다. 뇌에는 엄청난 수의 상호 연결된 뉴런(Neurons)과 시냅스(Synapses)가 존재하지만, 신경 활동(Neural Activity)은 분산적이고 희소하며(Sparse), 비동기적(Asynchronous)이고 대사 비용(Metabolic Cost)에 의해 강하게 제한됩니다. 모든 뉴런이 모든 계산에 동일하게 참여하는 것은 아닙니다. 서로 다른 회로는 감각 입력, 행동 맥락(Behavioral Context), 목표, 내부 상태에 따라 선택적으로 활성화되며, 이는 생물학적 지능이 균일한 전체 활성화보다 선택적 계산(Selective Computation)에 크게 의존한다는 것을 시사합니다.

따라서 희소 처리(Sparse Processing)는 뇌 효율성의 중요한 원리 가운데 하나입니다. 신경 집단(Neural Populations)은 전체 시스템을 최대 수준으로 활성화하기보다 사용 가능한 뉴런 가운데 일부를 이용하여 정보를 표상하는 경우가 많습니다. 희소 표상(Sparse Representations)은 간섭(Interference)을 감소시키고, 표상 용량(Representational Capacity)을 향상시키며, 에너지 소비를 제한할 수 있습니다. 인공지능에서는 희소 활성화(Sparse Activations), 조건부 계산(Conditional Computation), 선택적 라우팅(Selective Routing), 가지치기(Pruning), 특정 입력이나 과제에 필요한 자원만 활성화하는 아키텍처가 이와 유사한 전략에 해당합니다.

주의(Attention)는 불필요한 계산을 감소시키는 또 다른 메커니즘을 제공합니다. 생물학적 시스템은 모든 감각 신호를 동일한 정밀도로 처리할 수 없기 때문에 관련성(Relevance), 새로움(Novelty), 불확실성(Uncertainty), 기대 가치(Expected Value), 잠재적 위험(Potential Danger)에 따라 정보의 우선순위를 결정합니다. 인공지능 시스템 역시 사용 가능한 모든 정보를 동일하게 처리하는 대신 중요한 토큰(Tokens), 영역(Regions), 기억, 감각 양식(Modalities), 후보 행동(Candidate Actions)에 비용이 높은 계산을 집중함으로써 계산 자원을 선택적으로 할당할 수 있습니다.

모듈성(Modularity) 역시 서로 다른 계산 문제를 전문화된 신경 회로가 각 기능에 적합한 구조를 이용하여 해결할 수 있기 때문에 효율성에 기여합니다. 시각 처리, 기억, 운동 제어(Motor Control), 가치 평가(Valuation), 실행 조절(Executive Regulation)은 동일한 계산을 요구하지 않습니다. 인공 시스템에서도 모듈형 아키텍처(Modular Architectures)는 필요한 경우 전문화된 구성 요소가 독립적으로 작동하면서 필요할 때 정보를 공유하도록 하여 하나의 거대한 단일 네트워크(Monolithic Network)가 모든 계산을 동시에 수행해야 하는 필요성을 줄일 수 있습니다.

계층적 처리(Hierarchical Processing)는 정보를 여러 추상화 수준(Levels of Abstraction)에서 표상함으로써 계산 부담을 줄일 수 있습니다. 초기 처리 단계에서는 비교적 국소적인 특징(Local Features)을 추출하고, 상위 수준에서는 객체, 관계, 목표, 개념을 표상할 수 있습니다. 유용한 추상적 표상이 확보되면 추론 과정에서 항상 모든 저수준 세부 정보를 다시 구성할 필요가 없습니다. 인공지능 월드 모델(AI World Models)과 인지 아키텍처(Cognitive Architectures) 역시 세밀한 감각 재구성이 필요하지 않은 경우 압축된 잠재 상태(Compressed Latent States)를 이용하여 효율적으로 작동할 수 있습니다.

기억(Memory)은 생물학적 효율성과 무차별적 규모 확장(Brute-Force Scaling)의 또 다른 차이를 보여줍니다. 뇌는 모든 경험을 모든 계산 경로를 영구적으로 수정하는 방식으로 저장하지 않는 것으로 보입니다. 서로 다른 기억 시스템은 사건(Episodes), 개념(Concepts), 기술(Skills), 단기 과제 정보(Short-Term Task Information)를 상호작용하는 다양한 메커니즘을 통해 보존합니다. 인공 에이전트 역시 모든 새로운 사실을 모델 파라미터에 강제로 저장하는 대신 파라미터 지식(Parametric Knowledge)을 외부 기억(External Memory), 일화 기억(Episodic Memory), 의미 기억(Semantic Memory), 절차 기억(Procedural Memory), 작업 기억(Working Memory)과 분리함으로써 이점을 얻을 수 있습니다.

이러한 구분은 모델 확장(Model Scaling)에 중요한 의미를 가집니다. 파라미터 수를 증가시키면 표상 용량을 확장할 수 있지만 모든 형태의 지식을 저장하는 수단으로 파라미터만 사용하는 것은 비용이 많이 듭니다. 검색 기반 시스템(Retrieval-Based Systems)은 필요한 경우에만 관련 정보에 접근할 수 있으며, 작업 기억은 일시적인 맥락을 유지하고 장기 기억 저장소(Long-Term Stores)는 지속적인 지식을 보존할 수 있습니다. 이러한 기억 인식 아키텍처(Memory-Aware Architectures)는 모든 추론에 사용되는 계산량을 비례적으로 증가시키지 않으면서 시스템의 실질적인 능력을 확장할 가능성을 제공합니다.

예측(Prediction) 역시 효율성을 높이는 메커니즘입니다. 유용한 내부 모델(Internal Models)을 가진 시스템은 모든 상황을 완전히 새로운 것으로 처리할 필요가 없습니다. 학습된 기대(Learned Expectations)는 해석 가능한 범위를 제한하고 계산이 예상하지 못한 정보에 집중되도록 합니다. 예측 오류(Prediction Errors)는 기존 모델이 실패하는 부분을 식별하여 학습과 주의가 정보 가치가 높은 차이점에 집중되도록 합니다. 이러한 의미에서 효율적인 지능은 현실이 예상과 달라지는 부분에 계산 자원을 집중적으로 사용하는 능력에 부분적으로 의존합니다.

뇌는 또한 여러 시간 척도(Multiple Timescales)에서 작동합니다. 빠른 감각운동 회로(Sensorimotor Circuits)는 긴급한 제어를 담당하는 반면, 더 느린 과정은 숙고(Deliberation), 기억 공고화(Memory Consolidation), 전략적 계획(Strategic Planning), 학습을 지원합니다. 모든 문제에 동일한 수준의 처리가 적용되는 것은 아닙니다. 인공 에이전트도 이와 유사한 적응형 계산(Adaptive Computation)을 적용하여 익숙한 상황에서는 비용이 낮은 처리 경로를 사용하고, 불확실하거나 어려운 문제에는 심층 추론(Deep Reasoning), 시뮬레이션(Simulation), 검색(Retrieval), 계획에 더 많은 자원을 할당할 수 있습니다.

국소 계산(Local Computation)은 신경 효율성의 또 다른 특징입니다. 많은 신경 연산은 모든 정보를 중앙 처리장치와 메모리 시스템 사이에서 지속적으로 이동시키는 대신 가까운 회로 내부에서 수행됩니다. 반면 현대 디지털 인공지능 하드웨어는 연산 장치(Compute Units), 가속기 메모리(Accelerator Memory), 호스트 메모리(Host Memory), 분산 노드(Distributed Nodes) 사이에서 데이터를 이동시키는 데 상당한 비용이 발생할 수 있습니다. 따라서 뇌 기반 컴퓨팅(Brain-Inspired Computing)은 데이터 이동(Data Movement)을 줄이고 저장된 표상에 더 가까운 위치에서 계산을 수행하는 아키텍처의 필요성을 제시합니다.

뉴로모픽 컴퓨팅(Neuromorphic Computing)은 이벤트 기반 통신(Event-Driven Communication), 국소 상태(Local State), 희소 활동, 뉴런과 유사한 계산 요소를 중심으로 하드웨어를 설계함으로써 이러한 원리를 보다 직접적으로 탐구합니다. 스파이킹 신경망(Spiking Neural Networks) 역시 시간에 따라 분산되는 이산 이벤트(Discrete Events)를 이용하여 정보를 표상합니다. 이러한 접근법이 기존 딥러닝(Conventional Deep Learning)을 자동으로 능가하는 것은 아니지만 전력, 지연시간(Latency), 지속적 감지(Continuous Sensing), 엣지 배포(Edge Deployment)에 엄격한 제약이 존재하는 환경에서 가치가 있을 수 있는 새로운 계산 체계를 탐구합니다.

학습 효율성(Learning Efficiency)도 마찬가지로 중요합니다. 인간은 기존 지식(Prior Knowledge), 구조화된 표상(Structured Representations), 인과적 기대(Causal Expectations), 능동 탐색(Active Exploration)을 결합하여 비교적 적은 경험만으로도 유용한 개념을 학습할 수 있습니다. 대규모 인공지능 시스템은 상대적으로 약한 귀납적 구조(Inductive Structure)를 막대한 데이터셋과 계산량으로 보완하는 경우가 많습니다. 따라서 신경과학은 단순히 학습 규모를 계속 증가시키는 것보다 기존 지식을 더욱 효과적으로 재사용하는 시스템에 대한 연구 방향을 제시합니다.

조합성(Compositionality)은 재사용 가능한 구성 요소가 모든 가능한 상황을 독립적으로 학습해야 하는 필요성을 줄이기 때문에 이러한 목표에 기여할 수 있습니다. 객체, 관계, 기술, 인과 구조(Causal Structures), 행동 기본 요소(Action Primitives)는 새로운 해결책을 구성하기 위해 재결합될 수 있습니다. 모듈형 및 조합적 표상(Modular and Compositional Representations)을 학습하는 시스템은 더 적은 사례에서도 광범위하게 일반화할 수 있으며, 확장 문제의 일부를 더 많은 학습 사례를 축적하는 것에서 학습된 지식의 구조와 재사용성을 향상시키는 방향으로 전환할 수 있습니다.

체화 학습(Embodied Learning)은 효율성의 또 다른 잠재적 원천을 제공합니다. 세계와 상호작용하는 에이전트는 고정된 데이터셋을 무차별적으로 소비하는 대신 불확실성을 감소시키는 경험을 능동적으로 선택할 수 있습니다. 행동은 가설(Hypotheses)을 검증하고, 숨겨진 특성을 드러내며, 정보 가치가 높은 관찰을 생성할 수 있습니다. 따라서 능동 지각(Active Perception)과 탐색(Exploration)은 추가 경험이 에이전트의 내부 모델을 향상시킬 것으로 예상되는 상황에 학습 자원을 집중할 수 있도록 합니다.

확장(Scaling)과 효율성(Efficiency)을 서로 배타적인 전략으로 취급할 필요는 없습니다. 대규모 모델은 강력한 표상 학습(Representation Learning)과 광범위한 사전 지식(Prior Knowledge)을 제공할 수 있으며, 신경과학 기반 메커니즘은 이러한 자원이 어떻게 접근되고 사용될지를 결정할 수 있습니다. 조건부 계산, 모듈형 라우팅(Modular Routing), 구조화된 기억(Structured Memory), 월드 모델, 적응형 추론(Adaptive Reasoning), 희소 활성화, 계층적 제어(Hierarchical Control)는 규모와 뇌 기반 접근법 가운데 하나만 선택하는 대신 대규모 시스템 자체를 더욱 효율적으로 만들 수 있습니다.

체화 인공지능(Embodied AI)에서는 로봇이 배터리 용량(Battery Capacity), 열 방출(Thermal Dissipation), 계산 하드웨어(Compute Hardware), 지연시간, 통신 대역폭(Communication Bandwidth), 페이로드(Payload)의 엄격한 한계 아래에서 작동하기 때문에 이러한 결합이 특히 중요합니다. 로봇은 모든 제어 의사결정에 무제한적인 데이터센터 계산(Data-Center Computation)을 사용할 수 있다고 가정할 수 없습니다. 따라서 지각, 예측, 계획, 기억 검색, 추론은 과제의 긴급성(Urgency), 불확실성, 안전성(Safety), 사용 가능한 계산 자원에 따라 우선순위가 결정되어야 합니다.

뇌 효율성은 AGI(Artificial General Intelligence)로의 발전을 평가하는 방법에도 변화를 요구합니다. 단순한 모델 크기(Model Size)나 계산량만으로 일반 지능을 평가할 수 없습니다. 중요한 평가 요소에는 샘플 효율성(Sample Efficiency), 전이(Transfer), 지속 학습(Continual Learning), 유용한 의사결정당 에너지(Energy per Useful Decision), 기억 효율성(Memory Efficiency), 강건성(Robustness), 적응형 계산, 여러 과제에서 지식을 재사용하는 능력이 포함됩니다. 기존 지식을 효과적으로 재구성할 수 있는 작은 시스템이 훨씬 크지만 경직된 시스템보다 더 유용한 일반화 능력을 제공하는 경우도 있을 수 있습니다.

더 넓은 관점에서 미래의 지능형 시스템(Intelligent Systems)은 규모 확장과 아키텍처 효율성(Architectural Efficiency)을 모두 필요로 할 가능성이 높습니다. 확장은 충분한 용량(Capacity)과 광범위하게 학습된 표상을 제공하고, 뇌 기반 원리는 계산, 기억, 학습, 주의가 어떻게 효율적으로 할당되는지를 개선할 수 있습니다. 따라서 지능이 더 큰 모델에서 나와야 하는지 또는 효율적인 아키텍처에서 나와야 하는지를 선택하기보다 충분한 규모를 희소성(Sparsity), 모듈성(Modularity), 예측성(Predictive Processing), 적응성(Adaptivity), 자원 인식 계산(Resource-Aware Computation)과 결합하는 것이 더욱 생산적인 방향이 될 수 있습니다.

11.07 Limitations and Misconceptions

신경과학(Neuroscience)은 인공지능(Artificial Intelligence)에 강력한 아이디어를 제공하지만, 그 기여는 신중하게 해석해야 합니다. 뇌는 인공 일반 지능(Artificial General Intelligence, AGI)을 위한 완성된 공학적 설계도(Engineering Blueprint)가 아니며, 생물학적 관찰(Biological Observations)이 최적의 알고리즘으로 직접 변환되는 경우도 드뭅니다. 신경과학은 계산 원리(Computational Principles), 제약 조건(Constraints), 조직 패턴(Organizational Patterns)을 밝혀낼 수 있지만, 이러한 발견을 인공 시스템으로 구현하려면 생물학적 설명을 넘어서는 추상화(Abstraction), 실험(Experimentation), 공학적 선택(Engineering Choices)이 필요합니다.

일반적인 오해 가운데 하나는 뇌 기반 인공지능(Brain-Inspired AI)이 뇌의 해부학적 세부 구조를 그대로 재현해야 한다는 것입니다. 인공 시스템이 모든 피질 영역(Cortical Areas), 신경전달물질(Neurotransmitters), 세포 유형(Cell Types), 생물학적 경로(Biological Pathways)에 대응하는 인공 구조를 반드시 구현할 필요는 없습니다. 오히려 분산 처리(Distributed Processing), 순환 계산(Recurrent Computation), 기억 전문화(Memory Specialization), 예측(Prediction), 주의(Attention), 가소성(Plasticity), 계층적 조직(Hierarchical Organization), 폐쇄 루프 상호작용(Closed-Loop Interaction)과 같은 상위 수준의 원리에서 유용한 영감을 얻을 수 있습니다.

반대 방향의 오해는 기존 인공지능이 이미 뛰어난 성능을 보여주기 때문에 생물학적 구현의 세부 사항은 중요하지 않다는 것입니다. 생물학적 제약(Biological Constraints)은 지속 학습(Continual Learning), 샘플 효율성(Sample Efficiency), 에너지 효율성(Energy Efficiency), 강건한 적응(Robust Adaptation), 감각운동 통합(Sensorimotor Integration), 제한된 감독하의 학습(Learning under Limited Supervision)과 같이 인공 시스템에서 여전히 해결하기 어려운 문제에 대한 해법을 제시할 수 있습니다. 따라서 신경과학의 가치는 문자 그대로의 모방에도, 생물학적 원리의 완전한 무시에도 있지 않습니다.

기능적 유사성(Functional Similarity)은 기계적 동등성(Mechanistic Equivalence)과 구별되어야 합니다. 인공적인 주의 메커니즘(Attention Mechanism)은 생물학적 주의와 동일하게 작동하지 않으면서도 선택적 주의(Selective Attention)와 유사한 계산적 역할을 수행할 수 있습니다. 마찬가지로 인공 기억(Artificial Memory), 강화학습(Reinforcement Learning), 예측 모델(Predictive Models), 순환 신경망(Recurrent Networks)은 신경 시스템과 기능적 개념을 공유하면서도 근본적으로 다른 표상, 학습 규칙(Learning Rules), 시간 메커니즘(Timing Mechanisms), 하드웨어 구현(Hardware Implementations)을 사용할 수 있습니다.

용어(Terminology)는 추가적인 혼란을 발생시킬 수 있습니다. 주의, 기억, 예측, 보상(Reward), 의식(Consciousness), 추론(Reasoning), 월드 모델(World Model)과 같은 용어는 신경과학과 인공지능에서 모두 사용되지만 반드시 동일한 과정을 의미하지는 않습니다. 공통된 용어는 계산적 기능(Computational Function), 생물학적 메커니즘(Biological Mechanism), 실험적 증거(Experimental Evidence), 인공적 구현(Artificial Implementation)을 명확하게 구분하지 않을 경우 피상적인 비교를 유도할 수 있습니다.

또 다른 한계는 신경과학 자체가 아직 완전하지 않다는 것입니다. 뇌에는 분자(Molecular), 세포(Cellular), 회로(Circuit), 네트워크(Network), 행동(Behavioral), 사회적(Social) 수준에 걸쳐 상호작용하는 과정들이 존재하며, 많은 메커니즘은 여전히 논쟁의 대상입니다. 신경 활동과 행동 사이에서 신뢰할 수 있는 상관관계가 관찰되더라도 특정 신호가 인과적(Causal)인지, 필수적인지(Necessary), 충분한지(Sufficient), 또는 다른 과정과 단순히 연관된 것인지 판단하는 것은 과학적으로 어려울 수 있습니다.

따라서 뇌 영역(Brain Regions)을 단순한 일대일 기능을 가진 독립적인 소프트웨어 모듈(Software Modules)처럼 취급해서는 안 됩니다. 해마(Hippocampus)는 단순한 기억 데이터베이스가 아니며, 전전두엽 피질(Prefrontal Cortex)은 단순한 계획 프로세서가 아니고, 기저핵(Basal Ganglia)도 강화학습 모듈과 동일하지 않습니다. 신경 구조는 상호작용하는 네트워크에 참여하며, 그 기능적 기여는 맥락(Context), 학습, 시간적 특성(Timing), 과제 요구(Task Demands), 다른 시스템과의 정보 교환에 따라 달라집니다.

마찬가지로 인지 기능(Cognitive Functions)을 항상 명확하게 분리할 수 있는 것은 아닙니다. 지각(Perception)은 기억과 기대(Expectation)에 의존하고, 기억 검색(Memory Retrieval)은 주의와 목표의 영향을 받으며, 의사결정(Decision Making)은 예측과 가치 평가(Valuation)를 포함하고, 행동(Action)은 이후의 지각을 변화시킵니다. 생물학적 인지는 본질적으로 순환적이고 상호작용적입니다. 인지를 여러 모듈로 구분하는 공학적 다이어그램은 유용한 추상화이지만, 그 경계를 실제 생물학적 분리로 오해해서는 안 됩니다.

뇌의 효율성(Brain Efficiency) 역시 지나치게 단순화될 수 있는 영역입니다. 뇌의 비교적 낮은 에너지 소비가 모든 생물학적 계산이 모든 디지털 알고리즘보다 본질적으로 효율적이라는 것을 의미하지는 않습니다. 생물학적 시스템과 전자 시스템은 매우 다른 물리적 기반(Substrates), 정밀도 요구사항(Precision Requirements), 통신 메커니즘(Communication Mechanisms), 시간 척도(Timescales), 물리적 제약 아래에서 작동합니다. 따라서 의미 있는 비교를 위해서는 단순한 에너지 소비량이 아니라 전체 계산 과제(Computational Task)를 고려해야 합니다.

뉴로모픽 컴퓨팅(Neuromorphic Computing)과 스파이킹 신경망(Spiking Neural Networks)은 이러한 차이를 잘 보여줍니다. 이벤트 기반 처리(Event-Driven Processing), 희소 활동(Sparse Activity), 국소 계산(Local Computation)은 특히 전력이나 지연시간(Latency)에 제약이 있는 특정 응용 분야에서 매력적인 특성을 제공할 수 있습니다. 그러나 스파이크(Spikes)나 뉴런과 유사한 동역학(Neuron-Like Dynamics)을 재현한다고 해서 인간과 유사한 지능, 일반적 추론(General Reasoning), 우수한 학습 능력이 자동으로 형성되는 것은 아닙니다. 생물학적 유사성(Biological Resemblance) 자체는 계산적 우수성(Computational Advantage)의 증거가 아닙니다.

규모 확장(Scale)에 대해서도 동일한 주의가 필요합니다. 뇌의 능력이 대규모 인공 모델(Large Artificial Models)이 불필요하다는 증거로 해석되어서는 안 되며, 대규모 모델의 성공 역시 규모만으로 AGI가 만들어진다는 것을 의미하지 않습니다. 모델 용량(Model Capacity), 데이터, 계산량, 아키텍처 구조(Architectural Structure), 기억, 상호작용, 학습 전략(Learning Strategy), 환경 근거화(Environmental Grounding)는 서로 다른 방식으로 기여할 수 있습니다. 따라서 규모 확장과 뇌 기반 효율성(Brain-Inspired Efficiency)은 상호 보완적인 설계 차원(Complementary Design Dimensions)으로 고려해야 합니다.

또 다른 오해는 학습 효율성(Learning Efficiency)과 관련됩니다. 인간은 때때로 적은 수의 사례만으로 개념을 학습할 수 있지만, 인간의 학습이 완전히 아무것도 없는 상태에서 시작되는 것은 아닙니다. 모든 학습자는 생물학적 구조(Biological Structure)를 가지고 태어나며 방대한 양의 감각적, 운동적, 언어적, 사회적 경험을 통해 발달합니다. 따라서 인간의 소수 예제 학습(Few-Shot Learning)을 무작위 초기화(Random Initialization)에서 시작한 인공지능 모델과 직접 비교하면 사전 지식(Prior Knowledge)과 발달 이력(Developmental History)의 상당한 차이를 간과할 수 있습니다.

인간 지능(Human Intelligence) 역시 항상 강건하거나 합리적인 것은 아닙니다. 생물학적 인지는 지각 착시(Perceptual Illusions), 기억 왜곡(Memory Distortions), 주의 실패(Attentional Failures), 인지 편향(Cognitive Biases), 일관되지 않은 선호(Inconsistent Preferences), 피로(Fatigue), 체계적인 추론 오류(Reasoning Errors)를 나타냅니다. 따라서 인간의 인지 메커니즘을 그대로 재현하는 것이 반드시 바람직한 것은 아닙니다. 인공 시스템은 유용한 생물학적 원리를 선택적으로 활용하면서 공학적 목표에 도움이 되지 않는 생물학적 한계는 의도적으로 피할 수 있습니다.

체화(Embodiment)에 대해서도 유사한 주의가 필요합니다. 물리적 상호작용(Physical Interaction)은 표상을 현실에 근거화하고, 인과적 정보(Causal Information)를 제공하며, 능동 탐색(Active Exploration)을 지원할 수 있지만 체화 자체가 일반 지능을 보장하는 것은 아닙니다. 로봇은 막대한 감각운동 경험(Sensorimotor Experience)을 축적하고도 추상적 추론(Abstract Reasoning)이나 전이 가능한 지식(Transferable Knowledge)을 발달시키지 못할 수 있습니다. 효과적인 체화 지능(Embodied Intelligence)을 위해서는 경험을 재사용 가능한 표상, 예측 모델, 기억, 기술, 계획 능력으로 조직하는 메커니즘이 필요합니다.

월드 모델 역시 신중하게 해석해야 합니다. 내부 예측 표상(Internal Predictive Representation)은 현실의 모든 세부 사항을 재구성할 필요가 없으며, 시각적으로 더 정확한 예측이 항상 더 유용한 모델을 의미하는 것도 아닙니다. 서로 다른 과제는 서로 다른 추상화(Abstractions)를 요구합니다. 유용한 월드 모델은 불필요한 복잡성을 가능한 한 제거하면서 예측, 추론, 계획(Planning), 불확실성 추정(Uncertainty Estimation), 행동에 필요한 정보를 보존해야 합니다.

의식(Consciousness)은 증거와 추측(Speculation) 사이의 경계를 특히 명확하게 구분해야 하는 영역입니다. 전역 작업공간(Global Workspace), 순환 처리(Recurrent Processing), 통합 정보(Integrated Information), 주의, 자기 모델링(Self-Modeling)과 관련된 이론들은 의식적 처리(Conscious Processing)의 일부 측면을 연구하기 위한 프레임워크를 제공하지만, 의식을 완전하게 설명하는 보편적으로 합의된 이론은 존재하지 않습니다. 따라서 인공지능에 유사한 메커니즘을 구현한다고 해서 해당 시스템이 의식이나 주관적 경험(Subjective Experience)을 가진다는 것이 입증되는 것은 아닙니다.

마찬가지로 메타인지(Metacognition)와 자기 모델링을 자동적으로 인공적 자기인식(Artificial Self-Awareness)으로 해석해서는 안 됩니다. 시스템은 주관적 의식을 보여주지 않으면서도 신뢰도(Confidence)를 추정하고, 자신의 능력을 표상하며, 오류를 감지하고, 자원을 모니터링하고, 자신의 행동에 대해 추론할 수 있습니다. 이러한 기능은 인식(Awareness), 정체성(Identity), 경험(Experience)에 관한 더 강한 철학적 주장과 독립적으로 가치 있는 공학적 메커니즘이 될 수 있습니다.

인간형 해석(Anthropomorphism)은 인공지능 시스템이 유창한 언어와 의도적인 것처럼 보이는 행동을 생성할수록 더욱 문제가 될 수 있습니다. 인간은 자연스럽게 일관성 있는 의사소통을 믿음(Beliefs), 욕구(Desires), 이해(Understanding), 행위주체성(Agency)의 관점에서 해석합니다. 그러나 행동적 유사성(Behavioral Resemblance)만으로는 그 행동을 생성한 내부 메커니즘을 알 수 없습니다. 따라서 과학적 분석에서는 관찰 가능한 능력(Observable Capability)과 내부 정신 상태(Internal Mental States)에 대한 가정을 구별해야 합니다.

또 다른 한계는 실험 결과의 전환(Experimental Translation)과 관련됩니다. 신경과학적 발견은 종종 정교하게 통제된 조건에서 얻어지는 반면, 지능형 에이전트(Intelligent Agents)는 복잡하고 변화하는 환경에서 작동해야 합니다. 특정 실험실 과제에서 성능을 설명하는 신경 메커니즘이 대규모 다중모달 시스템(Large Multimodal Systems)으로 직접 확장될 수 있다고 보장할 수 없습니다. 따라서 신경과학 기반 원리가 실제 인공지능에서 유용하다고 판단하기 전에 공학적 검증(Engineering Validation)이 필요합니다.

따라서 증거(Evidence)는 해석(Interpretation), 유추(Analogy), 추측과 구별되어야 합니다. 실험 신경과학(Experimental Neuroscience)은 특정 신경 패턴이 행동 기능과 상관관계를 가진다는 사실을 확립할 수 있고, 계산 신경과학(Computational Neuroscience)은 이에 대한 수학적 설명을 제안할 수 있으며, 이후 인공지능 연구자는 이와 유사한 아키텍처를 구축할 수 있습니다. 이들은 서로 관련되어 있지만 서로 다른 추론 수준이며, 이를 하나로 혼동하면 생산적인 영감이 근거 없는 주장으로 변할 수 있습니다.

따라서 신경과학과 인공지능 사이의 가장 생산적인 관계는 모방적(Imitative)이라기보다 반복적이고 상호작용적인 관계(Iterative Relationship)입니다. 신경과학은 계산 원리를 제안하고, 인공지능은 이를 형식화(Formalization)하고 검증하며, 인공 모델은 다시 신경과학이 실험적으로 조사할 수 있는 가설(Hypotheses)을 생성할 수 있습니다. 어느 한 분야도 다른 분야에 완전한 해답을 제공하지 않으며, 생물학적 증거, 계산 이론(Computational Theory), 공학적 평가(Engineering Evaluation)가 서로를 제약할 때 발전이 이루어집니다.

AGI의 관점에서 핵심적인 교훈은 신경과학을 절대적인 권위(Authority)가 아니라 원리의 원천(Source of Principles)으로 활용해야 한다는 것입니다. 분산된 전문화(Distributed Specialization), 기억 시스템(Memory Systems), 예측, 순환 처리, 주의, 체화, 자기 학습(Self-Learning), 조합성(Compositionality), 자원 효율적 계산(Resource-Efficient Computation)은 중요한 연구 방향을 제공하지만 어느 하나도 독립적으로 일반 지능을 보장하지 않습니다. 신뢰할 수 있는 AGI 아키텍처는 궁극적으로 뇌와의 피상적 유사성이 아니라 학습, 일반화(Generalization), 강건성(Robustness), 적응성(Adaptability), 효율성(Efficiency), 안전성(Safety), 실제 환경에서의 성능(Real-World Performance)을 기준으로 평가되어야 합니다.