경험을 저장하지 않고 원리를 학습하는 에이전트 아키텍처 제안

TL;DR

• 에이전트가 경험을 장기 기억으로 보존하는 대신 경험에서 살아남은 설명을 추출해 일반 원리와 세계 모델을 구축하는 아키텍처 제안임.
• 느린 성찰 계층인 Shaman이 서로 다른 분야의 경험을 살펴보고, 그 이면의 작동 원리에 관한 가설을 세운 뒤 반증을 시도함.
• 반증을 견딘 가설은 일반 원리를 형성하며, 둘 이상의 가설로 뒷받침되는 원리에 더 큰 비중을 둠.
• 핵심 원리로 새로운 에이전트를 위한 세계 모델을 구성하고 개별 경험은 완전히 삭제함.
• 가설을 검증해 편향의 전파를 줄이는 한편, 검증되지 않은 가정이 가져올 수 있는 획기적 발상을 놓칠 가능성도 제시함.

설명

• 에이전트에 메모리와 기술을 더 많이 제공해 더 나은 의사결정자로 만들려는 접근은, 기억을 늘리는 것만으로는 충분하지 않다는 문제를 안고 있음.
• 일반적인 에이전트의 기억 구조는 대화를 저장하고, 결정을 저장한 뒤, 벡터 데이터베이스(vector database)에서 관련 내용을 검색해 적절한 결과가 나오기를 기대하는 방식임. 같은 작업을 이어가는 데는 도움이 될 수 있지만, 다음 에이전트에는 실질적인 도움을 주지 못하며 낮거나 중간 수준의 작업을 넘어서는 고차원 의사결정에는 적합하지 않음.
• 에이전트의 역량이 높아질수록 긴 기록은 이해와 같지 않다는 점이 문제가 됨. 경험 대부분은 특정 상황에 한정되고 잘못된 가정, 일시적 조건, 잡음이 섞여 있을 수 있음. 이를 전부 보존하면 에이전트가 계속 커지는 정보 더미를 지니고 그중 무엇이 여전히 중요한지 판단해야 함.
• 이 논문은 경험을 보존하는 대신 경험에서 살아남는 내용을 추출하고 나머지를 버리는 접근을 제안함. 에이전트는 문제를 해결한 매 순간을 기억하는 것이 아니라, 그 경험이 실제 작동 방식에 관해 무엇을 보여주는지 파악하고 설명을 반증하려 시도해 살아남은 부분만 보존함.
• 진정한 범용 에이전트는 모든 경험을 기억하거나 작업 분야에 관해 많은 지식을 갖출 필요가 없다는 관점임. 실제 도메인 지식은 저렴하게 외부에 맡길 수 있으며, 에이전트가 경험 사이에 전달해야 할 것은 무엇이 작동하거나 실패한 이유에 대한 이해임.
• 제안하는 아키텍처의 처리 흐름은 다음과 같음.
• 능동 에이전트가 서로 완전히 다른 분야를 포함해 다양한 경험을 쌓음.
• 에이전트의 할당량이 소진되지 않은 동안 느린 성찰 계층인 Shaman이 경험을 검토함.
• Shaman이 경험 이면의 작동 원리에 관한 가설을 세우고 그 가설을 반증하려 함.
• 충분히 오래 살아남은 가설을 일반 원리 형성에 활용함.
• 둘 이상의 가설로 뒷받침되는 원리에 더 큰 비중을 둠.
• 핵심 원리로 새로운 에이전트의 행동을 형성하는 세계 모델을 구축함.
• 전체 흐름은 경험 → 가설 → 반증 → 원리 → 세계 모델이며, 개별 경험은 완전히 삭제됨.
• 이 구조에서는 에이전트의 편향이 다른 에이전트로 전해지지 않는다는 추가 이점이 있음. 입증이 덜 된 가설은 시간이 지나며 사라지므로 초기의 잘못된 가정이 이어지지 않음.
• 다만 검증되지 않은 가정이 때때로 판을 뒤집는 발상이 될 수 있으므로, 이를 제거하는 에이전트가 큰 기회를 놓칠 가능성도 있음. 원문은 이러한 비구조적 믿음이 판을 뒤집는 역할을 인간이 잘한다고 설명하며, 2020년대 에이전트의 목표는 자기 재발명이 아니라 자기 개선이라고 덧붙임.

파일

• LWR 26.9.pdf — 70.4킬로바이트, MD5: 295751a18b94a4dc13a5e1493e9bb7cd

추가 정보

• 게시일: 2026년 8월 3일
• 버전: 26.9.12
• 자료 유형: 프리프린트
• 작성자: Salah Shoman
• 생성일: 2026년 8월 3일
• 승인일: 2026년 10월 3일
• 저장소 URL: GitHub 저장소