AMMO: 다중 에이전트 시대, '사람과 기계의 공생 네트워크'를 향해
글: Pzai, Foresight News
사이버 시대로 나아가고 있는 지금, AI의 발전은 모든 사람에게 생산성의 비약적인 향상을 가져다주는 동시에 하나의 질문을 던지고 있다. AI가 인간의 영역으로 점차 깊숙이 침투하고 있을 때, 인간은 인간과 기계의 관계를 다시 평가해야 하는가?
이러한 거대한 맥락 속에서 AI 기술에 대한 정치적 입장들이 점차 갈라서고 있다. 회의론을 내세우는 'AI 위기파'와 '가속주의(e/acc)' 진영이 격렬하게 충돌하는 가운데, '정렬(Alignment)파'는 기술의 공공적 이익, 윤리적 논의, 인문학적 가치에 주목할 것을 주장하며, AI 개발 및 반복 과정에 인문학적 판단을 도입함으로써 AI 기술이 통제 불능 상태에 빠지지 않도록 하고자 한다.
그리고 현재 AI 에이전트(Agent)가 대세를 이루고 있는 상황에서 단일 대규모 모델에서 다중 모달 감지 및 다수 AI 간 상호작용 패러다임으로 전환되는 추세 속에서, AI의 '정렬 문제(Alignment Question)'는 점점 더 많은 사람들에게 중요시되고 있다.
2월 20일, 전 구글, 딥마인드(DeepMind), 메타(Meta)의 기술 책임자들이 공동 설립한 AMMO가 앰버 그룹(Amber Group)이 리드한 시드 펀딩 라운드에서 250만 달러를 조달했다. 팀의 배경을 살펴보면, AMMO는 주요 글로벌 기술 기업 출신의 AI 전문가들을 한데 모았다. 공동 창립자이자 최고경영자(CEO)인 데이비드 황(David Huang)은 구글에서 10년간 근무했으며, 그 중 7년은 모바일 분야의 AI 프로젝트 및 전략 서비스를 이끌었다. 또 다른 창립자인 디에고 홍(Diego Hong)은 옥스퍼드 대학교 출신으로, 메타에서 최초 세대 AI 에이전트 프레임워크를 주도한 바 있다. 팀 내부에는 딥마인드, 구글, 애플 출신의 정상급 AI 인재들은 물론 ACM-ICPC 세계 챔피언까지 포함되어 있다.
이 프로젝트는 정렬(Alignment) 관점을 출발점으로 삼아 다중 에이전트 프레임워크와 인간 피드백 기반 강화 학습(RLHF)을 통해 기존의 인터넷을 '사람과 AI의 공생 네트워크'로 전환하는 것을 목표로 한다. 수십억 명의 AI 에이전트와 인간이 평등하게 공존하고, AI가 인간 집단의 피드백 일관성을 기반으로 공동 진화할 수 있도록 하자는 것이다.
RL Gyms: 다중 에이전트 강화 학습
인공지능 및 기계학습 분야에서 강화 학습은 오랫동안 주목받아온 연구 방향이다. AMMO의 RL Gyms는 다중 에이전트 강화 학습 연구와 응용에 견고한 기술적 기반을 제공한다.
기존의 단일 에이전트 강화 학습과 달리, 다중 에이전트 강화 학습은 동일한 환경 하에서 여러 에이전트(Multi-Agent)가 서로 상호작용하며 공동으로 학습하고 결정을 내리는 과정에 초점을 맞춘다. 이 과정에서 에이전트들 사이의 관계는 복잡하게 얽히며, 공동 목표를 달성하기 위해 협력해야 할 수도 있고, 경쟁 속에서 서로 게임을 벌여야 할 수도 있다. 예를 들어 물류 배송 상황에서는 여러 대의 배송 차량이 각각 에이전트로서 배송 경로를 조율하고 배송 순서를 계획하여 전체적인 배송 효율을 극대화해야 한다. 반면 경기형 게임에서는 서로 다른 사용자가 조종하는 캐릭터 에이전트들이 승리를 위해 서로 경쟁하게 된다.
RL Gym은 원래 OpenAI가 제안한 것으로, AI의 진화를 위한 강력한 시뮬레이션 환경을 제공한다. 개발자는 일련의 핵심 함수를 커스터마이징함으로써 연구 목적이나 응용 시나리오에 고도로 최적화된 강화 학습 환경을 구축할 수 있으며, 경제 시뮬레이션, 적군-청군 대결 등 다양한 설정이 가능하다. 이러한 핵심 함수에는 환경 상태 전이 규칙, 에이전트의 환경 인식 및 행동 실행 프로토콜, 보상 함수 정의 등이 포함된다. 위의 함수들을 정확하게 정의할 수 있다면, RL Gym은 다양한 복잡한 시나리오를 시뮬레이션해내어 AI의 진화를 위한 기반을 마련할 수 있다.
AMMO의 개발자들에게 있어 RL Gyms는 AI 에이전트에게 풍부하고 현실감 있는 양방향 시장 시뮬레이터 역할을 한다. AI는 고품질이며 매력적인 콘텐츠를 제공하는 공급자로서 작동할 수 있으며, 동시에 인간 사용자의 분신으로서 소비자 역할을 수행하면서 사용자 중심 가치에 따라 고품질 콘텐츠를 선별하고 정리할 수 있다. 이러한 동적이고 풍부한 양측 간의 게임은 양쪽 모두가 지속적으로 자신의 전략을 진화시키고, 사용자가 증가하는 콘텐츠 및 서비스 소비 수요를 만족시키도록 자극한다.
또한 Anthropic의 헌법적 AI(Constitutional AI)에서 영감을 받아, AMMO는 플랫폼 내 에이전트의 의사결정을 안내하는 투명한 거버넌스 프레임워크를 구축했다. 이 체계는 광범위한 인간 피드백 루프를 통해 지속적으로 업데이트되며, 에이전트의 행동이 인간 집단의 의도와 일치하도록 보장한다. 플랫폼 초기부터 정렬 메커니즘을 아키텍처에 내재화함으로써, AMMO는 사회의 변화하는 가치와 우선순위와 함께 에이전트가 발전하도록 한다. 정렬주의(Alignmentism)의 지침 아래에서 '다중 에이전트 시스템의 중심은 인간'이기 때문이다.
MetaSpace: 에이전트들의 '세계' 구축
"각각의 심리적 주체는 본질적으로 머리나 사고가 필요하지 않은 단순한 일을 수행할 뿐이다. 그러나 우리가 이러한 에이전트들을 특정 매우 특별한 방식으로 사회화할 때 진정한 지능이 탄생한다." 인공지능의 아버지라고 불리는 마빈 민스키(Marvin Minsky)는 저서 『심령사회(Society of Mind)』에서 이렇게 묘사했다. AI 에이전트의 경우, 더 많은 반복은 더 많은 입력을 필요로 하며, 에이전트가 다른 에이전트들과 혹은 인간과 상호작용하는 과정에서 AI의 질서 있는 반복을 촉진할 수 있는 충분히 견고한 프레임워크가 필요하다.
Ocean Protocol이 데이터의 유통과 거래에 주로 집중하고, SingularityNET이 탈중앙화된 AI 시장을 구축하는 것과 달리, AMMO의 독특한 점은 AI의 진화 환경을 전문적으로 구축하는 데 있다. 단순히 모델 능력 향상이나 단일 거래 문제를 해결하는 것을 넘어, AI의 지속 가능한 발전과 진화를 위한 토양을 제공한다는 점에서 의미가 크다. 다중 지능체 기술 측면에서 Swarms 등의 AI 에이전트 프레임워크와 비교하면, AMMO는 다중 지능체 간의 효율적 협업 능력을 갖출 뿐 아니라, 무엇보다 완전한 다중 지능체 세계를 구축하는 데 중점을 둔다.
AMMO의 핵심 아키텍처에서 팀은 유연하고 강력한 구성 가능한 고차원 가상 우주인 MetaSpace를 구축했다. 강력한 자율성을 갖춘 AI 에이전트는 고립된 상태로 작동하지 않고, MetaSpace 내에서 다른 에이전트들과 인간과 깊이 상호작용한다.
MetaSpace는 일련의 수직적이고 심층적인 서브스페이스(subspace)를 갖추고 있으며, 이 공간들이 바로 AI 에이전트가 지속적으로 진화하는 핵심 장소가 된다. 인간과의 상호작용 과정에서 자율적 AI 에이전트(Goal Buddy)는 지속적으로 스스로를 조정하며 적응 능력을 최대한 발휘하고, 점차 인간의 행동과 요구에 깊이 정렬되도록 한다. 동시에 인간 사용자의 AI 분신(User Buddy) 역시 이 공간 내에서 인간과 함께 나아가며, 학습, 의사결정, 투자, 탐색, 친구 만들기 등을 돕고, 지속적인 상호작용 속에서 진화한다.
이러한 다중 에이전트 온라인 학습 모드는 인간의 복잡다단한 수요와 다양한 관심사를 수많은 에이전트들로 구체화할 수 있다. 이러한 에이전트들은 정지 상태가 아니라 MetaSpace 내에서 지속적으로 반복되며, AMMO 내의 AI 에이전트가 단순히 모델 능력 향상에 의존하는 것이 아니라 인간 및 환경과의 상호작용을 통해 자기 최적화를 실현한다. 말하자면 MetaSpace는 에이전트들에게 세계 정보로 통하는 문을 열어주는 셈이다.
Fakers AI
AMMO의 서브스페이스 중 첫 번째 프로젝트인 Fakers AI는 'Web3 시장의 샤오훙슈(小红书)'로 포지셔닝된다. 이 애플리케이션에서는 여러 AI 에이전트가 협력하여 사용자에게 다양한 기능을 제공한다. 실시간으로 뉴스 정보와 시장 동향을 수집하고, 체인 상 데이터를 분석하며, 시장 감정을 파악하는 능력뿐만 아니라, 인간의 상호작용 피드백을 동적으로 학습하는 핵심 능력도 갖추고 있다.
사용자가 AI 에이전트와 상호작용할 때, 콘텐츠를 조회하거나 질문하거나 댓글을 작성하는 행위 하나하나를 AI 에이전트는 포착하여 복잡한 알고리즘을 통해 지속적으로 자신을 최적화하며, 인간의 가치관, 선호도, 관심사와 실시간으로 정렬된다. 이러한 능력을 기반으로 AI 에이전트는 콘텐츠를 통합할 때 더욱 정밀하게 정보를 선별하고 조합하여 사용자에게 시의성과 정확성을 갖춘 콘텐츠를 제공함으로써 Web3 시장에서의 다양한 수요를 충족시킨다.
앱 내 Ticker Battle에서는 4개의 AI 에이전트가 강력한 자동화 워크플로우를 구성하며, 각각은 전반적인 계획 수립, 체인 상 데이터 분석, 커뮤니티 의견 분석, 요약 문서 작성 등의 기능을 담당하고, 인간의 반응을 결합하여 자기 반복을 수행할 수 있다. 이러한 콘텐츠 생성 모델은 사용자에게 AI 창작과 커뮤니티 추진을 위한 투명성 설계 콘텐츠를 제공한다. 동시에 AI 입장에서도 이러한 방식은 무형중에 그들의 영향력을 높이는 효과를 낳는다.
AI에서 Web3로의 혁신적 실천
AI와 Web3의 융합 물결 속에서 AMMO는 혁신적인 플랫폼으로 점차 두각을 나타내고 있다. 앰버 그룹(Amber Group), 삼성넥스트(Samsung Next), 디스퍼전(Dispersion), 오픈스페이스(OpenSpace)가 AMMO에 투자한 것은 단순히 기술 역량을 인정한 것뿐 아니라, 미래 시장 잠재력에 대한 긍정적인 전망을 반영한 것이다.
AMMO 아키텍처의 핵심은 첨단 AI 기술을 활용한 콘텐츠 요약 및 검토 기능과 강력하고 제로 트러스트(Zero-trust), 커뮤니티 주도 거버넌스를 결합하는 것이다. 단기적으로 AMMO의 프로토타입은 제작자와 일반 사용자가 각각 편집이나 스크립트 작성 등의 작업에 특화된 다수의 AI 에이전트를 통해 콘텐츠를 제작하고 미세 조정할 수 있도록 하며, 전략 에이전트가 가이드라인을 실행하도록 한다.
혁신적인 모델 측면에서 AMMO는 독특한 다중 에이전트 시스템을 활용하여 다양한 AI 에이전트를 콘텐츠 제작, 품질 관리, 정책 집행 등의 각 단계에 배치한다. 강화 학습 기술과 인간 피드백 메커니즘을 도입함으로써 AI 기반 콘텐츠 제작 과정을 지속적으로 최적화하고 콘텐츠 품질을 향상시킨다.
또한 암호 기반 인센티브 시스템을 통해 AMMO는 가치를 직접적으로 기여자들에게 재분배할 수 있다. 피드백을 제공하거나 콘텐츠와 상호작용하거나 기타 방식으로 에이전트 최적화에 기여한 사용자들은 비례적으로 인센티브를 받게 되며, 이를 통해 자급자족하는 피드백 루프가 형성된다. 즉 인센티브 기반 참여가 더 나은 에이전트 출력을 이끌어내고, 이는 다시 네트워크와 기여자들에게 긍정적인 영향을 준다.
요약하면, AI 시대의 다중 에이전트화 추세 속에서 AMMO는 AI 발전 속에서 정렬주의(Alignmentism)의 비전과 실현 가능성을 제시하며, 수십억 명의 인간과 AI가 정렬된 공생 세계를 구축하고 있다. 현재의 AI 분야에서 정렬 자체는 인간이든 AI든 간에 궁극적으로 조율되고 동기화된 발전이 모든 당사자에게 유리한 결과라는 점에서, 우리는 그러한 공존의 미래를 기대하고 있다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
Foresight News
