다중 모델 합의 + 탈중앙화 검증: Mira Network가 환각과 편향에 대응하는 AI 신뢰 계층을 구축하는 방법

어제 Mira 네트워크의 퍼블릭 테스트넷이 출시됐다. 이 프로젝트는 AI 신뢰층(Trust Layer) 구축을 목표로 하고 있다. 그렇다면 왜 AI에게 신뢰가 필요할까? 그리고 Mira는 이를 어떻게 해결하려 하는가?

사람들이 AI를 논할 때는 주로 그 능력의 강력함에 더 주목한다. 하지만 흥미롭게도, AI는 '환각(hallucination)'이나 편향(bias)이라는 문제를 가지고 있다. 그런데 이 문제에 대한 관심은 비교적 적다. AI의 '환각'이란 무엇인가? 간단히 말해, AI가 때때로 근거 없이 정보를 만들어내며, 마치 사실인 것처럼 잘못된 설명을 진지하게 제공하는 것을 의미한다. 예를 들어, 당신이 "달이 왜 분홍색인가?"라고 AI에게 묻는다면, AI는 여러 가지 표면적으로 타당해 보이는 이유를 제시할 수 있다.

AI의 '환각'이나 편향은 현재 일부 AI 기술 경로와 관련이 있다. 예를 들어 생성형 AI는 내용 출력 시 '가장 가능성이 높은' 다음 단어를 예측함으로써 일관성과 합리성을 추구하지만, 때때로 진위 여부를 검증할 수 없다. 또한 학습 데이터 자체에 오류, 편향, 심지어 허구적인 내용이 포함돼 있을 수도 있어, 이 역시 AI 출력 결과에 영향을 미친다. 즉, AI는 사실 자체보다 인간 언어의 패턴을 학습하고 있다는 것이다.

요컨대, 현재의 확률 기반 생성 방식과 데이터 중심 접근법은 거의 필연적으로 AI 환각의 가능성을 낳는다.

이러한 편향이나 환각이 포함된 출력 결과가 일반 상식이나 엔터테인먼트 콘텐츠라면 당장 큰 문제가 되지 않을 수 있지만, 의료, 법률, 항공, 금융 등 정밀성이 중요한 분야에서는 중대한 결과를 초래할 수 있다. 따라서 AI의 환각과 편향을 해결하는 것은 AI 발전 과정에서 핵심 과제 중 하나다. 일부 기술은 검색 강화 생성(Retrieval-Augmented Generation, RAG)을 활용해 실시간 데이터베이스와 연동하고 검증된 사실을 우선적으로 출력하며, 또 다른 방법으로는 인간 피드백을 도입하여 인공적으로 모델의 오류를 수정·감독하기도 한다.

Mira 프로젝트 역시 AI의 편향과 환각 문제 해결을 시도하고 있으며, 즉 AI의 신뢰층을 구축해 편향과 환각을 줄이고 AI의 신뢰성을 높이려는 목적을 가지고 있다. 그렇다면 전체적인 프레임워크 관점에서 Mira는 어떻게 AI의 편향과 환각을 줄이고 궁극적으로 신뢰할 수 있는 AI를 실현하는가?

Mira가 이를 달성하는 핵심은 다수의 AI 모델 간의 합의(consensus)를 통해 AI 출력을 검증한다는 점이다. 다시 말해, Mira 자체는 검증 네트워크로서 AI 출력의 신뢰성을 평가하며, 이를 위해 여러 AI 모델의 합의를 활용한다. 또한 중요한 한 가지는 탈중앙화된 합의를 통한 검증이라는 점이다.

결국 Mira 네트워크의 핵심은 탈중앙화된 합의 기반 검증이다. 탈중앙화된 합의 검증은 암호화폐 분야의 전문 영역이며, 동시에 다중 모델 협업을 활용해 집단 검증 방식을 통해 편향과 환각을 줄이는 데 기여한다.

검증 아키텍처 측면에서, 독립적으로 검증 가능한 진술(claim)이 필요하다. Mira 프로토콜은 복잡한 콘텐츠를 독립적으로 검증 가능한 진술로 변환할 수 있도록 지원한다. 이러한 진술들은 노드 운영자가 참여해 검증해야 하며, 노드 운영자의 성실성을 보장하기 위해 암호경제학적 인센티브/페널티 메커니즘이 적용된다. 다양한 AI 모델과 분산된 노드 운영자가 함께 참여함으로써 검증 결과의 신뢰성을 확보한다.

Mira의 네트워크 아키텍처는 콘텐츠 변환, 분산 검증, 합의 메커니즘을 포함하며, 이를 통해 검증의 신뢰성을 실현한다. 이 아키텍처에서 콘텐츠 변환은 중요한 요소다. Mira 네트워크는 먼저 고객이 제출한 후보 콘텐츠를 서로 다른 검증 가능한 진술들로 분해한다(모델이 동일한 맥락에서 이해할 수 있도록 보장). 이후 시스템은 이 진술들을 노드에 분배해 각 진술의 유효성을 판단하고, 결과를 종합하여 합의를 도출한다. 이 결과와 합의는 다시 고객에게 반환된다. 또한 고객의 개인정보를 보호하기 위해, 후보 콘텐츠는 진술 쌍(pairs of claims) 형태로 분해되며, 무작위 조각화(sharding) 방식으로 다른 노드에 배분되어 검증 과정에서 정보 유출을 방지한다.

노드 운영자는 검증기 모델을 운영하며 진술을 처리하고 검증 결과를 제출하는 역할을 맡는다. 그렇다면 왜 노드 운영자들이 진술 검증에 참여하려 할까? 바로 수익을 얻을 수 있기 때문이다. 수익은 어디서 오는가? 고객에게 창출되는 가치에서 나온다. Mira 네트워크의 목적은 AI 오류율(환각 및 편향)을 낮추는 것이며, 이를 달성하면 가치가 발생한다. 예를 들어 의료, 법률, 항공, 금융 분야에서 오류율을 줄임으로써 막대한 가치를 창출할 수 있다. 따라서 고객은 비용 지불 의사를 갖게 된다. 물론, 지불의 지속 가능성과 규모는 Mira 네트워크가 고객에게 얼마나 지속적으로 가치를 제공할 수 있느냐(즉, AI 오류율 감소 효과 유지 여부)에 달려 있다. 또한 노드 운영자가 무작위 응답을 통해 기회주의적 행동을 하는 것을 방지하기 위해, 지속적으로 합의에서 벗어나는 노드는 스테이킹한 토큰이 차감된다. 결국 경제적 인센티브 구조를 통해 노드 운영자가 성실하게 검증에 참여하도록 유도하는 것이다.

종합하면, Mira는 AI의 신뢰성을 실현하기 위해 새로운 해결책을 제시하고 있다. 다수의 AI 모델을 기반으로 탈중앙화된 합의 검증 네트워크를 구축함으로써 고객의 AI 서비스에 더 높은 신뢰성을 제공하고, AI의 편향과 환각을 줄여 고객의 정확도와 정밀도 요구를 만족시키는 것이다. 또한 고객에게 가치를 제공함과 동시에 Mira 네트워크 참여자들에게도 수익을 창출한다. 한 문장으로 요약하자면, Mira는 AI의 신뢰층을 구축하려 하고 있다. 이는 AI 응용의 심화에 기여하는 중요한 역할을 할 것이다.

현재 Mira가 협력 중인 AI 에이전트 프레임워크에는 ai16z, ARC 등이 있다. 어제 출시된 Mira 네트워크의 퍼블릭 테스트넷에 참여하려면 Klok을 사용하면 된다. Klok은 Mira 기반의 LLM 채팅 애플리케이션이며, 이 앱을 사용하면 검증된 AI 출력을 체험할 수 있고(검증되지 않은 AI 출력과의 차이를 직접 비교 가능), Mira 포인트를 적립할 수도 있다. 포인트의 향후 용도는 아직 공개되지 않았다.