검증 가능한 AI에서 조합 가능한 AI로: ZKML 활용 사례에 대한 성찰
글: Turbo Guo
검토: Mandy, Joshua
TLDR:
Modulus Labs는 체인 외부에서 머신러닝(ML) 연산을 실행하고 이를 위한 제로노우ledge 증명(zkp)을 생성함으로써 검증 가능한 AI를 구현했습니다. 본고는 이 솔루션을 애플리케이션 관점에서 재검토하며, 어떤 시나리오에서 필수적인 수요가 발생하는지, 또 어느 상황에서는 수요가 미약한지를 분석합니다. 마지막으로 공개 블록체인 기반의 AI 생태계 모델로서 수직적 및 수평적 두 가지 패턴을 제시합니다. 주요 내용은 다음과 같습니다:
-
검증 가능한 AI가 필요한지는 체인상 데이터를 수정하는지 여부와 공정성 및 프라이버시 관련 여부에 달려 있다.
-
AI가 체인상 상태에 영향을 미치지 않을 때, AI는 단순히 추천자 역할을 할 수 있으며 사용자는 실제 성과를 통해 AI 서비스의 품질을 판단할 수 있으므로 계산 과정을 검증할 필요가 없다.
-
체인상 상태에 영향을 줄 때, 해당 서비스가 개인에게만 제공되고 프라이버시에 영향을 주지 않는다면, 사용자는 여전히 AI 서비스 품질을 직접 판단할 수 있어 계산 과정 검증이 필요하지 않다.
-
AI의 출력 결과가 다수 간의 공정성과 개인 프라이버시에 영향을 미칠 경우 — 예컨대 커뮤니티 구성원 평가 및 보상 배분, AMM 최적화, 생체 데이터 처리 등 — 사람들은 AI의 계산 과정을 검증하기를 원하게 되며, 바로 이러한 영역에서 검증 가능한 AI가 제품-시장 적합성(PMF)을 찾을 가능성이 있다.
-
수직적 AI 애플리케이션 생태계: 검증 가능한 AI의 한쪽 끝이 스마트 계약이기 때문에, 검증 가능한 AI 애플리케이션들 간 혹은 AI와 기존 dApp 간에도 신뢰 없이 상호 호출이 가능해질 수 있으며, 이는 잠재적으로 조합 가능한 AI 애플리케이션 생태계를 의미한다.
-
수평적 AI 애플리케이션 생태계: 공개 블록체인 시스템은 AI 서비스 제공자에게 요금 정산, 지불 분쟁 조정, 사용자 요구사항과 서비스 매칭 등을 처리할 수 있도록 지원하여 사용자가 더욱 자유롭고 탈중앙화된 AI 서비스 경험을 얻을 수 있게 한다.
1. Modulus Labs 개요 및 사례 연구
1.1 개요 및 핵심 방식
Modulus Labs는 '체인상 AI' 기업이다. AI가 스마트 계약의 능력을 크게 향상시켜 웹3 애플리케이션을 더욱 강력하게 만들 수 있다고 주장한다. 그러나 AI를 웹3에 적용할 때 큰 모순이 존재하는데, 바로 AI 작동에는 막대한 컴퓨팅 파워가 필요하지만, 체인 외부에서의 계산은 일종의 블랙박스로, 웹3의 비신뢰성·검증 가능성이라는 기본 요구에 부합하지 않는다는 점이다.
따라서 Modulus Labs는 zk 롤업 [체인 외부 사전 처리 + 체인상 검증] 전략을 참고하여 검증 가능한 AI 아키텍처를 제안했다. 구체적으로 ML 모델은 체인 외부에서 실행되며, 동시에 ML 계산 과정에 대한 zkp를 생성한다. 이 zkp를 통해 체인 외부 모델의 아키텍처, 가중치, 입력값(inputs) 등을 검증할 수 있으며, 당연히 이 zkp는 체인상 스마트 계약에 의해 검증될 수도 있다. 이렇게 하면 AI와 체인상 계약 간의 보다 신뢰 없는 상호작용이 가능해져, 즉所谓 ‘체인상 AI’를 실현할 수 있다.
검증 가능한 AI라는 접근법을 바탕으로 Modulus Labs는 현재까지 세 개의 ‘체인상 AI’ 애플리케이션을 출시했으며, 많은 잠재적 사용 사례도 제시했다.
1.2 사례 연구
-
첫 번째로 출시한 것은 Rocky bot으로, 자동 거래 AI이다. Rocky는 wEth/USDC 거래쌍의 과거 데이터로 훈련되었다. 과거 데이터를 기반으로 미래의 weth 가격 흐름을 판단하여 거래 결정을 내린 후, 그 결정 과정(계산 과정)에 대해 zkp를 생성하고 L1에 메시지를 보내 거래를 트리거한다.
-
두 번째는 체인상 국제장기 게임 「Leela vs the World」로, 플레이어는 AI 대 인간이며, 기보 정보는 계약 안에 저장된다. 사용자는 지갑을 통해 조작(계약과 상호작용)한다. AI는 새로운 기보를 읽고 판단을 내린 후 전체 계산 과정에 대해 zkp를 생성하는데, 이 두 단계 모두 AWS 클라우드에서 수행되며, 생성된 zkp는 체인상 계약에서 검증되고, 검증 성공 후 기보 계약을 호출하여 수를 둔다.
-
세 번째는 '체인상' AI 아티스트로, NFT 시리즈 zkMon을 출시했다. 핵심은 AI가 NFT를 생성하고 체인상에 발행하면서 동시에 zkp를 생성하는 것으로, 사용자는 이 zkp를 통해 자신의 NFT가 해당 AI 모델로부터 실제로 생성되었는지 확인할 수 있다.
또한 Modulus Labs는 다음과 같은 다른 사용 사례들도 언급했다:
-
AI를 이용해 개인의 체인상 데이터 등을 평가하여 개인 평판 등급을 생성하고, 사용자가 검증할 수 있도록 zkp를 발행;
-
AI를 활용해 AMM의 성능을 최적화하고, 사용자가 검증할 수 있도록 zkp를 발행;
-
검증 가능한 AI를 사용해 프라이버시 프로젝트가 규제 압박에 대응하되 개인정보를 노출하지 않음 (예: 머신러닝을 통해 해당 거래가 돈세탁이 아님을 증명하되 사용자 주소 등의 정보는 공개하지 않음);
-
AI 오라클을 구축하고, 모든 사람이 체인 외부 데이터의 신뢰성을 검증할 수 있도록 zkp를 발행;
-
AI 모델 경진대회에서 참가자들이 아키텍처와 가중치를 제출한 후 동일한 테스트 입력값으로 모델을 실행하고, 연산에 대해 zkp를 생성하며, 최종적으로 계약이 승자에게 자동으로 보상을 지급;
-
Worldcoin은 미래에 사용자가 로컬 디바이스에 홍채 코드 생성 모델을 다운로드하여 로컬에서 실행하고 zkp를 생성하는 것을 고려 중이다. 그러면 체인상 계약은 zkp를 통해 사용자의 홍채 코드가 올바른 모델과 적절한 홍채로부터 생성되었음을 검증할 수 있으며, 생체정보는 사용자 장치를 벗어나지 않게 된다.
1.3 검증 가능한 AI에 대한 수요를 기반으로 다양한 시나리오 논의
1.3.1 검증 가능한 AI가 필요하지 않을 수 있는 시나리오
Rockey bot 시나리오에서 사용자는 ML 계산 과정을 검증할 필요가 없을 수 있다. 첫째, 사용자들은 전문 지식이 부족하여 진정한 검증을 수행할 능력이 없다. 검증 도구가 있더라도 사용자 입장에서는 "버튼을 누르면 인터페이스에 팝업 창이 나타나 이 AI 서비스가 특정 모델에서 생성되었다고 알려줄 뿐"이며 진위를 판단할 수 없다. 둘째, 사용자들은 검증 자체에 관심이 없으며, 오직 이 AI의 수익률이 높은지에만 관심이 있다. 수익률이 낮으면 사용자는 곧바로 이탈하며 항상 가장 효과 좋은 모델을 선택할 것이다.결국 사용자가 AI의 최종 성과를 추구할 때, 계산 과정 검증은 별 의미가 없으며, 사용자는 단순히 가장 효과 좋은 서비스로 이동하면 된다.
가능한 해결책 하나는 AI가 단순히 추천자 역할을 하고, 사용자가 직접 거래를 실행하는 방식이다. 사용자가 거래 목표를 AI에 입력하면, AI는 체인 외부에서 계산하여 더 나은 거래 경로 또는 방향을 반환하고, 사용자가 이를 실행할지 여부를 선택한다. 사용자는 모델의 내부를 검증할 필요 없이, 수익률이 가장 높은 제품을 선택하면 된다.
또 다른 위험하지만 매우 현실적으로 나타날 수 있는 상황은, 사람들이 자산 통제권과 AI 계산 과정 자체에 관심조차 없을 수 있다는 점이다. 자동으로 돈을 버는 로봇이 등장하면, 사람들은 마치 토큰을 CEX나 전통 은행에 맡기는 것처럼 자금을 직접 위탁하려 할지도 모른다.사람들은 그 이면의 원리를 따지지 않고, 결국 얼마를 받았는지 혹은 프로젝트 팀이 얼마를 벌었다고 표시하는지만 중요하게 생각할 수 있기 때문이다. 이러한 서비스는 오히려 빠르게 대규모 사용자를 확보할 수 있으며, 검증 가능한 AI를 채택한 프로젝트보다 더 빠른 제품 반복 속도를 가질 수도 있다.
더 나아가, AI가 체인상 상태 변경에 참여하지 않고 단순히 체인상 데이터를 가져와 사용자에게 전처리만 해준다면, 계산 과정에 대해 ZKP를 생성할 필요도 없다. 이를 우리는 【데이터 서비스】라고 명명하며, 다음은 몇 가지 사례이다:
-
Mest가 제공하는 챗봇은 전형적인 데이터 서비스로, 사용자는 질문 형식으로 자신의 체인상 데이터를 확인할 수 있다. 예를 들어 NFT에 얼마를 지출했는지 묻는 식이다;
-
ChainGPT는 멀티기능 AI 어시스턴트로, 거래 전 스마트 계약을 분석해주고 올바른 풀인지 확인하거나, 거래가 프론트런 혹은 샌드위치 공격에 노출될 수 있는지 알려주기도 한다. ChainGPT는 또한 AI 뉴스 추천, 프롬프트 입력으로 이미지 자동 생성 후 NFT 발행 등 다양한 서비스를 준비 중이다;
-
RSS3는 AIOP를 제공하여 사용자가 원하는 체인상 데이터를 선택하고 일부 전처리를 할 수 있게 하여, 특정 체인상 데이터로 AI를 쉽게 훈련시킬 수 있도록 한다;
-
DefiLlama와 RSS3는 ChatGPT 플러그인도 개발하여 사용자가 대화를 통해 체인상 데이터를 얻을 수 있다;
1.3.2 검증 가능한 AI가 필요한 시나리오
본고는 다수 간의 공정성 및 프라이버시가 관련된 시나리오에서 ZKP 검증이 필요하다고 보며, Modulus Labs가 언급한 몇 가지 사례를 논의한다:
-
커뮤니티가 AI 생성 개인 평판을 기반으로 보상을 배포할 때, 구성원들은 평가 결정 과정에 대한 검토를 요구할 것이며, 여기서 결정 과정이란 곧 ML의 계산 과정이다;
-
AI 기반 AMM 최적화 시나리오는 다수 간의 이익 배분 문제를 포함하므로, AI 계산 과정을 정기적으로 검토할 필요가 있다;
-
프라이버시와 규제 사이의 균형을 맞출 때 ZK는 현재로서 비교적 우수한 방법 중 하나이며, 서비스 제공자가 ML로 프라이버시 데이터를 처리할 경우 전체 계산 과정에 대해 ZKP를 생성해야 한다;
-
오라클은 영향 범위가 광범위하므로 AI로 조정될 경우, AI가 정상 작동하는지 정기적으로 ZKP를 생성하여 검증해야 한다;
-
경진대회에서 일반 대중 및 다른 참가자들은 ML 연산이 대회 규정에 부합하는지 검증할 수 있어야 한다;
-
Worldcoin의 잠재적 사례에서 개인 생체 데이터 보호 역시 강력한 요구사항이다;
전반적으로 말해, AI가 일종의 의사결정자 역할을 하여 그 출력이 광범위한 영향을 미치고 다자간 공정성에 관련되거나, 개인 프라이버시를 보호해야 하는 상황에서는, 사람들이 의사결정 과정에 대한 검사를 요구하거나, 적어도 AI 의사결정 과정에 큰 문제가 없는지 간단히 보장받기를 원하게 된다.
따라서, 【AI 출력이 체인상 상태를 수정하는지 여부】와 【공정성/프라이버시에 영향을 미치는지 여부】는 검증 가능한 AI 솔루션이 필요한지를 판단하는 두 가지 기준이다.
-
AI 출력이 체인상 상태를 수정하지 않을 경우, AI 서비스는 추천자 역할을 하며, 사용자는 추천 결과를 통해 서비스 품질을 판단할 수 있으므로 계산 과정 검증이 필요 없다;
-
AI 출력이 체인상 상태를 수정할 경우, 해당 서비스가 개인에게만 제공되고 프라이버시에 영향을 주지 않는다면, 사용자는 여전히 AI 서비스 품질을 직접 판단할 수 있으므로 계산 과정 검증이 필요 없다;
-
AI 출력이 다수 간 공정성에 직접 영향을 주고, AI가 자동으로 체인상 데이터를 수정할 경우, 커뮤니티와 일반 대중은 AI 의사결정 과정 검사를 요구하게 된다;
-
ML이 처리하는 데이터가 개인 프라이버시를 포함할 경우, 프라이버시 보호 및 규제 대응을 위해 ZK가 필요하다.
2. 공개 블록체인 기반의 두 가지 AI 생태계 모델
어쨌든 Modulus Labs의 방식은 AI가 크립토와 결합하여 실제 애플리케이션 가치를 창출하는 데 큰 영감을 준다. 하지만 공개 블록체인 체계는 단일 AI 서비스의 역량을 강화하는 데 그치지 않고, 새로운 AI 애플리케이션 생태계를 구축할 잠재력도 가지고 있다.이 새로운 생태계는 Web2와는 다른 AI 서비스 간 관계, AI 서비스와 사용자 간 관계, 그리고 전후방 협업 방식을 가져온다. 우리는 잠재적 AI 애플리케이션 생태계 모델을 수직 모델과 수평 모델 두 가지로 요약할 수 있다.
2.1 수직 모델: AI 간 조합 가능성 구현에 집중
「Leela vs the World」 체인상 국제장기 사례는 특별한 점이 있는데, 사람들은 인간이나 AI에 베팅할 수 있으며, 경기 종료 후 자동으로 토큰이 배분된다. 이때 zkp의 의미는 단순히 사용자가 AI 계산 과정을 검증하는 데 그치지 않고, 체인상 상태 전환을 트리거하는 신뢰 보장 역할도 한다. 이러한 신뢰 보장이 있기에 AI 서비스 간, 혹은 AI와 크립토 기반 dApp 간에도 dApp 수준의 조합 가능성이 생길 수 있다.
조합 가능한 AI의 기본 단위는 【체인 외부 ML 모델 - zkp 생성 - 체인상 검증 계약 - 주 계약】이며, 이는 「Leela vs the World」의 구조를 참고한 것이다. 다만 실제 단일 AI dApp 아키텍처는 아래 그림과 다를 수 있다. 첫째, 장기 게임의 경우 기보를 관리할 계약이 필요하지만, 현실 세계에서는 AI가 반드시 체인상 계약을 필요로 하지 않을 수 있다. 하지만 조합 가능한 AI 아키텍처 관점에서 보면, 주요 업무가 계약에 의해 기록되면 다른 dApp과의 조합이 더 쉬울 수 있다. 둘째, 주 계약이 반드시 AI dApp 자체의 ML 모델에 영향을 줄 필요는 없는데, 어떤 AI dApp은 일방향 영향만 줄 수 있기 때문이다. ML 모델 처리 후 자신의 업무 관련 계약을 트리거하면, 이 계약이 다른 dApp에 의해 호출될 수 있다.
확장해서 보면, 계약 간 호출은 서로 다른 웹3 애플리케이션 간 호출이며, 이는 개인 신원, 자산, 금융 서비스, 소셜 정보 등 다양한 정보의 호출을 의미한다. 다음은 구체적인 AI 애플리케이션 조합 예시이다:
-
Worldcoin은 ML을 사용해 개인 홍채 데이터로부터 iris code와 zkp를 생성한다;
-
신용 평가 AI 애플리케이션은 먼저 이 DID가 실제로 홍채 데이터를 가진 진짜 사람인지 검증한 후, 체인상 신용도에 따라 사용자에게 NFT를 배포한다;
-
대출 서비스는 사용자가 보유한 NFT에 따라 대출 한도를 조정한다;
공개 블록체인 프레임워크 내 AI 간 상호작용은 전혀 논의되지 않은 주제가 아니다. 전체 체인 게임 Realms의 생태 기여자 Loaf는 AI NPC들이 플레이어처럼 서로 거래할 수 있어 전체 경제 시스템이 자동으로 최적화되고 운영될 수 있다고 제안했다. AI Arena는 AI 자동 전투 게임을 개발했는데, 사용자는 먼저 NFT를 구매하고, 각 NFT는 하나의 전투 로봇(즉 AI 모델)을 의미한다. 사용자는 먼저 직접 게임을 플레이한 후 데이터를 AI에게 제공하여 학습시키고, AI가 충분히 강하다고 판단되면 경기장에 올려 다른 AI와 자동 전투를 벌인다. Modulus Labs는 AI Arena가 이러한 AI들을 모두 검증 가능한 AI로 전환하길 희망한다고 언급했다. 두 사례 모두 AI 간 상호작용이 가능하고, 상호작용 중 체인상 데이터를 직접 수정할 수 있음을 보여준다.
하지만 조합 가능한 AI는 구현 단계에서 여전히 다수의 미해결 문제를 안고 있다. 예를 들어 서로 다른 dApp이 어떻게 서로의 zkp나 검증 계약을 활용할 것인지 등이다. 그러나 ZK 분야에는 RISC Zero처럼 체인 외부에서 복잡한 연산을 수행하고 zkp를 체인상에 게시하는 데 진전을 이룬 우수한 프로젝트들이 많으므로, 언젠가는 적절한 조합 방식이 만들어질 수 있을 것이다.
2.2 수평 모델: 탈중앙화된 AI 서비스 플랫폼 구현에 집중
이 분야에서는 SAKSHI라는 탈중앙화 AI 플랫폼을 소개한다. 이는 프린스턴, 칭화대학교, 일리노이대학 어바나-샴페인, 홍콩과학기술대학, Witness Chain, Eigen Layer 출신 인력들이 공동으로 제안한 것이다. 핵심 목표는 사용자가 더욱 탈중앙화된 방식으로 AI 서비스를 이용할 수 있게 하여, 전체 프로세스를 더욱 신뢰 없고 자동화하는 것이다.
SAKSHI의 아키텍처는 6단계로 나뉜다: 서비스 계층(Service Layer), 제어 계층(Control Layer), 거래 계층(Transaction Layer), 증명 계층(Proof Layer), 경제 계층(Economic Layer), 시장 계층(Marketplace).
시장은 사용자에게 가장 가까운 계층으로, 다양한 AI 공급자를 대표하는 에이전트(집계기)가 사용자에게 서비스를 제공한다. 사용자는 집계기를 통해 주문을 넣고, 서비스 품질 및 가격에 대해 집계기와 합의(SLA: Service-level agreement)를 맺는다.
다음으로 서비스 계층은 고객 측에 API를 제공하며, 고객 측에서 집계기에 ML 추론 요청을 보내고, 이 요청은 AI 서비스 제공자를 매칭하는 서버로 전달된다(요청 전송 경로는 제어 계층의 일부). 따라서 서비스 계층과 제어 계층은 여러 서버를 가진 웹2 서비스와 유사하나, 각 서버는 서로 다른 주체가 운영하며, 개별 서버는 SLA(이전에 체결된 서비스 계약)를 통해 집계기와 연결된다.
SLA는 스마트 계약 형태로 체인상에 배포되며(본 사례에서 Witness Chain에 배포됨), 이 계약들은 모두 거래 계층에 속한다. 거래 계층은 또한 서비스 주문의 현재 상태를 기록하며, 사용자, 집계기, 서비스 제공자 간 조정 및 지불 분쟁 처리를 담당한다.
거래 계층이 분쟁 처리 시 근거를 갖기 위해, 증명 계층(Proof Layer)은 서비스 제공자가 SLA 약정대로 모델을 사용했는지 검증한다. 그러나 SAKSHI는 ML 계산 과정에 대한 zkp 생성 대신 낙관적 증명(Optimistic Proof) 접근을 취해, 검증자 노드 네트워크를 구축하여 서비스를 검증하며, 노드 인센티브는 Witness Chain이 부담한다.
SLA와 검증자 노드 네트워크가 모두 Witness Chain 상에 있음에도 불구하고, SAKSHI는 Witness Chain 자체 토큰으로 독립적인 보안을 실현하려 하지 않고, Eigen Layer를 통해 이더리움의 보안을 차용하려 한다. 따라서 전체 경제 계층은 사실상 Eigen Layer에 의존한다.
SAKSHI는 AI 서비스 제공자와 사용자 사이에 위치하여 다양한 AI를 탈중앙화 방식으로 조직해 사용자에게 서비스를 제공하며, 이는 일종의 수평적 접근이다. SAKSHI의 핵심은 AI 서비스 제공자가 자신의 체인 외부 모델 계산 관리에만 집중하도록 하고, 사용자 수요와 모델 서비스 매칭, 지불, 서비스 품질 검증을 체인상 프로토콜로 해결하며, 지불 분쟁 자동 해결을 시도한다는 점이다. 물론 현재 SAKSHI는 여전히 이론 단계이며, 실행 상 많은 세부 사항이 확정되어야 한다.
3. 미래 전망
조합 가능한 AI이든 탈중앙화 AI 플랫폼이든, 공개 블록체인 기반의 AI 생태계 모델에는 공통점이 있다. 예를 들어 AI 서비스 제공자는 사용자와 직접 연결되지 않으며, ML 모델을 제공하고 체인 외부에서 계산만 수행하면 된다. 지불, 분쟁 해결, 사용자 수요와 서비스 매칭 등은 모두 탈중앙화 프로토콜로 해결 가능하다. 공개 블록체인은 신뢰 없는 인프라로서 서비스 제공자와 사용자 간 마찰을 줄여주며, 사용자는 더 높은 자율성을 갖게 된다.
공개 블록체인을 애플리케이션 기반으로 삼는 장점은 이미 수없이 논의된 바 있지만, AI 서비스에도 실제로 적용 가능하다. 다만 AI 애플리케이션은 순수 dApp과 달리 모든 계산을 체인상에서 수행할 수 없으므로, zk나 낙관적 증명을 통해 AI 서비스가 더욱 신뢰 없이 공개 블록체인 시스템에 연결되도록 해야 한다.
계정 추상화(Account Abstraction) 등 다양한 사용자 경험 최적화 기술이 도입됨에 따라, 사용자는 지갑 키워드, 체인, 가스비 등의 존재를 인지하지 못할 수도 있다. 이는 공개 블록체인 생태계의 사용자 경험을 웹2 수준으로 끌어올리며, 사용자는 웹2보다 더 높은 자유도와 조합성을 얻게 되어 큰 매력이 될 것이다. 공개 블록체인 기반의 AI 애플리케이션 생태계는 매우 기대된다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
Kernel Ventures
