ZKP와 AI의 만남, zkML은 숨겨진 차세대 투기 스토리일까?

2024.02.28

zkML = ZKP + ML로, 제로 나이즈 증명 기반의 AI 머신러닝 모델을 의미한다.

2024.02.28 - 12:42:48

Web3 심층 보도에 집중하고 흐름을 통찰

zkML = ZKP + ML로, 제로 나이즈 증명 기반의 AI 머신러닝 모델을 의미한다.

글: hitesh.eth

번역: Frank, Foresight News

zkML은 인공지능 이후의 다음 거대한 서사일 수 있다.

다만 많은 사람들에게 zkML은 다소 복잡하게 느껴질 수 있는데, 본문에서는 가장 간단한 방식으로 설명하고자 한다.

zkML이란 무엇인가?

간단히 말해, zkML = ZKP + ML

여기서 ZKP는 제로노우리지 프루프(Zero-Knowledge Proof), ML은 머신러닝(Machine Learning)을 의미한다.

즉, zkML = 제로노우리지 프루프 기반 머신러닝

요약하면, 머신러닝 모델의 출력 결과를 ZKP 기술로 생성하면서도 학습 과정에서 사용된 민감한 데이터는 노출하지 않고, 동시에 계산의 정확성을 보장하는 것이다.

그렇다면 머신러닝 모델이란 무엇인가? 머신러닝 모델은 대량의 데이터를 기반으로 예측을 수행할 수 있도록 훈련된 컴퓨터 프로그램이다.

예를 들어 ChatGPT와 같은 대규모 언어 모델(Large Language Model)은 머신러닝 모델 위에 구축된다.

그렇다면 '추론(Inference)'이란 무엇인가? 추론이란 사용자의 입력(Prompt)을 분석하고 맥락을 이해한 후, 훈련된 데이터 모델을 활용해 결과를 도출하는 과정을 말한다.

ChatGPT를 예로 들어보자.

추론 과정의 첫 번째 단계는 입력을 작성하는 것이다. 예를 들어 "Drake 스타일의 암호화폐 랩송 한 곡 써줘"라는 프롬프트를 입력할 수 있다.

두 번째 단계에서 ChatGPT는 "Drake 스타일의 암호화폐 랩송"이라는 맥락을 분석하고, 사용자의 요청에 따라 훈련된 모델을 활성화시켜 데이터 내 패턴을 식별한 후, 이를 바탕으로 Drake 스타일의 암호화폐 랩송을 출력 결과로 생성한다.

추론 전 과정에는 민감한 데이터 유출 가능성이 있는 두 가지 개인정보 침해 위험이 존재한다.

멤버십 추론 공격(Membership Inference attacks): 공격자가 모델의 출력 결과를 분석해 특정 데이터가 학습 과정에 포함되었는지 추정할 수 있음;
모델 반전 공격(Model Inversion attacks): 특정 프롬프트를 조작함으로써 공격자가 출력 결과로부터 학습 데이터의 일부를 재구성하려 시도할 수 있음;

zkML은 이러한 문제에 어떻게 기여할 수 있을까? zkML은 훈련 데이터 자체를 노출하지 않으면서도 민감한 데이터에 대한 추론을 가능하게 한다.

이는 Plonky, Halo2 등의 ZK 증명 시스템을 활용하여 구현되며, 현재 Plonky2가 가장 빠른 ZK 증명 시스템으로 알려져 있다.

zkML을 통해 공격자는 결코 훈련 데이터에 직접 접근할 수 없게 된다.