
모델에서 온체인으로: AI 자율 작동이 암호 자산 리스크 관리 로직을 재편하고 있다
집필: Sean Stein Smith, Forbes
번역: AididiaoJP, Foresight News
최근 몇 년간 AI 위험에 대한 논의는 매우 빠르게 변화하여 따라가기 벅찰 정도입니다. 오늘날 기업이 직면한 문제는 더 이상 챗봇이 가끔 엉뚱한 소리를 하거나 편향된 의견을 출력하거나, 직원이 실수로 민감한 정보를 공개 도구에 붙여넣는 이런 사소한 문제가 아닙니다. 진정한 질적 변화는 AI 에이전트가 직접 행동할 능력을 갖췄다는 점에 있습니다. 이들은 외부 시스템을 호출하고, 코드를 직접 작성하며, 거의 감시 없이도 독립적으로 복잡한 다단계 작업 전체를 추진할 수 있습니다.
이러한 변화는 금융 시장, 특히 암호화 시장에 매우 심각한 도전을 가져왔습니다. 암호화 자산은 7×24 시간 거래되며, 스마트 계약은 자동으로 실행되고, 블록체인상의 거래는 한번 확인되면 되돌리기 어렵습니다. 만약 이러한 AI 에이전트가 지갑, 거래소, DeFi 프로토콜 또는 결제 시스템에 연결되면, 아무리 작은 권한 취약점이라도 돌이킬 수 없는 자금 손실로 직접 이어질 수 있습니다. 따라서 에이전트형 AI 위험은 더 이상 IT 부서의 몫만이 아니며, 기업 거버넌스와 암호화 자산 통제의 핵심 과제가 되었습니다.
암호화 메커니즘, AI 자율 행동의 파괴력 증폭
영국 AI 안전 연구소 최근 공개한 사건은 이러한 '자율성'이 얼마나 위험한지 적나라하게 보여줍니다. 최근 사이버 보안 평가 테스트에서 AI 에이전트는 실제 인물과 조직에 대해 지속적이고 완전히 무단인 행동을 취했습니다. 비록 결국 제때 제지되었지만, 이는 AI 에이전트가 계획 결정, 도구 호출, 지속적 실행 및 외부 접근 능력을 예상치 못한 방식으로 결합하여 현실 세계의 공격을 실행할 수 있음을 증명하기에 충분했습니다.
암호화 자산이 여기에 휘말리면 재무 위험은 기하급수적으로 확대됩니다. 개인 키에 접근하거나 지갑에 연결된 에이전트는 자산 이체, 악성 계약 서명, 담보 유용, 심지어 탈중앙화 프로토콜과의 임의 상호작용을 완전히 수행할 수 있습니다. 이는 전통적인 은행 송금과 완전히 다릅니다. 긴급 정지를 도와줄 고객센터도, 거래를 막아줄 은행도, '취소'라는 개념도 없습니다. 자금이 이체되면 거의 영영 사라지는 것과 같습니다.
더 심각한 것은 암호화 시장은 문을 닫지 않는다는 점입니다. AI 에이전트는 한밤중, 주말, 전체 직원이 깊이 잠든 때 계속 작동할 수 있습니다. 자동 거래 또는 청산 프로그램은 완전히 몇 분 내에 통제 가능한 작은 실수를 눈덩이처럼 불려 재앙적 손실로 확대시킬 수 있습니다. 따라서 기업이 AI 에이전트 위험을 평가할 때 가장 주목해야 할 것은 모델이 얼마나 똑똑한지가 아니라 어떤 시스템과 자산에 접근할 수 있는지입니다. 능력은 평범하지만 권한이 광범위하게 열려 있어 지갑을 직접 조작할 수 있는 에이전트가, 능력은 더 뛰어나지만 샌드박스에 단단히 잠긴 모델보다 훨씬 위험합니다. 권한 설계는 모델 선택보다 더 중요한 생사선이 되고 있습니다.
내부 통제는 지갑과 스마트 계약의 모든 틈새까지 확장되어야 합니다
많은 기업은 이미 직무 분리, 승인 한도, 접근 검토, 변경 관리 등 일련의 전통적인 내부 통제 수단을 구축했습니다. 문제는 이러한 원칙이 암호화 시스템과 상호작용하는 모든 AI 에이전트에게도 타협 없이 적용되어야 한다는 점입니다.
어떤 에이전트도 지갑 생성, 주소 화이트리스트 수정, 이체 개시, 전 과정 인간 개입 없이 등 '원스톱' 능력을 가져서는 안 됩니다. 고위험 거래는 반드시 실제 인간 승인을 강제 요구해야 하며, 승인자가 받는 정보는 명확하고 완전해야 합니다: 수신 주소, 자산 유형, 금액, 소속 네트워크, 가스비, 그리고 이 거래가 정확히 무엇을 위한 것인지. 그런 모호한 표현, 자동 팝업 '시스템 작업 확인하세요' 알림은 효과적인 통제라고 할 수 없으며, 환상적인 안전감만 조성할 뿐입니다.
개인 키와 서명 권한은 특히 특별한 보호가 필요합니다. 에이전트가 니모닉 구문이나 서명 인증서를 임의로 읽도록 절대 허용해서는 안 됩니다. 멀티시그 메커니즘, 하드웨어 보안 모듈, 단일 거래 한도, 입금 지연 등 설계는 '하나의 취약점이 이용되어 지갑이 순식간에 비워지는' 위험을 효과적으로 낮출 수 있습니다. 스마트 계약과 상호작용하기 전에 반드시 시뮬레이션 실행과 엄격한 검증이 필요하며, 특히 무제한 토큰 승인이나 출처 불명의 계약과 관련된 경우 더욱 각별히 주의해야 합니다.
기업은 또한 완전한 운영 로그를 구축해야 합니다. 에이전트가 무엇에 접근했는지, 어떤 지시를 받았는지, 어떤 거래를 제안했는지, 어떤 것들이 최종적으로 온체인에 성공했는지, 그리고 실제 인간이 이러한 작업을 전 과정 주도했는지 여부 등. 이러한 기록은 사후 책임 추궁, 보안 감사, 자산 보호는 물론 재무 공시에도 필수 불가결합니다. 로그가 없으면 문제가 발생했을 때 책임 소재를 가리기조차 어렵습니다.
AI+ 암호화 사고, 업계 교훈 공유 필요
리눅스 재단과 오픈 세큐리티 AI 얼라이언스는 이미 각 조직이 비밀 유지 전제 하에 실제 AI 보안 사건과 위기를 서로 학습할 수 있도록 돕는 '공유 AI 발견 교환'(SAFE) 메커니즘을 출시했습니다. 암호화 기업, 은행, 자산 보관 기관, 거래소 및 감사 기관은 모두 이러한 정보 공유에 적극적으로 참여해야 합니다.
암호화 업계는 이미 해커 공격, 크로스체인 브릿지 붕괴, 키 유출, 스마트 계약 취약점을 자세히 복기하는 것이 얼마나 가치 있는 일인지 잘 알고 있습니다. 그러나 에이전트형 AI 는 이 오래된 문제에 새로운 차원을 추가했습니다. 한 번의 사고는 모델 자체, 프롬프트 설계, 도구 통합, 접근 정책, 그리고 최종 온체인 거래까지 동시에 연루할 수 있습니다. 따라서 실제로 유용한 사고 보고서는 이러한 모든 층위를 명확히 설명해야 하며, 막연히 'AI 에 문제가 발생했습니다'라고 말해서는 안 됩니다.
이사회는 이제 명확히 질문해야 합니다. 에이전트형 AI 가 지갑 거버넌스, 사이버 보안 비상 대응 계획 및 업그레이드 승인 프로세스에 포함되었는지? 감사인도 무단 에이전트 작업이 직접적인 자산 손실, 잔액 오류 보고, 잠재 부채, 심지어 내부 통제 시스템의 중대한 결함으로 이어질 수 있는지 고려해야 합니다. 재무 팀은 악의적이거나 실패한 온체인 거래가 발생했을 경우 어떻게 식별하고, 어떻게 평가하며, 어떻게 재무제표에 솔직하게 공시할지 미리 생각해야 합니다.
물론 AI 에이전트에는 위험만 있는 것은 아닙니다. 장래에 암호화 규정 준수, 자동 대조, 사기 탐지 및 자금 관리 효율성을 크게 향상시킬 가능성이 완전히 있습니다. 이러한 이점은 실제로 기대할 수 있습니다. 하지만 전제는 자율 능력에 충분히 강력한 통제 수단이 동반되어야 한다는 점입니다. 그렇지 않으면 코드 수준의 작은 실수가 순식간에 되찾을 수 없는 온체인 이체로 변할 수 있습니다.
암호화 세계에서 책임은 에이전트가 실제로 행동 능력을 얻기 전에 먼저 설계되고, 삽입되고, 테스트되어야 합니다. 당신이 암호화의 신봉자이든 AI 의 옹호자이든, 이 점을 직시해야 합니다. 통제 불능하면 결과는 종종 영구적이기 때문입니다.













