로봇을 넘어, AI 에이전트가 기업 자동화의 다음 물결을 이끈다
저자: JP 샌데이, 스티브 슬론, 나오미 필로소프 이오니타, 데릭 샤오
번역: TechFlow
경제 속 모든 일은 인간과 기계가 공동으로 수행하는 작업들의 집합으로 볼 수 있다. 오랜 시간 동안 소프트웨어는 점점 더 많은 작업을 맡아왔지만, 오늘날에도 대부분의 비즈니스 프로세스는 여전히 인간이 담당하고 있다. 각 기능 영역에서 인건비는 소프트웨어 지출보다 훨씬 높다.
AI 에이전트는 이러한 작업 분배를 결정적으로 바꿔놓을 전망이다. 과거의 소프트웨어가 주로 하위 수준의 순차적이고 기계적인 작업을 처리했던 것과 달리, 새로운 인지 아키텍처를 통해 에이전트는 동적으로 엔드투엔드(end-to-end) 프로세스를 자동화할 수 있게 되었다. 단순히 읽고 쓰는 AI가 아니라, 애플리케이션 로직의 흐름을 판단하고 사용자를 대신해 행동을 취하는 AI인 것이다.
이들은 현재 기업에서 대규모 언어 모델(LLM)이 가진 가장 큰 기회다. 다른 글에서 우리는 이러한 새로운 '에이전트'의 정의와 이를 가능하게 하는 설계 패턴에 대해 논했다(링크 참조). 이번에는 에이전트가 기업 내에서 어떻게 활용될 수 있으며, 기업 자동화의 새로운 시대를 열 수 있는지 살펴볼 것이다.
로봇 프로세스 자동화(RPA)의 재등장인가?
이 내용이 어디서 본 듯한 느낌이 든다면, 지난 10년간 UiPath와 Zapier 같은 기업들이 '로봇 자동화'라는 이름 아래 유사한 비전을 제시해왔기 때문이다.
UiPath는 최초로 시장에 진입한 기업이다. RPA 거대 기업인 UiPath의 핵심 사업은 화면 스크래핑(screen scraping)과 GUI 자동화를 통해 '로봇'이 사용자의 동작을 기록하고, 그 순차적 단계들을 모방하여 문서 정보 추출, 폴더 이동, 양식 작성, 데이터베이스 업데이트 등의 프로세스를 자동화하는 것이다.
그 후, Zapier와 같은 iPaaS 제공업체들이 등장해 보다 경량화된 'API 자동화' 방식으로 생산성을 높였다. 이 플랫폼은 사전 구축된 API 통합과 웹훅(webhooks)을 통해 더 안정적인 자동화를 제공했으며, 이로 인해 회사의 범위가 웹 애플리케이션 자동화로 제한되긴 했지만, UiPath는 API를 지원하지 않을 수도 있는 다양한 소프트웨어 간에 프로세스를 자동화할 수 있었다.
UiPath와 Zapier는 기업들이 부서 또는 산업 특화 소프트웨어 시스템 내외부에서 긴 꼬리(long-tail) 프로세스 문제를 해결하기 위해 구성 가능한 규칙 기반의 수평적 자동화 플랫폼에 대한 수요가 있음을 입증했다. 그러나 기업들이 로봇 기반 자동화를 확대하면서, 이러한 전통적 아키텍처의 능력과 약속된 자율성 사이의 격차가 특히 다음과 같은 면에서 드러나기 시작했다.
-
(여전히) 막대한 인력과 수동 작업 필요. 로봇 및 자동화에 관한 논의는 많지만, 자동화 구축 및 유지 관리는 여전히 매우 번거롭다. 실제로 UiPath가 1달러를 벌 때마다 EY와 같은 구현 및 컨설팅 파트너에게 7달러가 지급되어 배포 및 유지 관리 주기가 길고 비용이 많이 든다.
-
UI 자동화는 취약하거나 API 통합이 제한적임. 소프트웨어의 UI가 변경되면 UI 자동화는 종종 중단되며, API는 더 안정적이지만 통합 수가 적고, 특히 레거시(legacy) 또는 온프레미스(on-premise) 소프트웨어에서는 더욱 그렇다.
-
비구조화 데이터 처리가 어려움. 기업 데이터의 80%는 비구조화 또는 반구조화 데이터이지만, 순차 기반 자동화는 이러한 데이터를 지능적으로 처리하기 어렵다. Hyperscience와 Ocrolus 같은 지능형 문서 처리(IDP) 솔루션은 이 부분에서 진전을 이루었으나, 간단한 '추출 및 변환' 문서 사용 사례에서도 여전히 예외 상황과 이상 처리에 어려움을 겪고 있다.
또한 전통적인 RPA 및 iPaaS 솔루션은 LLM 통합을 시도하더라도 여전히 결정론적(deterministic) 아키텍처에 한계를 받는다. 현재 UiPath의 AI 솔루션인 Autopilot과 Zapier의 AI Actions는 서브에이전트(sub-agent) 설계 패턴에서만 LLM을 사용하며, 예를 들어 (1) 텍스트를 액션으로 변환하거나, (2) 의미 검색, 요약 또는 일회성 생성을 위한 노드로 활용한다.
이러한 AI 기능은 강력하다. IT 부서가 아닌 비즈니스 부서가 자동화 규칙을 직접 제어할 수 있게 되었으며, OCR 대신 시각 트랜스포머(vision transformer)를 통해 더 강력한 객체 탐지 및 인식이 가능해졌고, RAG를 통해 강력한 데이터 추출 및 변환이 가능해졌다. 그러나 다음에서 다룰 바와 같이, LLM이 프로세스 자동화에서 가져올 수 있는 더 혁신적인 사용 사례는 여전히 실현되지 못하고 있다.
결정 엔진으로서의 AI 에이전트
에이전트는 본질적으로 매우 다르다. 에이전트는 애플리케이션 제어 흐름의 중심에 위치한 결정 엔진이며, 이는 오늘날 RPA 로봇의 하드코딩된 로직이나 생성형 AI 혁명의 첫 물결을 이끈 RAG 애플리케이션과도 명백하게 대비된다. 에이전트는 처음으로 적응성, 다단계 조작, 복잡한 추론, 강력한 예외 처리를 가능하게 한다.
영수증 대조(reconciliation) 사례를 통해 그 영향력을 설명해보겠다. 아래는 새 영수증 PDF를 회사 원장과 매칭하는 과정을 보여주는 단순화된 프로세스 다이어그램으로, RPA를 위한 시각적 모델링 방식과 유사하다.
분명히, 워크플로우의 복잡성은 빠르게 증가하며, 앞의 세 가지 결정 집합 내에서 관련된 모든 예외 상황과 특이 사례를 포괄하는 것은 거의 불가능하다. 일반적으로 이러한 워크플로우를 기계적으로 실행하는 RPA 로봇은 오류를 발생시키고, 부분적으로 일치하거나 누락된 항목을 인간에게 보고하게 된다—이는 대부분의 기업이 매월 수백 명의 직원을 고용해 이 고도로 수작업이 필요한 프로세스를 완료하는 이유일지도 모른다.
그러나 동일한 워크플로우에 적용할 경우, 에이전트는 훨씬 뛰어난 성능을 보이며 다음 기능을 수행할 수 있다.
-
새로운 환경에 적응. 에이전트는 새로운 데이터 소스, 영수증 형식, 명명 규칙, 계좌 번호, 심지어 기본적인 추론과 비즈니스 맥락에 기반한 정책 변화까지 재프로그래밍 없이도 스마트하게 식별하고 적응할 수 있으며, 명확한 표준 운영 절차(SOP)에 의존하지 않는다.
-
다단계 조작 지원. 영수금액이 일치하지 않을 경우, 공급업체의 최신 이메일을 스캔해 가격 변동 알림 등을 찾는 다단계 조사를 수행할 수 있다.
-
복잡한 추론 능력. 예를 들어, 국제 공급업체의 영수증을 회사 장부와 대조해야 하는 상황을 생각해보자. 이 과정은 영수증 통화, 장부 통화, 거래 날짜, 환율 변동, 국경 간 수수료, 은행 수수료 등 여러 요소를 고려해야 하며, 이 모든 요소를 검색해 계산하여 결제 대조를 완료해야 한다. 에이전트는 이러한 지능형 작업을 수행할 수 있지만, RPA 로봇은 이 문제를 인간에게 보고할 가능성이 높다.
-
불확실성 처리. 개별 항목의 반올림 오차나 판독 불가 숫자에 대해서도 총 주문 가치 일치 여부, 과거 영수증의 시기 및 빈도 같은 문맥 단서를 활용해 대응할 수 있다.
AI 에이전트 시장 현황
에이전트는 더 이상 공상과학 소설 속 개념이 아니다. 이 분야는 아직 발전 중이지만, 스타트업에서 포춘 500대 기업에 이르기까지 이미 대규모로 이러한 시스템을 도입하고 사용하고 있다.
현재의 에이전트 시장 구조는 두 가지 핵심 차원으로 표현할 수 있다.
-
도메인 특화성: 의료와 같은 수직 산업이나 고객 지원과 같은 특정 부서를 위한 고도로 전문화된 에이전트부터, 광범위하고 일반적인 능력을 갖춘 수평적 에이전트 플랫폼까지 포함된다.
-
대규모 언어 모델(Large Language Model)의 자율성: 언어 모델이 독립적으로 계획을 수립하고 애플리케이션 로직을 이끄는 능력을 나타낸다.
이 두 요소는 아래와 같이 우리가 연구하고 있는 AI 에이전트 시장 지도의 두 축을 형성한다.
시장 지도의 우측 상단에는 가장 일반적이고 확장 가능한 에이전트들이 자리잡고 있다.
-
기업용 에이전트. 확장 가능한 에이전트 플랫폼은 기업이 자연어로 된 SOP 또는 신입 직원용 매뉴얼과 유사한 규칙을 통해 여러 기능과 워크플로우에 걸쳐 에이전트를 구축하고 관리할 수 있도록 한다. 이러한 플랫폼은 각 사업부에 별도의 솔루션을 제공하는 대신, 널리 적용 가능한 에이전트 기능을 원하는 중앙집중식 IT 구매자들에게 특히 매력적이다. 예를 들어, Sema4의 영수증 대조 에이전트의 핵심 처리 능력은 재무, 조달, 운영 등 다양한 데이터 검증 작업에 활용될 수 있다.
그럼에도 불구하고 대부분의 기업용 에이전트는 '레일 위의 에이전트(rails-on agents)' 아키텍처를 채택하고 있어, 각 새로운 프로세스마다 사전 정의된 작업 세트, 비즈니스 맥락, 보호 조치를 기반으로 에이전트를 설계해야 한다. 일부 데이터 인프라를 서로 다른 워크플로우 간에 공유할 수 있지만, 이러한 플랫폼의 광범위한 특성은 인간 같은 일반성보다는 누적된 사용 사례에서 비롯된다. 따라서 이 분야의 일부 참여자들은 제품 및 마케팅 측면에서 더 큰 이점을 얻기 위해 특정 영역에 집중하기 시작했다(예: Brevian은 고객 지원 및 보안에 집중, Ema는 영업 및 지원 분야에 집중).
-
브라우저 에이전트. MultiOn, Induced, Twin과 같은 웹 에이전트는 또 다른 형태의 광범위하고 일반화 가능한 에이전트를 나타낸다. 대부분 '범용 AI 에이전트' 설계를 채택하며, 다양한 소프트웨어 인터페이스와 그 백엔드 코드베이스에서 훈련된 시각 트랜스포머 모델을 활용한다. 이를 통해 에이전트는 웹 컴포넌트와 그 기능 및 상호작용을 '이해'하고, 웹 브라우징, 시각적 UI 조작, 텍스트 입력 자동화를 수행할 수 있다.
그러나 이러한 에이전트는 일반성은 높이지만 일관성은 종종 희생된다. 현재 대부분의 에이전트는 단순한 생산성 또는 전자상거래 애플리케이션에 초점을 맞추고 있으며, 기업 수준의 성능 달성에 어려움을 겪고 있다. 더 제한된 문제 영역과 적절한 데이터 지원 및 보호 조치의 부족으로 인해, 더 신뢰할 수 있는 브라우저 에이전트는 복잡한 조작 및 관찰 공간 관리, 여러 페이지 간의 맥락 유지, 다양한 웹 인터페이스 해석과 같은 주요 과제들을 극복해야 한다.
-
AI 지원 서비스. 기업의 에이전트 기능에 대한 수요는 현재 자체적으로 에이전트를 생산할 수 있는 능력을 초과하고 있으며, 특히 '레일 위의 에이전트' 설계는 현실적으로 효과를 내기 위해 광범위한 데이터 인프라와 보호 조치를 필요로 한다. 바로 Distyl과 Agnetic과 같은 기업들이 이 틈새를 메우는 역할을 하고 있다. 이들 회사는 'AI 버전의 팔란티어(Palantir)'와 유사한 선제적 엔지니어링 서비스를 제공하며, 팔란티어의 파운드리(Foundry)처럼 다양한 고객 간에 모듈화된 시스템 인프라를 재사용함으로써 점진적으로 플랫폼과 서비스의 비율을 재조정할 수 있다.
그러나 모든 에이전트가 수평적이고 일반화 가능한 것을 추구하는 것은 아니다. 우리는 문제 해결 유형을 제한함으로써 신뢰성을 높이는 특정 영역 및 워크플로우 중심의 에이전트가 점점 더 많이 등장하고 있다.
-
수직 도메인 에이전트. 수직 도메인 에이전트의 가장 유망한 기회는 현재 인간이 표준 운영 절차(SOP) 또는 규칙 매뉴얼에 따라 수작업으로 수행하는 절차 중심 프로세스들이다. 많은 기업들이 이미 이러한 기능을 BPO(Business Process Outsourcing) 회사나 계약자에게 아웃소싱하고 있다. 이러한 작업들은 규칙 기반 자동화에는 너무 복잡하지만, 내부 지식 근로자를 배치할 만큼 중요하거나 차별화되지는 않다. 주요 카테고리는 고객 지원, 채용, 코드 리뷰, 테스트, 유지보수 같은 특정 소프트웨어 개발 작업, 콜드 콜 세일즈, 보안 운영 등이다.
-
AI 어시스턴트. 에이전트의 관심 범위를 줄이는 또 다른 방법은 특정 작업을 통해 접근하는 것이며, 특정 영역을 통한 접근이 아니다. AI 어시스턴트는 기업용 또는 수직 도메인 에이전트처럼 복잡한 엔드투엔드 프로세스를 수행하는 대신, 더 단순하고 생산성 중심의 작업을 수행한다. 일반적인 기본 작업에는 간단한 웹 리서치, 지식 추출, 요약, 일회성 작업을 위한 비구조화 데이터 변환(예: 채팅 PDF, Gong 회의 기록에서 기능 요청 추출 등)이 포함된다.
마지막으로 주목할 점은, 일부 광범위한 생성형 AI 솔루션들은 스스로는 에이전트가 아니지만, 예산 측면에서 에이전트 솔루션과 경쟁하며 때로는 동일한 워크플로우에 참여한다는 것이다. 이러한 솔루션은 주로 RAG 아키텍처를 기반으로 하며 애플리케이션 제어 흐름 내에 있지 않아 인간의 추론을 완전히 모방할 수 없다. 그러나 이들의 기능은 여전히 서비스 자동화를 크게 향상시키며 기업에 통제권을 제공할 수 있다.
-
수직 도메인 AI. 의미 검색과 비구조화 데이터 변환은 수직적 워크플로우에서 강력한 기반 기능이다. 예를 들어, 의료 AI 자동화 플랫폼인 Tennr은 팩스, PDF, 전화 등 다양한 비정형 소스로부터 비구조화 데이터를 추출해 클리닉의 EHR 시스템에 입력함으로써 소개 절차를 원활하게 하고 직원의 수동 데이터 입력 요구를 줄인다. 산업용 AI는 제조업체의 견적 프로세스를 자동화하기 위해 유사한 접근법을 사용한다.
-
RAG as a Service. Danswer와 Gradient와 같은 RAG as a Service 기업은 수직적 의미 검색 및 비구조화 데이터 변환 기업의 수평적 대응물로서, 고객이 PDF와 같은 비구조화 데이터 소스를 쿼리하고 데이터를 추출한 후 결과를 더 구조화된 데이터베이스나 기록 시스템에 입력할 수 있도록 한다.
-
기업용 검색. Glean, Perplexity, Sana는 관련 문서를 색인하고 검색하기 위한 의미 검색을 제공하여 조직 내 지식을 더 잘 관리하고 기업 데이터 사이로를 해소한다.
기업 자동화의 미래
생성형 AI의 두 번째 물결은 단순히 읽고 쓰는 것을 넘어 인간의 사고와 행동을 대체할 수 있는 에이전트에 의해 정의될 것이다. 이러한 아키텍처가 성숙함에 따라, 에이전트는 서비스 산업을 장악하는 강력한 촉매제가 될 것이다. Menlo에서는 이러한 미래를 만들어가는 팀들과 만나는 것을 고대하고 있다. 만약 당신이 에이전트 분야에서 개발 중이라면, 반드시 연락해주기를 바란다.
JP Sanday ([email protected])
Steve Sloane ([email protected])
Naomi Ionita ([email protected])
Derek Xiao ([email protected])
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
@MenloVentures
