a16z: “가격은 비싸고 사용은 어렵다”는 기업용 소프트웨어야말로 AI의 진정한 금광이다
저자: Eric + Seema Amble
번역 및 편집: TechFlow
TechFlow 리더스: SAP ECC에서 S/4HANA로의 업그레이드는 7억 달러의 비용과 3년의 기간, 그리고 액센츄어(Accenture)에서 파견된 50명의 인력을 필요로 한다. 그럼에도 불구하고 세계 최대 규모의 기업들은 여전히 이를 사용하고 있다. a16z의 이 글은 투자 관점에서 반직관적인 통찰을 제시한다: 미래의 승자는 ‘SAP를 대체하는’ 기업이 아니라, SAP를 더 프로그래밍 가능하고 더 쉽게 사용할 수 있도록 만드는 기업이라는 것이다. 이 프레임워크는 기업용 AI 시장에서 진정한 기회 포인트를 이해하는 데 매우 유용한 참고 자료가 된다.
본문 전문:
AI 분야의 스타트업과 그 고객들은 주로 완전히 새로운 기능과 이를 기반으로 한 제품에 주목하고 있다: 아름다운 음성 에이전트, 워크플로우 자동화 도구, 텍스트 생성 애플리케이션 플랫폼 등이다.
이 분야에는 이미 흥미로운 기업들이 많으며, 앞으로도 더욱 늘어날 것이다(당사도 몇 곳에 투자했다!). 그러나 AI가 진정으로 막대한 영향을 미칠 분야는 훨씬 덜 화려하지만, 훨씬 더 가치 있는 일이다: 즉, 조직이 이미 운영 중인 방대한 소프트웨어에서 더 많은 가치를 창출하도록 돕는 것이다. 재무 500대 기업에서 단지 일주일만 근무해도 공감할 수 있는, 다소 도발적으로 들릴 수 있는 질문이 있다: 사람들은 왜 여전히 SAP(또는 ServiceNow, Salesforce)를 사용할까?
간단한 답변은 이렇다: SAP 또는 기타 주요 레거시 레코드 시스템은 해당 기업의 핵심 데이터를 축적하고 있다. 더 중요한 것은, 기업이 이 시스템 위에 광범위한 맞춤형 개발을 수행했고, 이에 따라 특정한 프로세스와 책임 구조를 구축했으며, 그중 상당수는 문서화조차 되어 있지 않다는 점이다. 이러한 시스템에서 벗어나는 비용은 고통스럽고, 막대하며, 오랜 시간이 걸린다—보통 컨설턴트 대군, 수 년의 기간, 수억 달러의 예산이 소요된다. SAP ECC에서 SAP S/4HANA로의 마이그레이션은 7억 달러의 비용과 3년의 기간, 액센츄어에서 파견된 50명의 팀을 필요로 할 수 있다. 마이그레이션이 완료된 후에도, 이 소프트웨어는 거의 대부분 조작 불가능한 읽기 전용 보고서만 생성할 수 있게 된다. 지금에 와서야 비로소 AI가 이러한 레코드 시스템 내에 축적된 데이터를 업그레이드하고, 맞춤화하고, 대체하며, 보다 효과적으로 접근하고 활용할 수 있는 기회를 열어주고 있다.
궁극적으로 AI의 목표는 ‘SAP/ServiceNow/Salesforce를 대체하는 것’이 아니라, 이들을 더 프로그래밍 가능하고 더 쉽게 접근할 수 있도록 만드는 것이다. 승자는 (1) 측정 가능한 위험과 시간표를 기반으로 전환 예산을 줄이는 동시에, (2) 신뢰할 수 있는 컨트롤 플레인으로서 일상 운영에 확장되어, 레거시 UI를 점진적으로 조합 가능하고, 거버넌스가 적용된 AI 보조 작업 및 경량 애플리케이션으로 분해하는 플랫폼이 될 것이다. 즉, 레코드 시스템은 장기적으로 지속될 것이며, 인터페이스 계층, 자동화 계층, 확장 계층이 새로운 소프트웨어의 최전선이 될 것이다.
SAP는 고통스럽지만, 우리는 여전히 그것을 사용한다
먼저 SAP가 무엇인지 간략히 소개하자면, 이처럼 시스템은 겉보기에는 탐색이 어렵고 수정이 고통스럽지만, 어째서인지 세계 최대 기업의 운영 중심축으로 자리 잡고 있다. SAP를 사용하는 느낌을 직접 살펴보자!
그러나 바로 이 ‘어째서인지’라는 부분이 바로 기회가 있는 곳이다.
불편하지만 정확한 답변은 다음과 같다: 못생긴 UI와 끝없는 설정 뒤에는 이 시스템이 실제로 매우 강력하다는 점이다. 이들은 기업의 공식 데이터 모델을 인코딩하고, 규정 준수를 위한 권한 및 관리 메커니즘을 유지하며, 대규모 운영을 지원하는 워크플로우를 구현하고, 수십 개(혹은 수백 개)의 하류 프로세스와 통합된다. 이들은 소비자용 ‘애플리케이션’이 아니라, 테이블, 역할, 승인, 전기(posting) 로직, 예외 처리 등을 매개로 축적된 조직의 집단 기억이다.
이러한 시스템을 교체하는 것은 단순히 비용이 많이 드는 것을 넘어서, 위험 또한 매우 크다. 게다가 기업이 이 시스템에 투입하는 자원이 많아질수록—맞춤 필드, 워크플로우, 가격 책정 규칙, 보고서 로직 등—이 시스템은 이전 시스템에서 벗어나는 높은 비용을 바탕으로 한 성공적인 진입 장벽이자 심지어 경쟁 우위까지도 만들어낸다. 이것이 확장성이 강력한 이유이기도 하다: 모든 기업은 고유하며, 변화는 지속적이다(신규 법규, 신제품, 새 조직 구조 등), 그러므로 이러한 플랫폼이 생존할 수 있는 이유는 현실에 맞춰 유연하게 조정될 수 있기 때문이다. 문제는, 바로 이 같은 확장성이 시스템을 유용하게 만들면서도 동시에 취약하게 만든다는 점이다: 각각의 맞춤화는 향후 업그레이드 시 폭탄이 되고, 각각의 워크플로우는 미로가 되며, 각각의 인터페이스는 그것을 사용해야 하는 모든 사람에게 세금과 같아진다.
이런 취약성은 어디에나 존재한다. CRM은 널리 채택되었음에도 불구하고, 사용자 만족도는 여전히 편차가 크다. ERP의 광범위한 맞춤화는 항상 일정 지연과 예산 초과와 동행해왔다. 직원들은 분산된 워크플로우에 압도되고 있다—디지털 노동자는 하루 평균 약 1,200회 다른 애플리케이션 사이를 전환하며(주당 약 4시간 손실), 디지털 노동자의 47%는 업무 수행에 필요한 정보를 찾지 못한다. 대규모 ‘디지털 전환’ 프로젝트는 자주 실패하며, 약 70%가 목표를 달성하지 못한다는 추정치가 있다. 이러한 마찰과 관련된 비용 규모는 막대하다: 2023년 소프트웨어 구현/시스템 통합 시장 규모는 약 3,800억 달러에 달한다.
이 과정과 고통은 AI가 이러한 소프트웨어의 구현 및 사용 방식을 변화시키는 기회를 제공한다. 이 기회를 가장 쉽게 이해하는 방법은 시스템의 수명 주기를 따라가는 것이다: 먼저 이를 구현하거나 마이그레이션하고, 그 다음 매일 이 안에서 살아가며, 마지막으로 비즈니스 변화에 따라 이 위에 새로운 것을 구축한다. 각 단계에서 업무의 본질은 혼란스러운 인간의 의도를 레코드 시스템에 대한 올바르고 감사 가능한 행동으로 전환하는 것이다.
그렇다면 AI가 각 단계에서 레거시 소프트웨어 시스템의 사용 방식을 어떻게 개선할 수 있을까?
구현 단계
가장 위험이 크고 예산 민감도가 높으며, 동시에 수익이 가장 명확한 단계인 구현 단계부터 시작하자. 구체적으로 말하면, 혼란스러운 요구사항 수집(회의, 문서, 티켓)을 구조화된 요구사항으로 전환한 후, 자동으로 구현 워크플로우를 생성하는 것이다: 프로세스 및 필드 매핑, 설정 및 코드, 테스트 스크립트, 롤아웃 전환 계획, 마이그레이션 매뉴얼—그리고 롤아웃에 필요한 데이터 정제 및 검증 작업까지 포함한다. 이 작업은 매우 어렵다: 독일의 대형 슈퍼마켓 체인 리들(Lidl)은 5억 달러를 투입한 후에도 SAP로의 마이그레이션 시도를 포기했다.
이 분야의 기업들은 마이그레이션 및 구현을 지원하기 위해 코파일럿(Copilot), 프로젝트 관리 도구 및 기타 소프트웨어를 개발하고 있다. 다음은 이 분야에서 활동 중인 스타트업 사례들이다(앤드리슨 호로비츠(Andreessen Horowitz)는 이 중 일부에 투자했다).
Axiamatic은 ERP 분야의 AI ‘보장’ 계층이다: 프로젝트 산출물을 기반으로 지식 그래프를 구축하고, Slack/Teams에서 요구사항 및 변경 관리 과정에서 은폐된 결함을 표시함으로써 S/4HANA 프로젝트의 위험을 줄이고 진행 속도를 높인다(SAP Build와 협업; KPMG/EY/IBM의 워크플로우에 이미 통합됨).
Conduct는 코드 및 프로세스 매핑을 위한 코파일럿으로, ECC→S/4 마이그레이션을 위해 의미론적 계층과 기술 문서를 생성하고, 맞춤 테이블/API에 대한 질의응답(Q&A) 기능을 지원하여 내부 팀의 인수를 가속화한다.
Auctor는 시스템 통합업체/전문 서비스 제공업체를 대상으로 에이전트 기반 구현 전달 솔루션을 제공한다: 요구사항 수집을 자동으로 구조화된 요구사항으로 변환하고, 작업 설명서(SOW), 설계 문서, 사용자 스토리, 설정, 테스트 계획 등에 대한 기록 시스템으로 작동한다.
Supersonik은 유통업체/MSP 및 고객을 대상으로 AI 기반 제품 역량 강화 솔루션을 제공한다: 실제 UI 내에서 시각 및 음성 에이전트를 훈련시켜 프리세일즈 엔지니어 수요를 줄이고, 유통업체 주도의 구현 및 확장을 지원한다.
Tessera는 AI 네이티브 시스템 통합업체로서 기업 전환을 종단 간(end-to-end)으로 관리한다: 고객의 기존 ERP 인스턴스에 연결하여 현재 구현 상태를 평가한 후, 마이그레이션 과정에서 변경이 필요한 항목을 자동으로 식별하고 수정한다.
이 기업들은 전환을 더 빠르고, 더 저렴하며, 더 낮은 위험으로 만듦으로써 가치를 창출한다. 구체적으로는 다음과 같다: 요구사항 및 변경 관리 초기 단계에서 문제를 조기에 발견하여 문제가 누적되는 것을 방지; 프로젝트 일정을 단축(1개월의 지연은 수백만 달러의 손실을 초래할 수 있음); 혼란스러운 프로젝트 데이터를 구조화된 지식으로 전환하여 내부 팀의 인수가 더 빨라지도록 함; 매핑, 문서화, 테스트, 역량 강화 훈련의 자동화를 통해 대규모 시스템 통합업체 팀에 대한 의존도를 줄이는 것이다.
우리는 기존 파트너와 협력하여, 경쟁하지 않고 협력하는 도구를 구축하는 추가적인 스타트업 공간이 있다고 본다. 구체적으로는 다음과 같다:
결과 및 위험을 공동 부담하는 구현 에이전트(요구사항 추적, 설정 비교, 전환 시뮬레이션, 코드 생성, 드리프트 감지 포함)
지식을 실시간으로 업데이트하고 접근 가능하게 유지하는 의미론적 문서화 도구
교육 및 유통 채널 확장을 재사용 가능한 제품으로 전환하는 역량 강화 에이전트
스타트업은 기업급 부담을 경감시킬 수 있으므로, ‘지연 회피 가치’를 기준으로 가격을 책정할 수 있으며, CIO 및 CFO가 이미 투입 중인 전환 예산에 자연스럽게 진입하면서, 비효율적인 대형 시스템 통합업체 계약을 대체할 수 있다.
사용 및 유지 관리 단계
소프트웨어 스위트의 구현이 완료되면, 일상적인 사용은 오늘날 이 소프트웨어가 갖는 혼란스러운 UI 속에서 이동하는 것을 의미한다. 일상 업무는 수십 개의 인터페이스를 가로질러 이루어지고, 인력 이동은 기존의 조작 지식을 계속해서 초기화하며, 수많은 엣지 케이스 워크플로우는 핵심 제품 차원에서 일등 시민 대우를 받지 못한다. 사용자들은 필드를 찾는 데, 시스템 간 데이터 미러링에, 운영 팀에게 “이 보고서 좀 실행해 주세요”라고 요청하는 데 많은 시간을 소비한다. 결과적으로 주기 길이가 느려지고, 피할 수 있었던 오류가 빈번히 발생하며, 지속적인 교육 부담이 발생한다.
AI의 기회는, 레거시 시스템을 둘러싸는 더 친숙하고 강력한 ‘액션 시스템’을 구축하는 것이다.
이 범주에 속하는 기업들은 팀이 이미 사용 중인 시스템에서 더 많은 가치를 얻을 수 있도록 도구를 개발한다. 실천적으로는, Slack 내에서 작동하거나 브라우저 사이드바 형태로 존재하는 코파일럿처럼 보이는데, 이는 ‘X는 어디에 있나요?’ 또는 ‘Y는 어떻게 하나요?’와 같은 질문에 의미론적 검색을 통해 답변하고, API가 사용 가능할 경우 안전한 작업(티켓 생성, 전기(entry) 등록, 공급업체 조건 업데이트 등)을 실행한다. 이러한 도구는 복합 워크플로우(예: ‘SAP에서 지난 분기 구매 주문서를 가져오고, Coupa에서 계약 조항을 확인하며, ServiceNow에서 차이 설명서를 작성’)를 여러 애플리케이션 간에 연결할 수도 있고, 여기에 인적 승인 단계, 감사 추적, 세밀한 권한 제어를 함께 제공한다. 최고의 도구는 채택률, 절약된 시간, 오류율까지 추적한다.
기업 내부에서는 많은 중요한 작업이 API를 통해 깔끔하게 노출되지 않는다—그것은 인터페이스, 두꺼운 클라이언트, VDI 세션, 그리고 부분적으로 문서화된 관리 콘솔 내에 존재한다. 따라서 현대의 ‘컴퓨터 사용’ 에이전트는 API 우선 코파일럿의 중요한 보완 요소다: 이는 자동화가 가능한 범위를, 신뢰할 수 있는 호출 엔드포인트가 없는 나머지 30~40%의 워크플로우까지 확장한다.
핵심 역량은 단순히 ‘버튼 클릭’이 아니라, 혼란 속에서도 신뢰성을 유지하는 데 있다—UI를 인식하고, 안정적인 요소에 고정되며, 팝업 및 레이아웃 드리프트로부터 복구할 수 있어야 하고, 프로세스 중간에 안전하게 복구할 수 있도록 체크포인트를 설정해야 한다.
검증(차이 비교, 확인, 샌드박스 실행) 및 기업 거버넌스(SSO, 키 관리, 최소 권한, 감사)와 결합될 때, 이는 과거 수동으로 수행하던 작업—티켓 분류, 말기 결산 단계, 고객 정보 업데이트, 가격 변경—을, SAP/ServiceNow/Salesforce의 공급업체가 자동화를 위해 설계하지 않은 부분까지도, 거버넌스가 적용되고 재사용 가능한 자동화로 전환한다. API는 원활한 경로를 빠르게 만들고, 컴퓨터 사용은 롱테일 워크플로우를 자동화 가능하게 만든다.
Factor Labs 및 Sola 등의 기업은 이미 생산 환경에서 이러한 에이전트를 배포하여 BPO 지출을 대체하고, 대규모 조직의 과제 자동화를 규모화하고 있다.
마지막으로, SAP/ServiceNow/Salesforce를 더 쉽게 사용할 수 있도록 만들었다 해도, 비즈니스는 계속 변화할 것이며, 이는 레코드 시스템 역시 진화해야 함을 의미한다. 신제품, 신규 정책, 신규 인수합병, 신규 법규, 그리고 핵심 모듈 프로젝트를 정당화하기엔 부족한 롱테일 워크플로우는 소프트웨어가 비즈니스의 실제 상태에 따라 지속적으로 따라잡아야 함을 의미한다.
역사적으로, 팀은 두 가지 선택지밖에 없었다: 이 소프트웨어를 맞춤화하는 것(그리고 취약성의 대가를 감수), 혹은 일회성 애플리케이션을 구축하는 것(그러나 통합, 거버넌스, 유지관리 측면에서 고군분투). 이것이 바로 AI의 세 번째 진입점이다: 레코드 시스템 위에서 빠르게 작은 규모이면서도 거버넌스가 적용된 경험을 제공함으로써, 핵심 시스템의 정결함을 유지하는 것이다.
레거시 시스템 위에 새로운 도구 및 자동화를 구축하는 것은, ‘사람들이 좋아하지 않는 소프트웨어’ 위에 ‘사랑스러운 계층(Lovable layer)’을 형성하는 것이다. 이 패턴은 통합된 데이터 및 액션 평면에서 시작한다: API 및 이벤트를 통해(필요 시 안전한 UI 스크래핑을 보완으로 사용) 레코드 시스템에서 데이터를 읽고, 주문, 공급업체, 티켓과 같은 비즈니스 객체의 의미론적 모델로 정규화한 후, 권한 제어, 승인 흐름, 감사 기능이 적용된 거버넌스가 보장된 액션 집합을 노출한다.
이 평면 위에서 팀은 현대적이고 특정 시나리오에 특화된 경험을 제공한다. 조달 분석가가 SAP에서 공급업체 등록을 위해 12개의 트랜잭션 코드를 거쳐야 하는 대신, 단일한 ‘공급업체 등록’ 경량 애플리케이션을 제공할 수 있다—문서 수집, 중복 확인, 승인 흐름, SAP으로의 정확한 기록 반영을 모두 수행한다.
RevOps 팀이 Salesforce의 다섯 개 인터페이스를 열어야 하는 대신, 일괄 편집, 정책 검사, 영향 예측을 지원하는 스프레드시트 속도의 편집기를 제공하고, 전체 감사 추적을 포함해 변경을 제출할 수 있다. 또 다른 ‘포털 프로젝트’를 시작하는 대신, 현장 팀에게 명령 패널을 제공하여, ‘반품 생성’, ‘신용 한도 연장’, ‘P2 장애 티켓 생성’, ‘비용 적립’과 같은 매일 수행해야 하는 작업을 여러 시스템에 걸쳐 실행할 수 있게 하며, 20개의 탭을 뒤적거리지 않아도 된다.
이러한 확장 기능은 또한 단일 공급업체가 우선적으로 구축하지 않을, 시스템 간 워크플로우 및 자동화를 해방시킨다: 예를 들어 ‘청구서가 전기 등록되었고 차이가 3% 초과 → 설명서 초안 작성 → 승인 라우팅’, 또는 ‘티켓이 재오픈됨 → 문제 기록 생성 → 담당자 할당 → 고객 정보 업데이트’와 같은 이벤트 기반 트리거이며, 핵심 지점에 인적 개입 체크포인트를 설정한다.
시간이 지남에 따라 가장 가치 있는 배포는 재사용 가능한 ‘의도 패키지(Intent packages)’—즉, 견적에서 수금까지, 공급업체 등록, 말기 결산—으로 진화할 것이다. 이는 단순히 ‘무엇을 해야 하는가’만이 아니라, ‘귀사 환경에서 안전하게 그것을 수행하는 방법’까지 인코딩한다.
General Magic의 Cell과 같은 플랫폼은 이러한 맞춤 워크플로우 구축을 위한 기초 모듈을 누구나 쉽게 사용할 수 있게 한다: OpenAPI 사양을 업로드하면, 각 엔드포인트가 호출 가능한 작업이 되고, 한 줄의 스크립트로 원생 명령줄을 내장할 수 있다. 이 명령줄은 실제 API 호출을 실행하며, 분석, 멀티테넌시, 보안 가드레일, 권한 제어 기능을 갖춘다—작업의 초점은 ‘또 다른 UI를 새로 구축하는 것’에서 ‘이미 신뢰하는 시스템 위에서 올바른 작업과 정책을 조합하는 것’으로 전환된다.
최종 모습은 어떨까?
우리는 레거시 시스템이 아마도 계속 존재할 것이라고 본다. 그러나 그것들이 업무가 실제로 이루어지는 인터페이스는 더 이상 되지 않을 것이다. ERP, CRM, ITSM 스위트는 너무 깊이 통합되어 일반 소프트웨어의 속도로 완전히 대체되기 어렵고, 느리게 진화하면서 계속해서 레코드 시스템으로 남을 것이다. 변화할 것은 그 위에 쌓이는 사용자 중심의 ‘액션 시스템’이다: AI는 시스템이 어떻게 작동하는지를 파악하고, 시스템 간 워크플로우를 실행하며, 레거시 UI를 우회하는 소규모 현대적 경험을 제공하는 기본 인터페이스가 될 것이다. 다시 말해, ‘다리’가 ‘고속도로’가 될 것이다.
이 범주에서 지속적으로 존재할 소프트웨어는 챗봇처럼 보이기보다는 운영체제(OS) 계층처럼 보일 것이다: 비즈니스 객체의 의미론적 모델을 갖춘 통합된 데이터 및 액션 평면과, AI가 프로덕션 환경에서 신뢰받을 수 있도록 보호하는 가드레일을 갖춘 시스템이다. 최종 사용자 입장에서는 어느 인터페이스, 어느 필드, 어느 트랜잭션 코드를 사용해야 하는지 배울 필요가 없고(UI나 프로세스가 변경될 때마다 매번 재학습할 필요도 없다), 단지 원하는 결과를 설명하면 시스템이 그곳으로 안내해 줄 것이다.
시스템은 몇 가지 명확화 질문을 하고, 실행할 내용을 미리 보여준 후, 올바른 승인 및 감사 추적을 통해 실행을 완료한다. 최종 클로저는 다음과 같이 보일 것이다: ‘반품 생성 및 고객 알림’, ‘P2 장애 티켓 생성 및 최근 3개 관련 이벤트 조회’, 또는 ‘이 공급업체 등록, 서류 수집, 승인 라우팅, 지급 조건 설정’—이 모든 작업은 현재 SAP, Salesforce, ServiceNow, 스프레드시트를 넘나들어야 하지만, 이제는 단일 명령으로 해결된다. 이는 오류와 재작업 감소, ‘부족한 지식(tribal knowledge)’에 대한 의존도 감소, 주기 시간 단축, 교육 부담 대폭 감소를 가져온다—인터페이스가 의도 기반, 역할 인지형이며, 기본적으로 자율 사용(self-service)을 지원하기 때문이다.
모든 실제 사용 과정에서 성벽은 계속해서 쌓인다: 성공적인 각 워크플로우는 재사용 가능한 의도가 되고, 각 예외는 가드레일이 되며, 각 마이그레이션 산출물은 살아있는 데이터谱系(데이터谱系)이 되고, 각 통합은 기업의 실제 운영 방식을 나타내는 지도를 더욱 풍부하게 만든다. 시간이 지남에 따라 ‘AI 계층’은 팀이 변경 영향을 이해하고, 드리프트를 방지하며, ROI를 측정하고, 새로운 워크플로우를 제공하는 목적지가 될 것이다—기반이 되는 시스템은 그대로 유지되더라도 말이다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
a16z
