Sequoia Capital 대규모 언어 모델 심층 분석: 기업이 인공지능 애플리케이션을 현실로 만드는 방법
세쿼이아 캐피탈(Sequoia Capital)은 세계적인 벤처 캐피탈 회사로서 뛰어난 투자 안목과 풍부한 산업 경험을 바탕으로 지속적으로 기술 혁신의 최전선에서 주도적 역할을 해왔다. 최근 세쿼이아 캐피탈은 대규모 언어 모델(LLMs)에 대한 심층 분석 보고서를 발표했는데, 이 보고서는 LLMs가 어떻게 기업 혁신을 이끌고 새로운 기술 스택을 창출하며 오픈소스와 커스텀 모델 학습 트렌드를 통합해 나가고 있는지를 다루고 있다.
이러한 분석은 투자자, 기업인 및 창업가 모두에게 매우 중요한 의미를 지닌다. 투자자들에게는 향후 급성장할 가능성이 있는 산업군과 구체적인 기술을 가늠하게 해주며, 기업인과 창업가들에게는 LLMs의 부상과 맞춤형화 추세를 통해 자연어 인터페이스를 활용한 제품 혁신 전략을 새롭게 고민할 수 있는 시각을 제공한다.
다음은 우리의 슈퍼 어시스턴트 ChatGPT가 요약하고 번역한 내용이다:
요약:
대규모 언어 모델(LLMs)의 혁신: ChatGPT와 같은 LLMs는 마케팅, 법률, 검색 등 다양한 산업 분야에서 혁신을 일으키고 있으며, 점점 더 많은 기업들이 자연어 인터랙션을 자사 제품에 통합하고 있다.
새로운 기술 스택의 등장: 이러한 애플리케이션에는 언어 모델 API, 정보 검색 메커니즘, LangChain과 같은 오케스트레이션 프레임워크 등이 포함된 새로운 기술 스택이 필요하다. 오픈소스와 자체 모델 학습에 대한 관심이 증가하면서, 기업들은 점점 더 자신들의 요구에 맞춰 모델을 맞춤화하려는 경향을 보이고 있다.
LLMs의 맞춤형화: 기업들은 자체 모델을 처음부터 학습시키거나, 기본 모델을 파인튜닝하거나, 사전 학습된 모델을 사용하면서 관련 맥락 정보를 검색하는 방식으로 LLMs를 맞춤화하고 있다. 이를 통해 자사 데이터 기반의 자연어 상호작용을 더욱 구체적이고 관련성 있게 만들 수 있다.
기술 스택의 융합: 기업들이 자체 모델 학습과 파인튜닝에 대한 관심이 커짐에 따라, LLM API 기반의 기술 스택과 커스텀 모델 학습 스택은 시간이 지남에 따라 통합될 것으로 예상된다. 이러한 융합은 언어 모델 애플리케이션에 더 큰 유연성과 적응성을 제공할 것이다.
개발자 친화성의 향상: LangChain과 같은 도구들은 기존에 머신러닝 팀만 접근할 수 있었던 기술 스택을 일반 개발자들도 쉽게 사용할 수 있도록 만든다. 이러한 도구들은 개발자들이 흔히 겪는 문제들을 해결하고, 공급업체 잠금(Vendor Lock-in)을 피할 수 있도록 도와주며, 보다 포괄적이고 다양화된 개발자 커뮤니티 형성에 기여하고 있다.
전문 번역:
기업들이 인공지능 애플리케이션을 현실로 만드는 방법
ChatGPT는 거대한 혁신의 물결을 일으키며 대규모 언어 모델(LLMs)의 발전을 촉진했다. 점점 더 많은 기업들이 자연어 인터랙션의 강력한 기능을 자사 제품에 도입하고 있다. 언어 모델 API의 확산은 새로운 기술 스택의 혁명을 불러일으켰다. 사람들이 어떤 애플리케이션을 개발하고 있으며 어떤 기술 스택을 사용하고 있는지 이해하기 위해 우리는 세쿼이아 네트워크 내 33개 기업들과 대화를 나누었다. 이들 기업은 초기 스타트업부터 대형 상장 기업까지 다양하다. 우리는 두 달 전과 지난주에 각각 인터뷰를 진행하여 이 분야의 급격한 변화 속도를 충분히 반영하고자 했다.
많은 창립자와 개발자들이 여전히 인공지능 전략을 탐색 중인 상황에서, 우리는 비록 이 분야가 매우 빠르게 진화하고 있음에도 불구하고, 우리의 관찰 결과를 공유하고자 한다.
1. 거의 모든 세쿼이아 네트워크 기업들이 언어 모델을 제품에 통합하고 있다
우리는 코드 자동 완성 기능(예: Sourcegraph, Warp, Github)과 데이터 과학(예: Hex) 분야에서의 자동화 사례를 목격했다. 고객 지원, 직원 지원뿐 아니라 소비자 엔터테인먼트 분야에서도 더욱 우수한 챗봇이 등장하고 있다.
또한 일부 기업들은 AI를 중심축으로 하여 전체 워크플로우를 재설계하고 있는데, 시각 예술(Midjourney), 마케팅(Hubspot, Attentive, Drift, Jasper, Copy, Writer), 영업(Gong), 콘택트 센터(Cresta), 법률(Ironclad, Harvey), 회계(Pilot), 생산성 도구(Notion), 데이터 엔지니어링(dbt), 검색(Glean, Neeva), 식료품 쇼핑(Instacart), 소비자 결제(Klarna), 여행 계획(Airbnb) 등 다양한 분야에서 그러한 변화가 나타나고 있다. 이는 단지 시작에 불과한 사례들이다.
2. 이러한 애플리케이션의 새로운 기술 스택은 주로 언어 모델 API, 검색 기능, 오케스트레이션에 집중되어 있으나, 오픈소스 활용도 계속 증가하고 있다
-
조사 대상 기업 중 65%가 이미 실제 운영 환경에 애플리케이션을 배포했으며, 이는 두 달 전 50%보다 증가한 수치이며, 나머지는 여전히 실험 단계에 있다.
-
94%의 기업이 기본 모델 API를 사용하고 있다. 조사 대상에서는 OpenAI의 GPT가 압도적으로 선호되어 91%의 비중을 차지했으며, Anthropic은 지난 분기 동안 관심이 크게 증가하여 15%를 기록했다(일부 기업은 여러 모델을 동시에 사용함).
-
88%의 기업은 검색 메커니즘(예: 벡터 데이터베이스)이 앞으로도 기술 스택의 핵심 요소로 남을 것이라고 생각한다. 모델에 관련 맥락 정보를 제공함으로써 결과의 질을 높이고, '환각'(hallucination, 잘못된 정보 생성)을 줄이며, 데이터 최신성 문제를 해결할 수 있기 때문이다. 일부 기업은 Pinecone, Weaviate, Chroma, Qdrant, Milvus 등의 전용 벡터 DB를 사용하고 있으며, 다른 기업들은 pgvector 또는 AWS의 관련 제품을 이용하고 있다.
-
38%의 기업이 LangChain과 같은 LLM 오케스트레이션 및 앱 개발 프레임워크에 관심을 표시하고 있다. 일부는 프로토타이핑에 사용하고, 일부는 실제 운영에 적용하고 있으며, 지난 몇 달간 채택률이 증가하고 있다.
-
LLM 출력, 비용, 성능 모니터링 및 A/B 테스트 도구를 찾고 있는 기업은 10% 미만이다. 그러나 더 많은 대기업과 규제 산업이 언어 모델을 채택함에 따라 이러한 분야에 대한 관심도 증가할 것으로 예상된다.
-
소수의 기업들은 생성형 텍스트와 음성 기술을 결합하는 보완적 생성 기술을 연구하고 있다. 이 역시 향후 성장 가능성이 큰 흥미로운 분야라고 생각한다.
-
15%의 기업이 오픈소스 기술을 활용하거나 처음부터 자체 맞춤형 언어 모델을 개발하고 있으며, 대부분은 LLM API 사용과 병행하고 있다. 수개월 전부터 커스텀 모델 학습 채택률이 눈에 띄게 증가했다. 이를 위해서는 Hugging Face, Replicate, Foundry, Tecton, Weights & Biases, PyTorch, Scale 등이 제공하는 컴퓨팅 리소스, 모델 라이브러리, 호스팅 서비스, 학습 프레임워크, 실험 추적 도구 등을 활용한 자체 기술 스택이 필요하다.
모든 실무자들과의 대화를 통해 알 수 있었던 것은, 인공지능의 발전 속도가 너무 빨라 아직 최종 기술 스택에 대한 확신은 크지 않지만, 모두가 LLM API가 핵심 축이 될 것이며, 그 다음으로 검색 메커니즘과 LangChain과 같은 개발 프레임워크가 중요하다는 데 의견을 같이했다. 또한 오픈소스 및 커스텀 모델의 학습과 튜닝에 대한 관심도 점차 증가하고 있다. 기타 기술 스택 영역도 중요하지만, 현재로서는 성숙도가 다소 낮은 편이다.
3. 기업들은 자신의 독특한 환경에 맞춰 언어 모델을 맞춤화하고자 한다
범용 언어 모델은 강력하지만, 많은 실제 사용 사례에서는 특정 요구사항을 충족시키기 어렵다. 기업들은 개발자 문서, 제품 재고, 인사 또는 IT 정책 등의 자체 데이터를 기반으로 자연어 상호작용을 수행하기를 원한다. 경우에 따라서는 개인 노트, 디자인 레이아웃, 데이터 지표 또는 코드 저장소 등 사용자별 데이터에 기반해 모델을 맞춤화하기를 원하기도 한다.
현재 언어 모델을 맞춤화하는 주요 방법은 다음과 같은 세 가지가 있다(더 깊은 기술적 설명은 Andrej Karpathy의 Microsoft Build에서의 "GPT 현황" 발표를 참고하라):
-
처음부터 맞춤형 모델을 학습한다. 난이도가 가장 높다. 이는 이 문제를 해결하기 위한 고전적이면서도 가장 어려운 방법이다. 고도로 숙련된 머신러닝 과학자, 방대한 관련 데이터, 학습 인프라 및 컴퓨팅 리소스가 필요하다. 이것이 바로 자연어 처리(NLP) 분야의 혁신이 역사적으로 대형 기술 기업들에 국한되었던 주된 이유이다. BloombergGPT는 대형 기술 기업의 지원 없이도 Hugging Face 및 기타 오픈소스 도구를 활용해 자체 모델 프로젝트를 수행한 좋은 사례이다. 오픈소스 도구의 발전과 더 많은 기업들의 LLM 활용 혁신에 따라, 앞으로 더 많은 맞춤형 및 사전 학습 모델이 사용될 것으로 예상된다.
-
기본 모델을 파인튜닝한다. 난이도는 중간 수준이다. 사전 학습된 모델의 가중치를 추가의 전용 데이터 혹은 특정 도메인 데이터를 사용해 업데이트하는 방식이다. 오픈소스의 혁신으로 이 방법도 점점 더 쉽게 구현 가능해지고 있지만, 여전히 고수준의 팀이 필요하다. 일부 실무자들은 비공식적으로 파인튜닝이 생각보다 어렵고, 모델 드리프트(model drift)나 다른 기능이 경고 없이 "파손"되는 등의 의외의 부작용이 발생할 수 있다고 인정한다. 이 방법은 점점 더 보편화될 가능성이 높지만, 현재로서는 대부분의 기업들에게 여전히 접근하기 어렵다. 다만 이 분야 역시 빠르게 변화하고 있다.
-
사전 학습된 모델을 사용하면서 관련 맥락을 검색한다. 난이도가 가장 낮다. 사람들은 종종 자신만을 위해 파인튜닝된 모델이 필요하다고 생각하지만, 사실은 모델이 적절한 시기에 자신의 정보를 추론해주기를 원할 뿐이다. 올바른 시기에 모델에 올바른 정보를 제공하는 방법은 다양하다: SQL 데이터베이스에 구조화된 쿼리를 보내거나, 제품 카탈로그에서 검색하거나, 외부 API를 호출하거나, 임베딩 기반 검색을 사용하는 것이다. 임베딩 검색의 장점은 자연어로 비정형 데이터를 쉽게 검색할 수 있다는 점이다. 기술적으로는 데이터를 임베딩 벡터로 변환하여 벡터 DB에 저장하고, 쿼리 시 가장 관련성 높은 맥락을 찾아 모델에 제공하는 방식이다. 이 방법은 모델의 제한된 컨텍스트 윈도우를 극복할 수 있고, 비용이 저렴하며, 데이터 최신성 문제(예: ChatGPT는 2021년 9월 이후의 정보를 알지 못함)를 해결할 수 있으며, ML 전문 교육을 받지 않은 단독 개발자도 구현할 수 있다. 대규모에서는 벡터 DB가 임베딩 벡터의 저장, 검색, 갱신을 용이하게 하므로 유용하다. 현재까지 관찰된 바로는 대기업은 여전히 기업용 클라우드 계약을 활용해 클라우드 제공업체의 도구를 사용하는 반면, 스타트업은 특화된 벡터 DB를 선호하는 경향이 있다. 그러나 이 분야는 매우 빠르게 변화하고 있다. 컨텍스트 윈도우는 점점 더 커지고 있으며(최근 OpenAI는 16K로 확장했고, Anthropic은 10만 토큰의 컨텍스트 윈도우를 제공), 기본 모델과 클라우드 DB는 검색 기능을 직접 서비스에 내장할 가능성도 있다. 우리는 이 시장의 흐름을 주시하고 있다.
4. 현재는 LLM API 기술 스택과 커스텀 모델 학습 스택이 별개처럼 느껴질 수 있으나, 장기적으로는 점차 융합될 것이다
때때로 우리는 두 가지 기술 스택 이야기가 존재하는 듯한 느낌을 받을 수 있다. 하나는 LLM API 중심의 스택(주로 폐쇄형이며 개발자 중심), 다른 하나는 커스텀 언어 모델 학습 중심의 스택(오픈소스 중심이며 기존에는 복잡한 머신러닝 팀 중심)이다.
LLM을 API로 쉽게 사용할 수 있게 되었으므로 기업들이 자체 학습을 줄일 것이라는 질문도 제기되었다. 하지만 지금까지의 상황은 정반대다. 인공지능에 대한 관심이 높아지고 오픈소스 개발이 가속화되면서, 오히려 더 많은 기업들이 자체 모델 학습 및 파인튜닝에 관심을 갖게 되었다.
우리는 시간이 지남에 따라 LLM API 스택과 커스텀 모델 스택이 점차 융합될 것으로 본다. 예를 들어 한 기업은 오픈소스 기반으로 자체 언어 모델을 학습하되, 벡터 DB를 통해 검색 기능을 결합하여 데이터 최신성 문제를 해결할 수 있다. 또한 커스텀 모델 스택을 위한 도구를 개발하는 스마트한 스타트업들도 LLM API 혁명과 연계될 수 있도록 제품을 확장하고 있다.
5. 이 기술 스택은 점점 더 개발자 친화적으로 변하고 있다
언어 모델 API는 강력한 사전 훈련 모델을 머신러닝 팀뿐 아니라 일반 개발자들도 쉽게 사용할 수 있게 했다. 이제 언어 모델을 활용하는 개발자 집단은 모든 개발자를 아우를 정도로 크게 확장되었으며, 앞으로 더 많은 개발자 중심 도구가 등장할 것으로 믿는다.
예를 들어 LangChain은 일반적인 문제들을 추상화함으로써 개발자가 LLM 애플리케이션을 구축하는 것을 돕는다: 여러 모델을 조합해 고급 시스템을 만들거나, 여러 모델 호출을 연결하거나, 모델을 도구 및 데이터 소스와 연결하거나, 이러한 도구를 작동시키는 에이전트를 구성하거나, 언어 모델 변경 시 공급업체 잠금을 피할 수 있도록 단순화한다. 일부는 프로토타이핑에 LangChain을 사용하고, 다른 이들은 실제 운영에 계속 활용하고 있다.
6. 광범위한 채택을 위해서는 언어 모델이 더 신뢰할 수 있어야 한다(출력 품질, 데이터 프라이버시 및 보안 포함)
많은 기업들은 LLM을 애플리케이션에 완전히 통합하기 전에 데이터 프라이버시, 격리, 보안, 저작권 문제 및 모델 출력 모니터링을 위한 더 나은 도구를 원하고 있다. 핀테크에서 헬스케어에 이르는 규제 산업에서는 특히 이러한 점에 주목하며, 이를 해결할 수 있는 소프트웨어 솔루션을 찾기 어렵다고 말한다(이는 잠재력 있는 스타트업 분야이다). 이상적으로는 모델이 잘못된, 환상적인, 차별적이거나 위험한 콘텐츠를 생성할 때 경고하거나(아니면 차단하거나) 해주는 소프트웨어가 있어야 한다.
일부 기업들은 모델과 공유한 데이터가 학습에 어떻게 사용되는지에 대해서도 우려를 표하고 있다. 예를 들어 ChatGPT Consumer 버전의 데이터는 기본적으로 학습에 사용되지만, ChatGPT Business 및 API 데이터는 그렇지 않다는 사실을 아는 사람은 거의 없다. 정책이 명확해지고 더 많은 보호 조치가 마련됨에 따라 언어 모델은 더욱 신뢰할 수 있게 되며, 채택률이 다시 한번 급증할 수 있을 것이다.
7. 언어 모델 애플리케이션은 점점 더 다중 모달(multimodal)화될 것이다
기업들은 여러 생성 모델을 결합해 뛰어난 효과를 얻는 흥미로운 방법들을 발견하고 있다: 텍스트와 음성을 결합한 챗봇은 새로운 수준의 대화 경험을 제공할 수 있다. 텍스트 및 음성 모델을 함께 사용하면 전체 영상을 다시 녹화하지 않고도 빠르게 수정할 수 있다.
모델 자체도 점점 더 다중 모달화되고 있다. 앞으로 텍스트, 음성/오디오, 이미지/비디오 생성을 결합한 풍부한 소비자 및 기업용 AI 애플리케이션이 등장하여, 더 매력적인 사용자 경험을 제공하고 더 복잡한 작업을 수행할 수 있을 것이다.
8. 여전히 초기 단계에 있다
인공지능은 이제 막 기술 전반에 스며들기 시작했다. 조사 대상 기업 중 65%만이 실제로 운영에 도입했으며, 그 중 다수는 비교적 단순한 애플리케이션이다. 점점 더 많은 기업들이 LLM 애플리케이션을 출시함에 따라 새로운 장애물이 나타날 것이며, 이는 창업가들에게 또 다른 기회를 제공할 것이다. 미래 몇 년간 인프라 계층은 계속해서 급속히 진화할 것이다.
지금까지 본 데모의 절반만이라도 성공적으로 제품화된다면, 우리는 정말 흥미진진한 여정을 맞이하게 될 것이다. 우리 최초의 Arc 투자 기업부터 Zoom과 같은 기업의 창립자들까지, 모두 사용자 만족을 위해 인공지능에 집중하고 있다는 사실은 정말 고무적이다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
