맥킨지의 Lilli 사례가 기업용 AI 시장에 제공하는 발전 방향은 무엇인가?
글: Haotian
맥킨지의 Lilli 사례는 기업용 AI 시장에 중요한 발전 방향을 제시했다. 바로 엣지 컴퓨팅과 소형 모델이 가진 잠재적 시장 기회다. 내부 문서 10만 건을 통합한 이 AI 어시스턴트는 직원 중 70%가 사용하며 주평균 17회 이용하는 높은 활용률을 보이고 있다. 이런 제품 유착성은 기업용 도구에서 매우 드물다. 다음은 나의 생각이다:
1) 기업 데이터 보안은 핵심 문제다. 맥킨지가 100년간 축적한 핵심 지식 자산이나 일부 중소기업이 쌓아온 특정 데이터는 모두 고도로 민감한 정보이며, 공공 클라우드에서 처리될 수 없다. "데이터는 로컬에 머무르되, AI 능력은 저하되지 않음"이라는 균형 상태를 어떻게 실현할 것인가는 실제 시장의 절실한 요구다. 엣지 컴퓨팅은 이러한 해결책을 모색하는 하나의 방향이다.
2) 전문 소형 모델이 범용 대형 모델을 대체할 것이다. 기업 사용자가 필요로 하는 것은 "수백억 파라미터의 만능형" 범용 모델이 아니라, 특정 분야의 문제를 정확히 해결할 수 있는 전문 어시스턴트다. 반면, 대형 모델은 범용성과 전문성 사이에 본질적인 갈등을 안고 있으며, 기업 환경에서는 소형 모델이 오히려 더 큰 가치를 갖는다.
3) 자체 AI 인프라 구축과 API 호출 간의 비용 균형: 엣지 컴퓨팅과 소형 모델 조합은 초기 투자 비용이 크지만, 장기 운영 비용은 크게 줄어든다. 만약 45,000명의 직원이 빈번하게 사용하는 AI 대형 모델을 API 호출 방식으로 운영한다면, 그 의존성과 사용 규모 확대, 비용 증가는 결국 자체 AI 인프라 구축을 대·중견 기업의 합리적 선택으로 만들 것이다.
4) 엣지 하드웨어 시장의 새로운 기회: 대형 모델 훈련에는 고성능 GPU가 필수적이지만, 엣지 추론은 전혀 다른 하드웨어 요구사항을 가진다. 퀄컴, 미디어텍 등 칩 제조업체들이 엣지 AI에 최적화된 프로세서를 개발하며 새로운 시장 기회를 맞이하고 있다. 각 기업이 자신만의 'Lilli'를 구축하고자 할 때, 저전력·고효율 설계의 엣지 AI 칩은 필수 인프라가 될 것이다.
5) 탈중앙화된 Web3 AI 시장 또한 동시에 성장한다: 기업들의 소형 모델에 대한 연산 능력, 파인튜닝, 알고리즘 등의 수요가 커지면 자원 배분의 효율성이 중요한 과제가 된다. 기존의 중심화된 자원 관리 방식은 한계에 부딪히며, 이는 Web3 기반의 탈중앙화된 소형 모델 파인튜닝 네트워크, 탈중앙화된 연산 서비스 플랫폼 등에 큰 시장 수요를 창출하게 된다.
시장이 여전히 AGI의 범용성 한계를 논의하고 있을 때, 많은 기업 사용자들이 이미 AI의 실용적 가치를 적극적으로 발굴하고 있다는 사실은 매우 고무적이다. 명백히, 과거처럼 연산 능력과 알고리즘을 통한 자원 독점적 도약 경쟁보다 엣지 컴퓨팅 + 소형 모델이라는 접근에 시장의 무게 중심이 옮겨갈 때, 더 큰 시장 활력이 창출될 것이다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
Haotian | CryptoInsight
