DeepSeek가 저비용 혁명을 일으키다, 이 국산 대규모 모델은 어떻게 고정밀과 저전력을 동시에 달성했는가?

2025.02.14

DeepSeek가 저비용 혁명을 일으키다, 이 국산 대규모 모델은 어떻게 고정밀과 저전력을 동시에 달성했는가?

연산 능력의 '병목 현상' 우려가 해소된 지금, 에너지 소비와 정확도를 동시에 고려한 대규모 모델은 어떤 문제들을 해결해야 할까?

2025.02.14 - 09:42:40

DeepSeek

Web3 심층 보도에 집중하고 흐름을 통찰

연산 능력의 '병목 현상' 우려가 해소된 지금, 에너지 소비와 정확도를 동시에 고려한 대규모 모델은 어떤 문제들을 해결해야 할까?

출처:광추지능

이미지 출처: 무계 AI 생성

2025년 초, DeepSeek는 국내외 대규모 모델 산업에 지진과 같은 파장을 일으켰다. 심층 추론 모델인 DeepSeek-R1이 문제 해결 능력에서 뛰어난 성과를 보인 것 외에도, DeepSeek의 등장은 중국 내 대규모 모델 업계에 긴장감과 활력을 동시에 불어넣었다.

첫째, 기술적 우위를 바탕으로 DeepSeek는 단번에 국제 대규모 모델 선두 그룹에 진입하며 국내 대규모 모델 기업들에게 곡선 승차의 가능성을 보여주었다.

둘째, DeepSeek의 훈련 성과는 컴퓨팅 파워 부족 문제를 해결하며 알고리즘 최적화를 통해 낮은 컴퓨팅 리소스로도 고품질 모델을 훈련시킬 수 있음을 입증했다.

컴퓨팅 파워의 '병목' 문제에 대한 우려가 해소된 상황에서, 에너지 효율과 정밀도를 동시에 고려한 대규모 모델은 어떤 문제들을 해결해야 할까? 이와 같은 차원에서 국내 대규모 모델 기업들은 각자의 해답을 제시하고 있다.

최근 중국과학원 자동화연구소에서 분사한 AI 기업인 중커원거(中科闻歌)가 발표한 아의(雅意) 대규모 모델 플래그십 버전 —— YAYI-Ultra는 대규모 모델 실용화 과정에서의 "정밀도-에너지 소비" 딜레마를 해결하는 데 있어 자신만의 답을 제시했다.

전 세계 100개 이상의 모델을 포함하는 권위 있는 평가 체계인 OpenCompass 랭킹은 대규모 모델 기술 경로를 관찰하는 '바로미터'로 알려져 있으며, 최근 공개된 OpenCompass 대규모 모델 학술 랭킹에서 중커원거의 YAYI-Ultra는 64.5점으로 처음으로 톱10에 진입하여 TOP10 내 다섯 개의 중국산 대규모 모델 중 하나가 되었다.

OpenCompass 최신 대규모 언어 모델 공개 학술 실시간 랭킹에서 YAYI-Ultra는 종합 점수 64.5점을 기록하며 10위를 차지했으며, 세부 항목은 다음과 같다.

코드 생성: LiveCodeBench에서 5위를 기록하며 GPT-4o-20241120 버전보다 더 나은 성능을 보임

복잡한 명령 이해: IFEval에서 9위

지식 기반 추론 능력: MMLU-Pro에서 9위

중국어 이해 중심 C-Eval 평가에서 YAYI-Ultra는 자가 검증이 허용되는 공개 접근 랭킹에서 2위를 기록하며 중국어 사용 환경에서의 기술적 우위를 입증했다.

실제 테스트: 초장문 출력
복잡한 작업 계획 정확하게 수행

공식 정보에 따르면 YAYI-Ultra는 도표 이해, 복잡한 작업, 장문 이해 및 생성 분야에서 두드러진 성과를 보였다. 우리는 즉시 여섯 가지 차원(멀티모달 도표 심층 이해, 복잡한 이미지 이해, 복잡한 작업 지능형 계획(Function Call), 데이터 통계 분석, 초장문 본문 이해 및 생성)에서 YAYI-Ultra의 실제 성능을 직접 시험해보았다.

01 시각 이해 한 차원 업그레이드: 언어를 이해할 뿐 아니라 도표도 이해함

먼저 도표 하나를 읽어보자.

프롬프트: 2000년 전후 어느 가격 구간의 관리비 비중 변화가 가장 컸는가?

YAYI-Ultra는 막대 그래프의 다양한 색상과 숫자를 정확히 인식하고 도표를 충분히 이해한 후 답변을 제공한다.

중국어 사용 환경뿐 아니라 다국어 상황에서도 YAYI-Ultra는 사용자 지시를 정확히 이해하고 따르며, 다국어에 걸친 정밀한 응답을 제공할 수 있다.

프롬프트: How did the distribution of agriculture-related employment change between 2012 and 2022? Did it increase or decrease, and by what percentage or amount? Answer in Chinese.

시각 이해 측면에서 볼 때, 다국어 멀티모달 정렬, 다중 이미지 추론, 가변 해상도 등 기술적 난제를 해결하기 위해 YAYI-Ultra는 전반적으로 업그레이드되어 다국어 도표 이해, 다중 도표 질의응답, 멀티모달 명령 준수 등의 능력을 강화하였으며, 누적 막대그래프, 산점도, 혼합 도표 등 복잡한 도표 시나리오뿐 아니라 도표 재작성, 도표 변환 작업에서도 뛰어난 성과를 보였다.

02 표 지능 해석: 수많은 표 문제도 거뜬히 해결

업무에서 복잡한 보고서 통계는 시간과 노력을 많이 소모하는데, 우리는 YAYI-Ultra에게 일반 산업 보고서, 심층 산업 보고서, 일반 기업 보고서 세 가지 유형이 번갈아 나타나는 표를 제공했고, YAYI-Ultra는 각 유형별 보고서 수량을 정확히 집계하였다.

프롬프트: 각 보고서 유형별 수량은 얼마인가?

불규칙한 표를 다룰 때에도 YAYI-Ultra는 여전히 핵심 데이터를 정확히 해석하고 추출할 수 있다. 다음 표는 전체-부분 구조 및 복잡한 데이터 표현을 포함하며, YAYI-Ultra는 표 안의 기반 모델 유형, 방법 및 국소성 지표 변화 값을 정확히 이해하고 비교 분석을 완료할 수 있다.

프롬프트: IKE 방법을 적용한 후 국소성이 가장 크게 감소한 기반 모델은 무엇인가?

통계 데이터 이해 측면에서 YAYI-Ultra는 표 질의응답에서 복잡한 레이아웃 이해, 다국어 질의응답 등의 능력을 중점적으로 강화한 것을 알 수 있다.

금융 보고서, 학술 논문에서부터 중첩 구조를 포함한 복잡한 표까지, YAYI-Ultra는 정보를 정확히 위치하고 사용자 의도를 이해할 수 있으며, 다국어 표 질의응답 상황에서도 효율적이고 명확한 답변을 제공할 수 있다.

03 Function Call: 복잡한 작업 지능형 계획

난이도를 더 높여, YAYI-Ultra에게 지난해 올림픽에서 중국 대표팀의 금·은·동 메달 수 변화 추세(시간 기준)를 선 그래프로 그려보자고 요청했다.

우선 YAYI-Ultra가 사용자 의도를 정확히 이해하고 '지난해 올림픽'이 파리 올림픽임을 확인하며 상세한 작업 계획을 수립한 것을 확인할 수 있다. 이후 모델은 검색 엔진을 통해 파리 올림픽에서 중국 대표팀이 획득한 금·은·동 메달 관련 데이터(총 91개 메달의 종류 및 획득 시간 포함)를 수집한다. 그런 다음 이 메달 데이터를 정리하고 분류·그룹화하여 시간 순으로 정렬한 후 코드를 생성하고 코드 인터프리터를 호출하여 선 그래프 작성을 완료한다.

YAYI-Ultra가 이러한 일련의 복잡한 작업 분해 및 계획을 완수할 수 있었던 것은 검색 엔진, 코드 인터프리터, 이미지 분석, 날씨 등 기본 도구와 뉴스 인기순위 추적, 전파 영향력 분석 등의 특화 수직 분야 도구를 추가한 도구 호출 기능 덕분이다.

모델은 다중 도구 연속 호출 상황에서의 계획 타당성을 현저히 향상시키고 복잡한 검색 상황에서의 정보 수집 능력을 강화했다.

04 멀티모달 출력: 글과 그림을 함께 제공하여 직관적이고 간결함

문헌 열람이나 정보 수집 과정에서 우리는 보통 여러 문서에서 특정 정보(예: 수치 변화, 실험 결과 등)를 찾아 분석해야 하는데, 이제 한 문장으로 원하는 내용을 찾을 수 있으며, YAYI-Ultra는 텍스트 분석 설명에 더해 해당 이미지 내용도 동기화하여 제공할 수 있다.

예를 들어 질문:The percentage of different behaviors under different collaborative strategies

YAYI-Ultra는 질문에 따라 사용자가 구성한 '인공지능 논문 지식베이스' 내 관련 인공지능 논문 여러 편을 식별하고 이에 근거하여 답변한다. 답변에는 텍스트뿐 아니라 인용 위치에 원본 이미지도 함께 제공되어 독서 경험과 답변 신뢰성을 크게 향상시킨다.

05 풀스택 장문: 만말을 섭취하고 신처럼 글을 쓴다

가장 인상적인 부분은 바로 초장문 출력인데, YAYI-Ultra는 최대 20만 자 입력과 10만 자 초장문 출력을 지원하여 '입력 이해'에서부터 '내용 창작'까지의 전방위 장문 처리 능력의 폐쇄 루프를 형성한다.

YAYI-Ultra는 인터넷 연결 지능형 창작과 문헌 기반 창작의 이중 모드를 지원하며, 장문 작성 작업을 더 작고 통제 가능한 하위 작업들로 분해(먼저 개요 생성, 그 후 개요에 따라 전체 글 생성)함으로써 효과적으로 텍스트 구조를 보장하고 장문 생성 품질을 향상시킨다.

● 인터넷 연결 지능형 창작: 인터넷에서 정보를 수집하여 창작 완료

프롬프트: 3만 자 분량의 중국 유교 문화 발전 역사 분석 보고서 작성

●문헌 기반 창작: 지식 범위를 설정하여 정밀하게 글쓰기

프롬프트: 참고 자료를 바탕으로 "범용 인공지능 솔루션: 혁신과 효율의 완벽한 결합"이라는 주제의 장문을 작성하십시오.

06 데이터 분석: 정밀한 계산, 시각적 상호작용

마지막으로 기본적인 데이터 분석과 시각화 차트 작성에 대해서도 실측을 진행하였으며, YAYI-Ultra는 분석, 계산, 차트 작성 작업을 정확히 수행하였다.

프롬프트: 표를 기반으로 1인당 월평균 소득을 계산하고, 다음으로 개인 월소득과 1인당 월평균 소득의 차이를 계산한 후, 이름을 가로축, 차이를 세로축으로 하고 제목을 "每人收入与平均值差距"로 하는 막대 그래프를 그리세요.

YAYI-Ultra는 사용자 요구에 따라 Python of Thought(POT) 기능을 활용하여 Python 코드를 생성하고 실행함으로써 통계 추론, 행렬 연산, 수치 최적화 등 수치 집약적 작업을 정밀하게 완료하였다.

"대량 방류"에서 "정밀 매칭"으로

YAYI-Ultra, 유연한 전문가 구성으로

대규모 모델 실용화 병목 돌파

현재 AI 대규모 모델의 실용화는 "능력-비용" 사이의 가위효과가 확대되는 중요한 시점에 직면해 있다.

IDC 최신 보고서에 따르면 기업들이 AI 대규모 모델을 도입하는 과정에서 모델 정밀도가 업무 요구를 완전히 충족하지 못하는 문제가 있으며, 동시에 92%의 기업이 대규모 모델의 공학적 실용화 단계에서 컴퓨팅 자원 부족이 가장 큰 도전이라고 생각한다.

중커원거 아의 기술팀에 따르면 YAYI-Ultra는 다영역 역량을 특징으로 하는 하이브리드 전문가 모델로서, 다양한 영역의 전문 작업에서의 성능을 향상시키기 위해 유연한 전문가 구성 모드를 채택하며 수학, 코드, 금융, 사회 여론, 중의학, 보안 등 다양한 분야의 전문가 조합을 지원하여 밀집 모델이 수직 분야로 이전될 때 흔히 발생하는 "시소 현상"을 현저히 완화하며, 다양한 분야의 요구에 따라 산업에 "고정밀, 저에너지 소비"의 지능형 솔루션을 제공할 수 있다.

예를 들어 미디어 분야에서 중커원거는 YAYI의 능력을 기반으로 한 홍기(红旗) 3.0 융합 미디어 지능형 플랫폼을 출시하여 고객의 콘텐츠 제작 시간을 30~50% 단축하고 콘텐츠 게시 빈도를 20~40% 향상시켰으며, 일부 고객이 자동 심사 기능을 도입한 후 콘텐츠 오류율이 5%에서 약 0.5%로 감소하였고, 현재 신화통신사, CCTV, 차이나데일리 등 주요 미디어에 널리 활용되고 있다.

중커원거 홍기 3.0 융합 미디어 지능형 플랫폼

의료 분야에서는 YAYI 기반의 대의금궤(大医金匮) 중의학 대규모 모델이 500여 가지 흔한 질병 증상을 정밀하게 진단하고 환자에게 맞춤형 치료 계획을 제공할 수 있으며, 임상 전문가 평가에서 진단 추론 정확도가 90%에 달하며, 중의사 자격시험 모의 테스트에서도 뛰어난 성과를 보이며 정확도가 94%를 초과하였고, C단 사용자를 대상으로 "대의금궤" 중의 건강관리 앱을 출시하였다.

중국중의과학원&중커원거 대의금궤 중의 건강관리 앱

재정 및 세무 분야에서는 YAYI 기반의 재정세무 지식 대규모 모델이 특별 평가에서 응답 정확도 90.1%를 기록하며 동종 모델 중 최고 수준을 달성하였으며, 대규모 모델 도입 후 고객은 24시간 지속적인 컨설팅 서비스를 가능하게 하여 사용자 대기 시간을 약 50% 줄였고, 고객 만족도를 30% 이상 향상시켰다.