650억 달러 투자 유치를 추진 중인 OpenAI, 열기를 타고 o1 모델 출시… 핵심 포인트 10가지로 한눈에 보기
출처: 포브스
번역: MetaverseHub
지난주, OpenAI가 새로운 펀딩 라운드에서 65억 달러를 유치하며 시장 가치가 1500억 달러에 도달했다는 소식이 전해졌다.
이번 투자 유치는 인공지능 스타트업으로서 OpenAI의 거대한 가치를 다시 한번 입증했으며, 더 많은 투자를 유치하기 위해 구조적 변화를 감수할 의사도 있음을 보여준다.
소식통은 OpenAI의 수입이 급속히 증가하고 있는 점을 고려하면 이번 대규모 펀딩은 투자자들로부터 큰 관심을 받았으며, 향후 2주 이내에 최종 마무리될 가능성이 있다고 덧붙였다.
기존 투자자인 Thrive Capital, Khosla Ventures 및 마이크로소프트 등이 참여할 것으로 예상되며, NVIDIA와 애플을 포함한 새로운 투자자들도 투자에 나설 계획이며, 실리콘밸리 유명 벤처캐피탈 세쿼이아 캐피털(Sequoia Capital)도 재투자 협의 중이다.
동시에 OpenAI는 복잡한 추론과 문제 해결 과제에서 뛰어난 성능을 발휘하도록 설계된迄今为止 가장 정교한 인공지능 모델인 o1 시리즈를 출시했다. o1 모델은 강화학습과 체인 오브 트라이닝(chain-of-thought reasoning)을 활용하여 인공지능 능력의 중대한 진전을 나타낸다.
OpenAI는 ChatGPT 사용자와 개발자들에게 다양한 접근 수준을 통해 o1 모델을 제공한다. ChatGPT 사용자의 경우, ChatGPT Plus 요금제 가입자는 고급 추론 및 문제 해결 기능을 갖춘 o1-preview 모델에 접근할 수 있다.
OpenAI의 API(Application Programming Interface)를 통해 개발자는 고급 구독 플랜에서 o1-preview와 o1-mini에 접근할 수 있다.
이러한 모델들은 제5등급 API를 통해 제공되며, 개발자가 자신의 애플리케이션에 o1 모델의 고급 기능을 통합할 수 있도록 한다. 제5등급 API는 OpenAI가 고급 모델 접근을 위해 제공하는 고위험 구독 플랜이다.
다음은 OpenAI o1 모델에 관한 10가지 핵심 사항이다:
01. 두 가지 모델 변형: o1-Preview 및 o1-Mini
OpenAI는 o1-preview와 o1-mini라는 두 가지 변형을 출시했다. o1-preview 모델은 복잡한 작업에서 뛰어난 성능을 보이며, o1-mini는 STEM 분야(특히 코딩 및 수학)에서 더 빠르고 비용 효율적인 최적화된 솔루션을 제공한다.
02. 고급 체인 오브 트라이닝(Chain-of-Thought Reasoning)
o1 모델은 응답을 생성하기 전 단계별로 추론하는 체인 오브 트라이닝 방식을 활용한다. 이러한 신중한 접근 방식은 정확성을 높이며 다단계 추론이 필요한 복잡한 문제 처리 능력을 향상시키고, GPT-4 등의 기존 모델보다 우수한 성능을 발휘한다.
체인 오브 트라이닝 프롬프팅은 복잡한 문제를 연속적인 단계로 분해함으로써 인공지능의 추론 능력을 향상시키고, 모델의 논리 및 계산 능력을 개선한다.
OpenAI의 GPT-o1 모델은 이러한 과정을 아키텍처 내부에 내장시켜 인간의 문제 해결 과정을 시뮬레이션함으로써 이를 한층 더 발전시켰다.
이는 GPT-o1이 경쟁 프로그래밍, 수학 및 과학 분야에서 뛰어난 성능을 발휘하게 하며, 동시에 사용자가 모델의 추론 과정을 추적할 수 있게 되어 투명성을 높이고 인간과 유사한 인공지능 추론의 획기적인 진전을 의미한다.
이러한 고급 추론 능력은 응답 생성 전 일정 시간이 소요되는 현상을 초래할 수 있으며, GPT-4 시리즈 모델과 비교하면 다소 느린 반응 속도를 보일 수 있다.
03. 강화된 보안 기능
OpenAI는 o1 모델에 첨단 보안 메커니즘을 내장했다. 이러한 모델들은 허용되지 않는 콘텐츠 평가에서 뛰어난 성능을 보이며, '조키(jailbreak)' 공격에 대한 저항력을 보여줌으로써 민감한 용도로의 배포 시 더욱 안전하다.
인공지능 모델의 '조키(jailbreak)'란 보안 조치를 우회하여 해로우거나 비윤리적인 출력을 발생시키는 것을 말한다. 인공지능 시스템이 점점 더 정교해짐에 따라 조키 관련 보안 위험도 증가하고 있다.
OpenAI의 o1 모델, 특히 o1-preview 변형은 보안 테스트에서 더 높은 점수를 기록하며 그러한 공격에 대한 저항력이 강하다는 것을 입증했다.
이러한 강화된 저항성은 모델의 고급 추론 능력 덕분에 윤리적 원칙을 더 잘 준수할 수 있게 되고, 악의적인 사용자가 이를 조작하기 어렵게 만든다.
04. STEM 벤치마크에서 우수한 성능
o1 모델은 다양한 학문 벤치마크 테스트에서 최상위권을 차지했다. 예를 들어, o1은 프로그래밍 경연대회 Codeforces에서 89위를 기록했으며 미국 수학 올림피아드 예선에서 상위 500위 안에 들었다.
05. 고급 환각 감소
대규모 언어 모델(LLM)에서 '환각(hallucination)'이란 근거 없는 오류 정보를 생성하는 현상을 말한다. OpenAI의 o1 모델은 고급 추론 및 체인 오브 트라이닝 과정을 활용하여 이러한 문제를 해결하며, 문제를 단계적으로 사고할 수 있게 한다.
기존 모델들과 비교해 o1 모델은 '환각' 발생률이 낮다.
SimpleQA 및 BirthdayFacts 등의 데이터셋에서의 평가 결과, o1-preview는 사실적이고 정확한 답변 제공 측면에서 GPT-4를 능가하여 잘못된 정보 위험을 줄였다.
06. 다양한 데이터셋 기반 학습
o1 모델은 공개, 자사, 맞춤형 데이터셋을 종합적으로 활용해 학습되었으며, 일반 지식뿐 아니라 특정 분야 주제에도 능숙하다. 이러한 다양성은 강력한 대화 및 추론 능력을 갖추게 한다.
07. 가격 친화적이며 비용 효율적
OpenAI의 o1-mini 모델은 o1-preview의 비용 효율적인 대안으로, 가격은 80% 저렴하지만 수학 및 코딩 등 STEM 분야에서 여전히 강력한 성능을 제공한다.
o1-mini 모델은 고정밀도와 저비용이 요구되는 개발자를 위해 특별히 설계되어 예산이 제한된 애플리케이션에 이상적이다. 이러한 가격 전략은 교육기관, 스타트업 및 소기업을 포함한 더 많은 사용자들이 첨단 인공지능에 접근할 수 있도록 보장한다.
08. 보안 작업 및 외부 '레드 팀 테스트'
대규모 언어 모델(LLM)에서 '레드 팀 테스트(Red Teaming)'란 다른 사람의 공격을 시뮬레이션하거나 모델이 유해하거나 편향되며 의도에 어긋난 행동을 하도록 유도하는 방법으로 AI 시스템을 엄격하게 테스트하는 것을 말한다.
이것은 모델을 대규모로 배포하기 전 콘텐츠 보안, 오정보, 윤리적 한계 등에서 취약점을 식별하는 데 매우 중요하다.
외부 테스터와 다양한 시나리오를 활용한 레드 팀 테스트는 LLM이 더욱 안전하고 탄탄하며 윤리 기준에 부합하도록 돕는다. 이를 통해 모델이 '조키' 또는 기타 조작 시도에 저항할 수 있도록 보장한다.
배포 전 o1 모델은 레드 팀 테스트와 준비 프레임워크 평가를 포함한 엄격한 보안 평가를 거쳤다. 이러한 노력은 모델이 OpenAI의 높은 보안 및 일관성 기준을 충족하도록 하는 데 기여한다.
09. 더 공정하고, 편견이 적음
o1-preview 모델은 고정 관념에 기반한 답변을 줄이는 데 있어 GPT-4보다 우수한 성능을 보였다. 공정성 평가에서 올바른 답변을 선택할 가능성이 더 높았으며, 모호한 질문 처리에서도 개선된 모습을 보였다.
10. 체인 오브 트라이닝 모니터링 및 기만 탐지
OpenAI는 모델이 고의로 잘못된 정보를 제공할 때 기만 행위를 탐지하기 위해 o1 모델의 체인 오브 트라이닝 과정을 모니터링하는 실험적 기술을 도입했다. 초기 결과는 이러한 기술이 모델이 생성하는 오정보로 인한 잠재적 위험을 줄이는 데 유망한 전망을 보여주고 있다.
OpenAI의 o1 모델은 인공지능 추론 및 문제 해결 분야에서 중대한 진보를 나타내며, 특히 수학, 코딩, 과학 추론 등 STEM 분야에서 뛰어난 성능을 발휘한다.
고성능 o1-preview와 비용 효율적인 o1-mini 출시와 함께, 이러한 모델들은 다양한 복잡한 작업에 최적화되었으며 광범위한 레드 팀 테스트를 통해 더 높은 수준의 보안성과 윤리적 준수를 확보했다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
Forbes
