7x24h속보
마이크로소프트, ChatGPT와 같은 대규모 언어 모델 학습을 지원하는 Deep Speed Chat의 오픈소스 공개 발표
2023.04.13 - 09:14
공유하기트위터에 공유
Web3 심층 보도에 집중하고 흐름을 통찰
위챗에 공유
웨이보에 공유위챗에 공유
기사 링크 공유
이미지 포스터 공유
7x24h 속보
마이크로소프트, ChatGPT와 같은 대규모 언어 모델 학습을 지원하는 Deep Speed Chat의 오픈소스 공개 발표
TechFlow 소식에 따르면, 마이크로소프트는 사용자가 ChatGPT 유사한 대규모 언어 모델을 훈련시킬 수 있도록 도와주는 오픈소스 Deep Speed Chat를 발표했다. 이를 통해 누구나 자신만의 ChatGPT를 보유할 수 있게 된다. Deep Speed Chat는 마이크로소프트의 딥러닝 최적화 라이브러리인 Deep Speed 기반으로 개발되었으며, 모델 훈련 및 강화 추론 기능을 갖추고 있으며, RLHF(인간 피드백을 활용한 강화학습) 기술도 적용했다.
2023.04.13 - 09:14:09
Web3 심층 보도에 집중하고 흐름을 통찰TechFlow 소식, 마이크로소프트가 대화형 ChatGPT 유사 대규모 언어 모델을 누구나 훈련할 수 있도록 지원하는 오픈소스 도구 'Deep Speed Chat'을 공개했다.
알려진 바에 따르면 Deep Speed Chat은 마이크로소프트의 딥러닝 최적화 라이브러리 'Deep Speed' 기반으로 개발되었으며, 모델 학습 및 강화 추론 기능을 갖추고 있으며, 인간의 피드백을 활용한 강화학습(RLHF) 기술도 적용해 기존 시스템 대비 최대 15배 이상 빠른 속도로 학습이 가능하며 비용 또한 크게 절감된다. 예를 들어, 매개변수 130억 개 규모의 ChatGPT 유사 모델을 단 1.25시간 만에 학습 완료할 수 있다.
즐겨찾기 추가
소셜 미디어 공유
