OpenAI가 막대한 자금을 투자한 '뇌 유사' AI 칩, 그 정체는 무엇인가?
글: 미이, 지크파크
OpenAI의 권력 다툼이 막 끝난 와중에, 한 가지 중요한 거래가 조용히 표면 위로 드러났다.
외신 와이어드(Wired)의 보도에 따르면, Sam Altman이 OpenAI 최고경영자(CEO)로 재직하던 기간 동안 OpenAI는 Rain AI와 5100만 달러 규모의 양해각서(MOU)를 체결하여, Rain AI의 칩이 출시되는 대로 이를 구매하기로 약속했다.
Rain AI는 인공지능(AI) 컴퓨팅 비용을 획기적으로 낮추는 것을 목표로 하는 AI 칩 스타트업으로, 인간 두뇌의 작동 방식을 모방한 AI 칩인 NPU를 개발함으로써 OpenAI 및 Anthropic과 같은 AI 기업들에게 "저비용·고효율 하드웨어"를 제공하고자 한다.
해당 회사는 "기존 GPU 대비 NPU는 AI 개발자(예: OpenAI)에게 잠재적으로 100배의 컴퓨팅 성능과 학습 과정에서 무려 10,000배의 에너지 효율을 제공할 수 있다"고 주장한다.
OpenAI가 오랫동안 컴퓨팅 파워 부족에 시달려왔다는 점을 고려하면, 자사 AI 프로젝트에 필요한 칩 공급을 확보하기 위해 막대한 자금을 투입하는 것이 충분히 이해된다.
그렇다면 Rain AI가 개발 중인 칩은 어떤 특징을 지니며, 어떻게 주목받게 되었는가? 이 투자는 Altman과 OpenAI가 칩 분야에서 어떠한 전략을 구상하고 있는지를 시사하는 것일까?
01 '뇌 유사' AI 칩
Rain AI의 핵심 제품은 신경형태공학(Neuromorphic) 기술을 기반으로 한 '뇌 유사' AI 칩인 NPU이다. 이 칩은 AI 작업의 엄격한 계산 요구사항을 만족시키기 위해 정보 처리를 저전력·고효율로 수행하는 것을 목표로 한다.
이는 인간 두뇌의 구조와 기능을 모방하여, 뇌의 신경 연결처럼 인공 시냅스들이 상호 연결된 네트워크 위에 구축된다. 이러한 아키텍처 덕분에 NPU는 병렬적이고 분산된 방식으로 정보를 처리할 수 있어, AI 응용에서의 '계산 집약적 작업'에 매우 적합하다.
또한 Rain AI는 디지털 메모리 컴퓨팅(D-IMC) 방식을 선도적으로 도입하여, AI 처리, 데이터 이동, 데이터 저장의 효율성을 더욱 제고했다.
Rain AI의 NPU는 저전력으로 효율적인 정보 처리를 통해 AI 작업의 엄격한 계산 요구를 해결 | 출처: Rain AI 공식 웹사이트
더불어 Rain은 디지털 메모리 컴퓨팅 타일 및 소프트웨어 스택에 대한 지식재산권(IP) 라이선스 제공도 추진하고 있으며, 해당 IP는 초저지연 및 고에너지 효율이 요구되는 장치에서의 AI 워크로드에 맞춤화되어 있으며, 스마트카, 스마트워치 등 장거리 이더넷(LRE)을 포함한 다양한 컴퓨팅 사례를 포괄한다.
자사 제품에 대해 Rain은 슬로건으로 "AI 컴퓨팅의 한계를 재정의한다"고 내세우며, "당사의 AI 가속기는 속도, 전력 소비, 면적, 정밀도 및 비용 간에 역사적인 균형을 실현했다"고 홍보하고 있다.
Rain이 설계한 '뇌 유사' 칩(NPU)은 고효율·저소비 운용을 약속하고 있어, NVIDIA, AMD 등의 기업이 생산하는 대형 칩에서 발생하는 '병목 현상'을 극복하는 데 중요하다.
LRE 관련 다양한 컴퓨팅 사례를 포괄 | 출처: Rain AI 공식 웹사이트
Rain AI 공동 창립자 중 한 명인 고든 윌슨(Gordon Wilson)은 LinkedIn을 통해 "NPU 칩이 새로운 AI 칩 시장을 정의하고 기존 시장을 크게 뒤흔들 것"이라고 단언했다.
다만 주목할 점은, Rain AI가 NVIDIA의 GPU보다 더 나은 에너지 효율을 자랑한다고 주장하지만, 초기 Rain 칩은 사실 구글, 퀄컴 등 다른 기술 기업들이 지원하는 오픈소스 RISC-V 아키텍처 기반으로, 데이터센터로부터 멀리 떨어진 엣지 디바이스(예: 스마트폰, 드론, 자동차, 로봇 등)용으로 설계되었다는 것이다.
현재 대부분의 엣지 칩 설계, 예컨대 스마트폰에 사용되는 칩들은 신경망의 추론(inference) 단계에 집중하고 있다. 반면 Rain은 모델 및 알고리즘의 학습(training)뿐 아니라 이후의 추론 실행에도 모두 활용 가능한 칩을 제공하겠다는 목표를 세우고 있다.
현재 Rain AI는 AI 추론과 학습이 모두 가능한 첫 번째 AI 플랫폼을 이미 출시했으며, '뇌 유사' 칩(NPU)을 통해 AI 모델이 주변 환경에 따라 실시간으로 자체를 맞춤화하거나 미세 조정할 수 있다고 주장하고 있다.
이에 대해 샘 알트먼(Sam Altman)은 공개적으로 "이러한 신경형태 접근법은 AI 개발 비용을 크게 줄일 수 있으며, 진정한 AGI(일반 인공지능) 실현에 기여할 수 있을 것"이라고 언급한 바 있다.
한편 OpenAI는 이러한 칩을 활용해 데이터센터 운영 비용을 낮추고, 자사 모델을 스마트폰이나 시계 등의 기기에 배포하려는 계획을 갖고 있는데, 이 점에서 '뇌 유사' 칩(NPU)은 OpenAI에게 분명 큰 매력으로 다가올 수밖에 없다.
그럼에도 불구하고 이는 여전히 추측일 뿐이며, OpenAI가 Rain 칩을 어떻게 사용할지는 아직 알려지지 않았다.
02 OpenAI와 밀접한 관계
Rain AI는 2017년 미래의 AI를 위한 '저비용' 컴퓨팅 플랫폼 구축을 목표로 설립되었다.
Rain AI는 잭 켄달(Jack Kendall), 고든 윌슨(Gordon Wilson), 후안 클라우디오 니노(Juan Claudio Nino) 등 3명의 공동 창립자가 있으며, 이들은 플로리다대학교에서 만나게 되었다. 또한 OpenAI의 소프트웨어 엔지니어였던 스콧 그레이(Scott Gray)를 자문위원으로 영입했다.
현재 Rain AI에는 약 40명의 직원이 있으며, AI 알고리즘 개발 및 전통적 칩 설계 분야의 전문가들이 포함되어 있다.
Rain AI 창립팀｜Rain AI
흥미롭게도 Rain AI의 본사는 샌프란시스코에 위치하며, OpenAI 본사와 불과 1마일도 떨어져 있지 않다.
창립 다음 해, Rain AI는 유명 스타트업 인큐베이터 Y Combinator를 비롯한 투자자들로부터 시드 펀딩으로 500만 달러를 유치했다.
당시 알트먼은 Y Combinator의 CEO를 맡고 있었으며, 개인 명의로 Rain AI에 100만 달러를 투자하기도 했다. 그리고 일 년 후, OpenAI는 5100만 달러 규모의 칩 구매 계약을 체결하게 된다.
2022년 4월까지, 사우디아라비아 계열 펀드인 Prosperity7 Ventures가 주도한 2500만 달러 규모의 펀딩 라운드를 마무리하면서 Rain AI의 누적 투자금은 3300만 달러에 달했고, 기업 가치는 9000만 달러로 평가되었다.
올해 초, 회사는 잠재적 투자자들에게 자사의 진척 상황을 소개하며, 이번 달 안에 '테스트용' 칩을 출시할 것으로 예상된다고 밝혔는데, 이는 칩 설계가 완료되어 제조에 착수할 수 있음을 의미한다.
Rain AI는 내년 10월부터 고객에게 첫 번째 칩을 공급할 수 있을 것으로 예상되며, 투자자들에게는 이미 구글, 오라클, 메타, 마이크로소프트, 아마존 등 기술 거물들과 고위급 협상을 진행 중이며 시스템을 판매할 계획이라고 강조했다. 다만 마이크로소프트는 이에 대해 언급을 거부했으며, 다른 기업들도 논평 요청에 응답하지 않았다.
요약하자면, Rain AI는 여전히 개발 단계에 있으며, 상용화 시점은 불확실하다. 비록 회사의 '뇌 유사' 칩(NPU) 기술이 밝은 전망을 지니고 있으며 지지자들도 화려하지만, 여전히 극복해야 할 많은 도전 과제들이 존재한다.
03 OpenAI의 야심
알트먼이 Rain AI에 투자한 행보에 사적인 동기가 섞여 있었는지는 알 수 없지만, 칩 부족은 분명 OpenAI가 직면한 주요 문제이다.
사실 ChatGPT가 처음 공개된 지 일주일도 되지 않아 알트먼은 컴퓨팅 비용이 "끔찍할 정도"였다고 느꼈으며, 이후에도 여러 차례 공개적으로 AI 칩의 "혹독한 부족 상황"과 "놀라울 정도의 비용"을 토로한 바 있다.
올해 5월에는 알트먼이 무책임하게 인정하기도 했다. "OpenAI는 심각한 컴퓨팅 파워 부족을 겪고 있으며, 많은 단기 계획들이 연기되고 있다."
众所周知, OpenAI는 주요 투자자인 마이크로소프트의 강력한 클라우드 서비스를 활용하고 있지만, 하드웨어 제약으로 인해 종종 ChatGPT의 일부 기능을 일시 중단해야 하는 상황이다.
이에 대해 알트먼은 "AI의 발전 속도는 새로운 칩 설계와 공급망에 달려 있다"고 말했다. 현재로서는 컴퓨팅 파워야말로 모든 것이다.
사실 알트먼 본인은 이미 오래 전부터 칩 분야에 투자 포트폴리오를 구축해왔다. Rain AI 외에도, 2021년경에는 칩이 접시 크기만큼 커서 두 손으로 들어야 하는 것으로 유명한 AI 기업 Cerbras에도 투자했다.
접시처럼 큰 칩 | 출처: Cerbras 공식 웹사이트
올해 초, '실리콘 선인' 짐 켈러(Jim Keller)와 '실리콘 천재 소년' 샘 제루프(Sam Zeloof)가 설립한 Atomic Semi(반도체 공장과 집적회로 프로토타입을 간소화·소형화하여 저렴한 칩을 빠르게 제조하는 기업)에도 관심을 기울였으며, OpenAI Startup Fund가 투자에 참여하기도 했다.
출처: Analytics India Magazine
게다가 알트먼이 OpenAI에서 해고되기 몇 주 전, 수십억 달러를 조달해 새로운 칩 기업을 설립하려 한다는 소식도 있었다.
프로젝트의 구체적인 내용은 알려지지 않았지만, 코드네임은 '티그리스(Tigris)'이며, AI 칩 분야에서 NVIDIA와 경쟁한다는 목표를 지닌 것으로 전해진다.
'티그리스' 프로젝트를 위해 알트먼은 중동에서 자금을 모금했던 것으로 알려져 있는데, 이 장소적 ' coincidence'는 이 프로젝트와 Rain 사이에 어떤 연관성이 있는 것은 아닌지 의심하게 만든다.
또한 알트먼은 Arm 등 칩 설계 기업을 포함한 반도체 업계 임원들과 논의를 진행하며, OpenAI와 같은 대규모 언어 모델(LLM) 기업들의 비용 절감을 위해 새로운 칩을 조기에 설계하는 방법을 모색하기도 했다.
뿐만 아니라 알트먼뿐 아니라 OpenAI 역시 NVIDIA에 대한 의존도를 벗어나기 위해 대형 모델 개발 비용을 낮추는 가능성을 모색하고 있다.
Rain AI와 같은 칩 공급업체에 대한 외부 투자 외에도, 최근 OpenAI는 자체 칩 개발을 시도하고 있으며, 잠재적 인수 대상들을 검토하고 있고, 하드웨어 관련 직무 인력을 채용하고 있다.
출처: OpenAI 공식 웹사이트
최근 OpenAI는 전(前) 구글 TPU 책임자 리처드 호(Richard Ho)를 하드웨어 책임자로 임명했으며, 컴파일러 및 커널 분야의 전문가들을 다수 영입했고, 현재 '데이터센터 시설 설계 전문가'를 채용 중이다.
리처드 호는 OpenAI의 새 부서를 이끌며, 파트너사의 데이터센터 네트워크, 랙(rack), 건물 등을 최적화하는 일을 담당할 예정이다.
그러나 이러한 선제적 투자와 전략은 당면한 GPU 부족 문제를 쉽게 해결해주진 못한다. 현재 OpenAI가 대규모로 사용하는 칩은 여전히 NVIDIA 제품이다.
관측에 따르면 OpenAI는 현재 ChatGPT 등 제품의 기능을 동적으로 조절하여 컴퓨팅 파워를 절약하고 있다. 따라서 최근 사용자들이 GPT-4가 GPT-3.5보다 더 '게을러졌다'고 느끼는 것도 이해할 수 있다.
대규모 모델의 등장과 함께 사람들은 대형 AI 모델 데이터센터의 전력 소비 문제에 관심을 갖기 시작했다. Rain과 기타 일부 칩 스타트업들은 데이터 처리 방식을 재구성하여 전송 요구를 줄이고 전력 소비를 낮추는 것을 목표로 하고 있다.
구글, 마이크로소프트, AMD, 인텔, 아마존을 비롯해 Cerbras, Sambanova, Rain 등의 스타트업들이 차세대 AI 칩 시장에 연이어 진입하고 있는 가운데, AI 컴퓨팅 공급 시장은 변화할 수 있을까? OpenAI는 컴퓨팅 파워에 의해 제약받는 상황에서 벗어날 수 있을까? 칩 개발 주기가 매우 길다는 점을 감안하면, 이러한 난제들은 앞으로도 상당한 기간 동안 지속될 것으로 보인다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
极客公园
