서브프라임 AI 위기: 암호화폐 x AI는 재고찰이 필요하다
글: Edward Zitron
번역: Block unicorn
당신이 암호화폐 산업의 AI를 주목하고 있든, 전통적인 인터넷 업계의 AI를 보고 있든, 이 산업의 미래에 대해 진지하게 고민해볼 필요가 있다. 이 글은 다소 길기 때문에 인내심이 없다면 지금 당장 떠나는 것이 좋겠다.
내가 이 글에서 하고자 하는 말은 의심을 퍼뜨리거나 "공격"하는 것이 아니라, 우리가 현재 처한 상황과 앞으로 나아가는 길이 초래할 결과를 냉정하게 평가하는 것이다. 나는 인공지능 열풍—더 정확히 말하면 생성형 AI 열풍—이 (내가 예전부터 주장해온 바와 같이) 지속 가능하지 않으며 결국 붕괴될 것이라고 믿는다. 또한 나는 이 붕괴가 대형 기술 기업들에 치명적인 타격을 줄 수 있고, 스타트업 생태계를 심각하게 손상시키며, 대중이 기술 산업에 대한 지지를 더욱 약화시킬 수도 있다고 우려한다.
내가 오늘 이 글을 쓰는 이유는 상황이 빠르게 변화하고 있다는 느낌 때문이며, 여러 가지 AI '종말의 징조'들이 이미 드러나고 있다: OpenAI가 서둘러 출시한 'o1(코드명: 딸기)' 모델은 '크고 어리석은 마술쇼'로 불렸고; OpenAI의 차세대 모델(그 외 다른 곳도) 가격 인상 소문이 돌고 있으며; Scale AI가 구조조정을 하고; OpenAI 리더십이 이탈하고 있다. 이러한 모든 것은 무언가 무너지고 있음을 나타내는 신호다.
따라서 현재 위기 국면을 설명하고, 왜 우리는 환멸의 단계에 접어들었는지를 설명할 필요성을 느낀다. 나는 이 운동의 취약성에 대한 걱정을 표현하고자 하며, 우리가 여기까지 오는 과정에서 과도한 집착과 방향 감각 상실이 있었다는 점을 강조하고, 누군가는 더 나은 선택을 해야 한다고 생각한다.
또한 — 아마도 내가 이전에 충분히 다루지 못했던 점인데 — 나는 AI 거품 붕괴가 가져올 인간적 대가에 대해 강조하고자 한다. 마이크로소프트와 구글(그리고 다른 주요 생성형 AI 지지자들)이 점차 투자를 늦추든, OpenAI와 Anthropic(그리고 자체 생성형 AI 프로젝트)을 유지하기 위해 회사 자원을 약화시키든, 최종 결과는 동일하다고 본다. 나는 수천 명이 일자리를 잃고, 기술 산업 전체가 '영원히 성장할 수 있는 유일한 것은 암뿐이다'라는 사실을 깨닫게 될까 두렵다.
이 글에는 별로 경쾌한 내용이 담기지 않을 것이다. 나는 너에게 어두운 그림을 제시할 것이다 — 대규모 AI 플레이어뿐만 아니라 전체 기술 산업과 그 직원들에게도 해당되는 — 그리고 왜 나는 이 혼란스럽고 파괴적인 결말이 네가 생각하는 것보다 훨씬 더 빨리 올 것이라고 생각하는지 설명할 것이다.
계속 읽어 내려가며 사고 모드로 전환하자.
생성형 AI는 어떻게 생존하고 있는가?
현재 OpenAI —名义上 비영리 조직이지만 곧 영리 법인으로 전환할 가능성이 높음— 은 최소 65억 달러에서 최대 70억 달러를 조달할 새 라운드 펀딩을 진행 중이며, 이때 기업 가치는 최소 1500억 달러로 책정되고 있다. 이 펀딩은 Josh Kushner의 Thrive Capital이 주도하며 NVIDIA와 애플도 참여할 것으로 알려졌다. 내가 이전에 상세히 분석했듯이, OpenAI는 생존을 위해 전례 없는 규모의 막대한 자금을 계속해서 조달해야만 한다.
더 나쁜 소식은, 블룸버그 보도에 따르면 OpenAI가 50억 달러 규모의 '회전 신용 한도(revolving credit facility)' 형태로 은행에서 부채를 추가 조달하려 하고 있다는 점이다. 일반적으로 회전 신용은 더 높은 금리를 수반한다.
The Information 또한 OpenAI가 아랍에미리트(UAE)를 배경으로 1000억 달러 규모의 자금을 보유한 MGX 투자 펀드와 AI 및 반도체 회사에 대한 투자 협상을 진행 중이며, 아부다비투자청(ADIA)에서도 자금을 조달할 가능성이 있다고 보도했다. 이것은 극도로 심각한 경고 신호다. 누구도 자발적으로 UAE나 사우디아라비아로부터 자금을 받으려 하지 않는다. 당신이 다른 곳에서 자금을 얻을 수 있을지 확신할 수 없을 때만 그들에게 도움을 요청하는 것이다.
참고로 CNBC가 지적했듯이, MGX의 창립 파트너 중 하나인 무바달라(Mubadala)는 FTX 파산 자산에서 매입한 Anthropic 지분 약 5억 달러를 보유하고 있다. 아마존과 구글이 이 이해 상충 문제에 얼마나 '기뻐'할지 상상해보라!
내가 7월 말에 논의했듯이, OpenAI는 적어도 30억 달러, 더 현실적으로는 100억 달러 이상을 조달해야 생존할 수 있다. 2024년에 50억 달러의 손실이 예상되며, 이 수치는 더 복잡한 모델이 더 많은 컴퓨팅 자원과 훈련 데이터를 필요로 하면서 계속 증가할 것이다. Anthropic CEO Dario Amodei는 향후 모델의 훈련 비용이 최대 1000억 달러에 이를 수 있다고 예측했다.
덧붙이자면, 이 '1500억 달러 평가'는 OpenAI가 투자자들에게 지분을 정의하는 방식을 의미한다 — 비록 '지분'이라는 단어가 여기서 다소 모호하기는 하지만. 예를 들어 일반 기업에서 1500억 달러 평가에 15억 달러를 투자하면 보통 '1%' 지분을 갖게 되지만, OpenAI의 경우는 훨씬 더 복잡하다.
OpenAI는 올해 초 1000억 달러 평가로 펀딩을 시도했지만, 일부 투자자들은 가격이 너무 높다고 판단하여 주저했으며, 이는(The Information의 Kate Clark과 Natasha Mascarenhas의 말을 인용하면) 생성형 AI 기업들의 과대평가에 대한 우려가 커지고 있기 때문이다.
이 펀딩을 완료하기 위해 OpenAI는 비영리 조직에서 영리 법인으로 전환할 가능성이 있지만, 가장 혼란스러운 부분은 투자자들이 실제로 무엇을 얻는가 하는 점이다. The Information의 Kate Clark은 펀딩 참가자들에게 다음과 같은 설명이 제공되었다고 보도했다: "여러분은 전통적인 지분을 얻는 것이 아니다... 대신 회사의 수익이 발생하면 그 수익의 일부를 분배받는 '수익 분배권(profit participation units, PPU)'을 얻게 된다."
영리 법인 전환이 이 문제를 해결할 수 있을지는 불분명하다. OpenAI의 특이한 '비영리 + 영리 부문' 구조는 2023년 투자 조건에 따라 마이크로소프트가 OpenAI 수익의 75%를 우선적으로 가져갈 권리가 있음을 의미한다 — 이론적으로 영리 구조 전환은 지분을 포함할 수 있지만, OpenAI에 투자하면 여전히 'PPU'를 얻을 뿐이고, 지분은 아니다. Sherwood의 Jack Raines가 쓴 바에 따르면: "당신이 OpenAI의 PPU를 갖고 있지만 회사가 수익을 내지 못하고, OpenAI가 언젠가 수익을 낼 것이라 믿는 사람에게도 팔 수 없다면, 당신의 PPU는 아무 가치도 없다."
지난 주말 로이터는 1500억 달러의 평가가 OpenAI가 전체 기업 구조를 재편하고, 현재 투자자들의 수익 상한선(초기 투자액의 100배)을 해제하는 데 '의존할 것'이라고 보도했다. 이 수익 상한선은 2019년 설정된 것으로, 이를 초과하는 수익은 '비영리 조직에 반환되어 인류의 이익을 위해 사용된다'고 명시되었다. 최근 몇 년간 회사는 이 규칙을 수정하여 2025년부터 매년 수익 상한선을 20%씩 상향 조정할 수 있도록 했다.
OpenAI가 마이크로소프트와 맺은 수익 분배 계약과 막대한 적자 상태를 고려하면, 어떤 수익 가능성도 최선의 경우에도 이론적인 것이다. 가벼운 표현을 감수하면서 말하자면, 500%를 더해도 0은 여전히 0이다.
로이터는 또한 영리 구조 전환(최근 800억 달러 가치를 넘어서는)이 기존 투자자들과 재협상해야 한다고 덧붙였다. 왜냐하면 그들의 지분이 희석되기 때문이다.
또한 파이낸셜타임스(FT)는 투자자들이 '어떤 [OpenAI 영리 자회사]에 대한 투자는 기부 정신으로 간주되어야 한다'고 명시한 운영 계약서에 서명해야 한다고 보도했다. 또한 OpenAI는 '영원히 수익을 낼 수 없을 수도 있다'고 밝혔다. 이런 조건은 정말 미친 짓이며, 이런 조건 아래 OpenAI에 투자했다가 피해를 입은 사람은 전적으로 스스로의 책임이다. 이는 극도로 터무니없는 투자이기 때문이다.
사실상 투자자들은 OpenAI의 지분이나 통제권을 얻는 것이 아니라, 매년 50억 달러 이상을 손실하고 있으며 2025년에는 더 큰 손실(그것이 그때까지 버틴다면)을 낼 가능성이 높은 회사의 미래 수익 분배권을 사는 것이다.
OpenAI의 모델과 제품 — 이는 나중에 실용성에 대해 논의할 예정 — 은 운영상 극도로 비효율적이다. The Information은 OpenAI가 2024년에 ChatGPT 및 그 기반 모델을 지원하기 위해 마이크로소프트에 약 40억 달러를 지불할 것이라고 보도했다. 이는 마이크로소프트가 시간당 GPU당 1.30달러의 할인 요금을 적용한 것이며, 일반 고객은 시간당 3.40~4달러를 지불한다. 즉, 마이크로소프트와의 긴밀한 협력이 없다면 OpenAI의 연간 서버 비용은 60억 달러에 이를 수 있으며, 이는 직원 비용(연간 15억 달러) 등 기타 비용을 포함하지 않은 금액이다. 게다가 내가 이전에 논의했듯이, 훈련 비용은 현재 연간 30억 달러이며 거의 확실히 계속 증가할 것이다.
The Information은 7월 OpenAI의 연간 매출이 35~45억 달러라고 보도했지만, 뉴욕타임스(NYT)는 지난주 OpenAI의 연간 매출이 '이제 20억 달러를 넘어섰다'고 보도했다. 이는 연말 실적이 추정치 하단 근처에 머물 가능성이 높음을 의미한다.
간단히 말해, OpenAI는 돈을 태우고 있으며 앞으로 더 많은 돈을 태울 것이고, 계속 태우기 위해 '우리는 영원히 수익을 낼 수 없을지도 모른다'는 선언에 서명한 투자자들로부터 자금을 조달해야만 한다.
내가 이전에 언급했듯이, OpenAI의 또 다른 문제는 생성형 AI(GPT 모델 및 ChatGPT 제품 포함)가 막대한 비용을 정당화할 수 있는 복잡한 문제를 해결하지 못한다는 점이다. 이 모델들은 확률 기반으로 작동하며, 이는 거대하고 해결하기 어려운 문제를 초래한다. 즉, 이들은 아무것도 '모르고', 훈련 데이터를 기반으로 답변(또는 이미지, 번역, 요약)을 생성할 뿐이며, 모델 개발자들은 이러한 훈련 데이터를 놀라운 속도로 소진하고 있다.
'환각(hallucination)' 현상 — 모델이 명백히 거짓 정보를 생성하거나(이미지 또는 동영상에서는 잘못된 것처럼 보이는 콘텐츠를 생성) — 는 기존의 수학적 도구로는 근본적으로 해결할 수 없다. 환각은 줄어들거나 완화될 수는 있지만, 이로 인해 생성형 AI는 핵심 비즈니스 애플리케이션에서 신뢰하기 어렵다.
생성형 AI가 기술적 문제를 해결할 수 있다 해도 그것이 실제로 비즈니스 가치를 창출하는지는 불분명하다. The Information은 지난주 마이크로소프트 365 스위트(워드, 엑셀, 파워포인트, 아웃룩 등, 특히 많은 기업용 소프트웨어 패키지와 밀접한 관련이 있음)의 고객들이 AI 기반 'Copilot' 제품을 거의 채택하지 않았다고 보도했다. 440만 명의 사용자 중 0.1%에서 1%만이(개당 월 30~50달러) 해당 기능에 비용을 지불하고 있다. AI 기능을 테스트 중인 한 회사는 "대부분의 사람들이 현재 크게 가치 있다고 느끼지 않는다"고 말했고, 다른 회사들은 "많은 기업이 생산성과 기타 측면에서 획기적인 향상을 아직 보지 못했으며 언제 그런 향상이 올지도 확신하지 못한다"고 말했다.
그렇다면 마이크로소프트는 이런 중요하지 않은 기능에 얼마를 청구하는가? 놀라운 것은 사용자당 월 30달러의 추가 요금, 혹은 '판매 어시스턴트' 기능의 경우 사용자당 월 최대 50달러를 요구한다는 점이다. 이는 기본 요금에 거의 두 배를 더하는 것을 의미하며 — 참고로 연간 계약이다! — 이 제품들이 별로 유용하지 않아 보인다는 점에서 더욱 그렇다.
보완할 점: 마이크로소프트의 문제는 매우 복잡하여 장차 별도의 뉴스 기사가 필요할 정도다.
이것이 바로 생성형 AI의 현실이다 — 생산성 및 비즈니스 소프트웨어 분야의 선도 기업조차 고객이 비용을 지불할 만한 제품을 찾지 못하고 있다. 그 원인은 결과가 평범하기 때문이기도 하고, 비용이 너무 높아 정당화하기 어렵기 때문이기도 하다. 마이크로소프트가 이렇게 높은 요금을 부과하는 이유는 사티아 나델라(Satya Nadella)가 2030년에 5000억 달러 매출을 달성하겠다는 목표(액티비전 블리자드 인수 공청회에서 공개된 메모에서 밝힘)를 이루고자 하기 때문이거나, 아니면 비용이 너무 높아 가격을 낮출 수 없기 때문이거나, 혹은 그 두 가지 모두일 수 있다.
하지만 거의 모든 사람이 AI의 미래가 우리를 경악시킬 것이라고 강조한다 — 다음 세대의 대규모 언어 모델이 눈앞에 있으며, 그것은 매우 놀라울 것이다.
지난주, 우리는 그所谓的 '미래'를 처음으로 제대로 엿볼 수 있었다. 그러나 결과는 실망스러웠다.
어리석은 마법의 트릭
OpenAI는 목요일 밤 o1 — 코드명 '딸기(Strawberry)' — 를 발표했는데, 그 열기는 치과의사를 만나는 것만큼이나 들뜬 상태였다. 샘 알트먼(Sam Altman)은 일련의 트윗에서 o1을 OpenAI의 '가장 강력하고 가장 정렬된 모델'이라고 묘사했다. 그는 o1이 '여전히 결함이 있으며, 한계가 있고, 사용을 반복하면 처음 사용했을 때만큼 인상적이지 않다'고 인정하면서도, 프로그래밍, 수학 문제 또는 과학 문제와 같이 명확한 정답이 있는 작업에서 더 정확한 결과를 제공할 것이라고 약속했다.
이 자체로 매우 시사적이다 — 하지만 나중에 자세히 다루겠다. 먼저 실제 작동 방식을 살펴보자. 새로운 개념을 소개할 것이지만, 지나치게 복잡한 세부사항으로 들어가지는 않을 것을 약속한다. OpenAI의 설명을 직접 읽고 싶다면 공식 웹사이트의 'Learning to Reason with LLMs'라는 글을 찾아볼 수 있다.
문제에 직면했을 때 o1은 이를 별개의 단계로 분해하는데, 이 단계들이 궁극적으로 정답에 도달하기를 기대한다. 이 과정을 '사고의 연쇄(chain of thought)'라고 부른다. o1을 동일한 모델의 두 부분으로 생각하면 이해하기 쉬워진다.
각 단계에서 모델의 한 부분은 강화 학습을 적용하고, 다른 부분(출력 생성 부분)은 진행 상황의 정확성('추론' 단계)에 따라 '보상'하거나 '벌점'을 주며, 벌점을 받으면 전략을 조정한다. 이는 다른 대규모 언어 모델과 다르다. 다른 모델은 출력을 생성한 후 돌아보는 반면, o1은 단순히 답변을 생성하고 바로 제시하는 것이 아니라, '좋은' 단계를 무시하거나 인정함으로써 최종 답변에 도달한다.
이것은 중대한 돌파구처럼 들릴 수 있고, 심지어 높게 평가받는 인공 일반 지능(AGI)으로 가는 또 하나의 걸음처럼 보일 수도 있지만, 실제로는 그렇지 않다. OpenAI가 o1을 GPT의 업데이트 버전이 아닌 독립형 제품으로 출시한 것에서 그 점을 알 수 있다. OpenAI가 제시한 예시들 — 수학 및 과학 문제 등 — 은 정답을 미리 알 수 있는 작업들로서, 각 단계에서 '사고의 연쇄'를 안내할 수 있게 한다.
당신은 OpenAI가 수학 문제든 다른 문제든 정답을 미리 알 수 없는 복잡한 문제를 o1이 어떻게 해결하는지 보여주지 않았다는 점에 주목할 것이다. OpenAI 스스로 o1이 GPT-4o보다 '환각'이 더 많고, 이전 모델보다 자신이 답을 모른다고 인정하려는 의사가 더 낮다는 피드백을 받았다고 인정했다. 왜냐하면 모델의 일부가 출력을 검사한다고 해도, 이 '검사' 부분 역시 환각을 경험하기 때문이다(가끔 AI는 합리적으로 보이는 거짓 답을 만들어 환각을 유발한다).
OpenAI에 따르면 '사고의 연쇄' 메커니즘 덕분에 o1은 인간 사용자에게 더 설득력 있게 느껴진다. o1이 더 자세한 답변을 제공하기 때문에, 그 출력이 완전히 틀린 경우라도 사람들이 더 쉽게 믿게 된다.
내가 OpenAI를 지나치게 혹평한다고 느낀다면, 회사가 o1을 어떻게 홍보했는지를 생각해보라. 회사는 강화 훈련 과정을 '생각'과 '추론'으로 묘사하지만, 실제로는 추측을 반복하는 것이며, 각 단계에서 자신의 추측이 맞았는지 추측하는 것이다. 최종 결과는 대부분 미리 알 수 있는 경우가 많다.
이것은 인간 — 진정한 사고자 — 에게 모욕이다. 인간의 사고는 개인적 경험, 평생 축적된 지식, 뇌의 화학 반응 등 복잡한 요소에 기반한다. 우리가 복잡한 문제를 처리할 때도 특정 단계가 옳은지 '추측'할 수 있지만, 우리의 추측은 o1처럼 서툰 수학적 연산이 아니라 구체적인 사실에 기반한다.
게다가, 하느님, 그 비용이란!
o1-preview의 가격은 입력 토큰 100만 건당 15달러, 출력 토큰 100만 건당 60달러이다. 즉, o1의 입력 요금은 GPT-4o의 3배, 출력 요금은 4배다. 그러나 여기에는 숨겨진 비용도 존재한다. 데이터 과학자 맥스 울프(Max Woolf)는 OpenAI의 '추론 토큰' — 최종 답변 도출을 위한 출력 콘텐츠 — 가 API에서 보이지 않는다고 지적했다. 즉, o1은 가격이 더 비쌀 뿐 아니라, 제품의 본질상 사용자가 더 자주 요금을 지불하게 만든다. '답변을 고려하기 위해' 생성된 모든 콘텐츠(이 모델이 실제로 '생각'하고 있지 않다는 점을 명확히 하자)도 요금이 부과되므로, 프로그래밍과 같은 복잡한 문제 해결은 극도로 비싸질 수 있다.
이제 정확성에 대해 이야기하자. Hacker News — 샘 알트먼이 공동 설립한 Y Combinator 산하의 Reddit과 유사한 사이트 — 에서 누군가 o1이 프로그래밍 작업 중 존재하지 않는 라이브러리와 함수를 '날조'했다고 불평했으며, 온라인에서 쉽게 찾을 수 없는 문제에 답할 때 오류를 범했다고 했다.
트위터에서 스타트업 창업자이자 전 게임 개발자인 헨릭 크니베르그(Henrik Kniberg)는 o1에게 두 숫자의 곱을 계산하는 Python 프로그램을 작성하고 출력 결과를 예측하도록 요청했다. o1은 코드를 올바르게 작성했지만(비록 한 줄로 충분히 간결하게 만들 수 있었음에도), 실제 출력 결과는 완전히 틀렸다. AI 기업 창업자 Karthik Kannan도 프로그래밍 과제를 테스트했고, o1은 API에 존재하지 않는 명령을 '날조'했다.
다른 사용자 Sasha Yanshin은 o1과 체스를 두려 했지만, o1은 체스판에 존재하지 않는 말을 '창조'한 후 결국 패배했다.
나는 좀 장난기가 있어서 o1에게 이름에 'A'가 들어간 미국 주들을 나열해보라고 했다. 18초를 생각한 후 37개 주의 이름을 나열했는데, 그중 미시시피(Mississippi) 주도 포함했다. 정답은 36개 주였다.
이번엔 이름에 'W'가 들어간 주들을 나열해보라고 했을 때, 11초를 고민한 후 노스캐롤라이나와 노스다코타를 포함시켰다.
또 o1에게 코드명 '딸기(Strawberry)'에서 'R'이 몇 번 나오는지 물었더니, '두 번'이라고 답했다.
OpenAI는 o1이 물리학, 화학, 생물학 등의 복잡한 벤치마크에서 박사 과정 학생 수준의 성능을 보인다고 주장한다. 하지만 명백히 지리, 기초 영어 언어 테스트, 수학, 프로그래밍 분야에서는 형편없는 성능을 보였다.
흥미롭게도, 이것이 내가 이전 뉴스레터에서 예측한 '크고 어리석은 마술' 그 자체다. OpenAI는 투자자와 대중에게 AI 혁명이 여전히 진행 중임을 증명하기 위해 '딸기'를 출시했지만, 실제로 출시된 것은 무겁고 지루하며 비싼 모델이었다.
더 심각한 것은, 왜 누구도 o1을 신경 써야 하는지 설명하기 어렵다는 점이다. 샘 알트먼이 '추론 능력'을 자랑할지라도, 그를 계속 후원할 돈을 가진 사람들은 10~20초의 대기 시간, 기본 사실 정확성 문제, 그리고 어떤 흥미로운 신기능도 부족한 점을 보고 있다.
이제는 '더 나은' 답변도 중요하지 않다 — 사람들은 완전히 새로운 무언가를 원한다. 나는 OpenAI가 그것을 실현하는 방법을 모른다고 생각한다. 알트먼은 o1이 '생각'하고 '추론'한다고 표현함으로써 이를 인간화하려 했으며, 이는 AGI로 가는 어떤 단계임을 암시하는 것이 분명하다. 그러나 가장 열렬한 AI 지지자조차도 흥분하기 어렵다.
사실 나는 o1이 OpenAI의 절망과 창의력 부족을 보여준다고 생각한다.
가격은 내려가지 않았고, 소프트웨어는 더 유용해지지 않았으며, 작년 11월 이후 계속해서 들어왔던 '다음 세대' 모델은 결국 실패작이 되었다. 이 모델들은 훈련 데이터가 절박할 정도로 필요해서 거의 모든 대규모 언어 모델이 저작권 보호된 콘텐츠를 흡수하고 있다. 이러한 절박함은 세계 최대 생성 비디오 회사 중 하나인 Runway가 '전사적 노력'을 통해 수천 개의 YouTube 동영상과 불법 콘텐츠를 수집해 모델 훈련에 사용했으며, 8월 연방 소송은 NVIDIA가 많은 창작자들의 작품을 유사한 방식으로 활용해 'Cosmos' AI 소프트웨어를 훈련했다고 주장했다.
현재 법적 전략은 기본적으로 의지로 버티는 것으로, 이러한 소송이 '모델 훈련을 저작권 침해 행위로 정의하는 법적 선례'를 설정하지 못하길 바라는 것이다 — 최근 저작권 이니셔티브가 발표한 다학제적 연구가 도출한 결론이 바로 이것이다.
이러한 소송은 진행 중이며, 8월 한 판사는 Stability AI와 DeviantArt에 대한 추가적인 저작권 침해 고소를 승인했으며, Midjourney에 대해서는 저작권 및 상표 침해 고소도 승인했다. 만약 어느 한 소송에서 승소한다면, OpenAI와 Anthropic에 재앙적인 타격을 줄 것이며, 수백만 명의 예술가 작품 데이터셋을 사용하는 구글과 메타에게는 더욱 치명적일 것이다. AI 모델이 훈련 데이터를 '잊는' 것은 거의 불가능하기 때문에, 모델을 처음부터 다시 훈련해야 하며, 이는 수십억 달러가 들고, 본래 잘 하지도 못하는 작업 수행 효율을 크게 저하시킬 것이다.
나는 이 산업의 기반이 모래 위에 지은 성과 같다는 점을 깊이 우려한다. ChatGPT, Claude, Gemini, Llama 규모의 대규모 언어 모델은 지속 가능하지 않으며, 수억 또는 수십억 달러의 비용이 드는 컴퓨팅 집약적 특성상 수익을 낼 수 있는 길이 보이지 않는다. 이 회사들은 수백만 명의 예술가와 작가의 데이터를 실질적으로 '훔쳐서' 훈련하고 있으며, 법적 처벌을 면하길 바랄 뿐이다.
이러한 문제를 잠시 접어두더라도, 생성형 AI와 그 관련 아키텍처는 혁명적인 돌파구를 가져오지 못했으며, 생성형 AI에 대한 과장된 순환은 '인공지능'이라는 용어의 의미와 전혀 부합하지 않는다. 생성형 AI는 최선의 경우에도 가끔 정확한 콘텐츠를 생성하거나 문서를 요약하거나 불확실한 '더 빠름'으로 연구를 수행할 뿐이다. 마이크로소프트 365용 Copilot은 기업에 '무한한 가능성'을 제공하며 '수천 가지 기술'을 갖췄다고 주장하지만, 제시된 예시는 이메일 생성 또는 요약, '프롬프트로 프레젠테이션 시작', Excel 테이블 조회 등에 불과하다 — 유용할 수는 있지만 결코 혁명적이지 않다.
우리는 '초기 단계'에 있지 않다. 2022년 11월 이후 대형 기술 기업들은 인프라 구축과 신생 AI 스타트업에 1500억 달러 이상을 투자했으며, 자체 모델 개발에도 자원을 투입했다. OpenAI는 130억 달러를 조달해 원하는 누구라도 고용할 수 있었고, Anthropic도 마찬가지다.
그러나 생성형 AI 붐을 촉진한 이 산업판 '마셜 플랜'의 결과는 거의 동일한 대규모 언어 모델 네다섯 개, 세계에서 가장 수익성이 낮은 스타트업들, 수천 개의 고가이지만 성능은 평범한 통합 애플리케이션이 전부였다.
생성형 AI는 여러 거짓말로 판매되고 있다:
1. 이것이 인공지능이다. 2. 더 나아질 것이다. 3. 진짜 인공지능이 될 것이다. 4. 막을 수 없다.
'성능(performance)' 같은 용어를 제쳐두자 — 이는 일반적으로 '정확성'이나 '속도'를 설명하는 데 사용되며, 기술 수준을 의미하지 않는다 — 대규모 언어 모델은 사실상 정체기에 접어들었다. '더 강력함'이란 '더 많은 일을 할 수 있음'을 의미하지 않고, '더 비쌈'을 의미할 뿐이다. 즉, 기능은 늘어나지 않았지만 비용만 더 많이 드는 것을 창조한 것이다.
모든 벤처 캐피탈과 대형 기술 기업의 연합력이 여전히 지불할 의향이 있는 진정으로 의미 있는 사용 사례를 찾지 못했다면, 새로운 사용 사례는 나타나지 않을 것이다. 대규모 언어 모델 — 네, 수십억 달러가 흘러가는 바로 그것 — 은 기술 기업과 OpenAI가 추가로 1500억 달러를 투자한다고 해서 갑자기 더 능력 있게 되지 않는다. 누구도 이 기술을 더 효율적으로 만들려 시도하지 않았고, 적어도 성공한 사람은 없다. 만약 누군가 성공했다면 반드시 크게 홍보했을 것이다.
우리는 공유된 망상에 빠져 있다 — 각 시대마다 발생하는 저작권 도둑질을 기반으로 한 사각지대 기술이며, 지속적인 자본 투자 없이는 유지할 수 없고, 제공하는 서비스는 최선을 다해도 필수적이지 않으며, 실제로 제공되지 않는 자동화 기능인 척 포장된 수십억 달러의 비용이 드는 서비스다. 생성형 AI는 돈(혹은 클라우드 컴퓨팅 크레딧)이 아니라 자신감 위에서 운영된다. 문제는 자신감 — 투자 자본처럼 — 한정된 자원이라는 점이다.
나는 우리가 서브프라임 위기와 유사한 AI 위기에 직면해 있을 수 있다는 점을 우려한다 — 수천 개의 기업이 생성형 AI를 사업에 통합했지만, 가격은 여전히 안정되지 않았으며, 더욱이 수익을 내지도 못하고 있다.
'AI 기반'이라고 표방하는 거의 모든 스타트업은某种 GPT 또는 Claude 조합에 기반하고 있다. 이러한 모델은 모두 막대한 적자를 겪는 두 회사(Anthropic은 올해 27억 달러 손실 예상)가 개발했으며, 가격 전략은 수익보다는 더 많은 고객 유치를 목표로 한다. 앞서 언급했듯이, OpenAI는 마이크로소프트의 지원 — '클라우드 컴퓨팅 크레딧'과 마이크로소프트가 제공하는 할인 가격 포함 — 에 의존하며, 가격은 마이크로소프트가 투자자이자 서비스 제공자로서의 지속적인 지원에 완전히 의존한다. Anthropic의 아마존·구글 거래도 유사한 문제에 직면해 있다.
그들의 적자 상황을 고려할 때, OpenAI나 Anthropic의 가격이 실제 비용에 가까워진다면 API 호출 가격은 10배에서 100배까지 증가할 가능성이 높다(정확한 데이터가 없어 확정하긴 어렵지만). 하지만 The Information의 보도 수치를 생각해보자: OpenAI는 2024년 마이크로소프트 서버 비용으로 40억 달러를 지출할 예정이며 — 내가 보충하자면, 일반 고객 요금보다 2.5배 저렴함 — 게다가 여전히 연간 50억 달러 이상의 손실을 기록하고 있다.
OpenAI는 운영 모델에 필요한 비용의 일부만을 받고 있을 가능성이 매우 높으며, 이 상태를 유지하려면 이전보다 더 많은 위험 자금을 계속 조달하고 마이크로소프트로부터 계속해서 할인 가격을 받아야 한다. 그런데 마이크로소프트는 최근 OpenAI를 경쟁자로 간주한다고 밝혔다. 확정적이진 않지만, Anthropic도 아마존웹서비스(AWS)와 구글클라우드에서 유사한 할인 요금을 받고 있을 가능성이 높다.
예를 들어 마이크로소프트가 OpenAI에 100억 달러의 클라우드 크레딧을 제공했고, OpenAI는 서버 비용으로 40억 달러를 지출했으며, 가정상 20억 달러의 훈련 비용이 더 든다고 하자 — 새로운 o1 및 '오리온(Orion)' 모델 출시 후에는 분명히 증가할 것 — 그러면 OpenAI는 2025년까지 더 많은 크레딧이 필요하거나 마이크로소프트에 실제 현금으로 지불하기 시작해야 할 것이다.
마이크로소프트, 아마존, 구글이 계속해서 할인 요금을 제공할 수는 있겠지만, 문제가 되는 것은 이러한 거래가 그들에게 수익성이 있는가 하는 점이다. 마이크로소프트의 최신 분기 실적 발표 후 보듯이, 투자자들은 생성형 AI 인프라 구축에 필요한 자본 지출(capex)에 점점 더 우려를 표하고 있으며, 이 기술의 잠재적 수익성에 의문을 제기하고 있다.
우리가 진정으로 모르는 것은 생성형 AI가 이러한 대규모 기술 기업들에게 얼마나 수익을 가져오는가 하는 점이다. 왜냐하면 그들은 이러한 비용을 다른 수익 항목에 포함시키기 때문이다. 확실하지는 않지만, 만약 이 사업에 수익성이 있다면 분명히 그 수익을 자랑할 텐데, 그러나 그들은 그렇게 하지 않는다.
시장은 생성형 AI 붐에 대해 극도의 회의를 보이고 있으며, NVIDIA CEO 젠슨 황(Jensen Huang)이 AI 투자 수익률에 실질적인 답변을 내놓지 못하자 NVIDIA 시가총액은 하루 만에 2790억 달러 폭락했다. 이는 미국 역사상 최대 규모의 주식 시장 붕괴이며, 잃어버린 총 가치는 다섯 개의 리먼 브라더스 정점 가치에 육박한다. 물론 이 비교는 여기까지만 한다 — NVIDIA는 실패 위험조차 없으며, 설령 실패하더라도 시스템적 영향은 그리 심각하지 않을 것이다 — 하지만 이는 여전히 놀라운 금액이며, AI가 시장
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
@edzitron
