오픈AI 창립자 알트먼의 새로운 글: 온건한 특이점이 도래했다, 2030년 인류 운명의 큰 전환점
저자: JYH, 신지위안
오픈AI의 샘 알트먼이 직접 쓴 장문의 글 '온건한 특이점(Soft Singularity)'이 AI 업계에 큰 충격을 주고 있다. 그는 인류가 초지능 시대로 진입하고 있으며, 특이점은 하룻밤 사이에 도래하는 것이 아니라 조용히 스며들 것이라고 예측했다.
o3-pro 출시 직후, 알트먼은 즉각 최신 블로그 포스트인 '온건한 특이점'을 발표했다.
글의 시작부터 강렬한 긴박감이 느껴진다.
인류는 AI 발전의 '사건의 지평선(event horizon)'을 넘어서서 지수함수적 가속 성장 단계로 진입했다.
알트먼은 특이점이 갑작스럽게 도래하는 것이 아니라 서서히 스며든다고 보았다. 놀라움은 일상이 되고, 일상은 기준선이 된다.
본문에서 그는 향후 5년간의 기술 로드맵에 대한 자신의 전망도 제시했다.
-
2025년: 에이전트가 실제 인지 작업(예: 프로그래밍)을 수행할 수 있게 되며, 업무 방식이 재편됨;
-
2026년: AI가 새로운 지식을 발견할 가능성이 있음;
-
2027년: 로봇이 물리 세계에서 임무를 수행할 수 있게 될 전망;
-
2030년: 개인의 생산 능력이 2020년보다 훨씬 커지며, 사회적 생산 방식에 큰 변화가 생김.
주목할 점은, 이 글이 알트먼의 마지막 친필 글이며, AI 도움 없이 작성되었다는 것이다.
그는 또한 사람들이 간과하는 부분으로 ChatGPT의 각 조회당 자원 소비량을 언급했다.
ChatGPT 한 번 조회에는 평균 약 0.34와트시의 전기가 소모되며, 이는 오븐을 1초 이상 작동시키는 것과 비슷하거나 고효율 전구를 몇 분간 켜는 것과 맞먹는다.
또한 약 0.000085 갤런의 물이 소비되는데, 이는 찻숟가락의 1/15 정도이다.
다음은 알트먼의 시각을 따라 AI의 미래를 함께 살펴보자.
인류가 임계점을 넘은 지금
우리는 이미 사건의 지평선을 넘어섰으며, '승천(fly-up)'이 시작되었다.
천체물리학에서 사건의 지평선을 넘은 사건은 외부 관찰자에게 더 이상 영향을 줄 수 없다.
인류는 디지털 초지능 구축까지 단 한 걸음밖에 남지 않았지만, 지금까지 이 과정은 생각보다 훨씬 안정적이었다.
로봇이 거리를 돌아다니지는 않고, 대부분의 사람들은 여전히 매일 AI와 대화하지 않는다. 우리는 여전히 태어나고 늙고 병들며 죽으며, 우주 여행도 쉽게 할 수 없고, 우주의 미스터리는 여전히 많다.
하지만 우리는 실제로 인간을 여러 면에서 압도하는 지능 시스템을 만들어냈으며, 이는 생산성에 크게 기여할 것이다. 가장 불가능해 보였던 과학적 돌파구조차 이미 달성됐다. 어렵게 얻어낸 이러한 통찰이 GPT-4와 o3 같은 시스템을 낳았고, 이 시스템들이 우리를 더욱 먼 미래로 이끌 것이다.
AI는 다양한 방면에서 세계에 기여할 것이다.
특히 AI는 과학 발전을 가속화하고 생산성을 높여 삶의 질을 획기적으로 향상시킬 것이다. 미래는 현재보다 훨씬 더 아름다울 것이다. 과학 발전은 전체 발전의 가장 큰 추진력이며, 무한한 가능성의 미래를 생각하면 매우 흥분된다.
어떤 중요한 의미에서, ChatGPT는 역사상 어느 누구보다도 강력하다.
매일 수억 명이 점점 더 중요한 작업을 처리하기 위해 이를 의존한다. 작은 새로운 기능은 막대한 긍정적 영향을 줄 수 있고, 반대로 작은 오류도 수억 명이 사용하면 엄청난 부정적 충격을 줄 수 있다.
5년 로드맵, 2030년이 다음 관문
2025년에는 진정한 인지 작업을 수행할 수 있는 AI 에이전트가 등장하여 코드 작성 방식이 영원히 바뀔 것이다. 2026년에는 새로운 지식을 이해할 수 있는 시스템이 등장할 수도 있다. 2027년에는 물리 세계에서 작업을 수행하는 로봇이 등장할 전망이다.
더 많은 사람들이 소프트웨어와 예술 작품을 창조할 수 있게 될 것이다. 그러나 세계의 두 가지에 대한 수요도 동시에 증가할 것이다. 새로운 도구를 받아들이는 한, 전문가들은 아마도 여전히 초보자들을 앞설 것이다.
결국 2030년이 되면 개인의 업무 효율이 2020년보다 훨씬 높아질 것이며, 이는 놀라운 변화가 될 것이다. 많은 사람들은 이 변화로부터 혜택을 받는 방법을 찾게 될 것이다.
아주 중요한 일부 측면에서 2030년은 극적인 차이가 없을지도 모른다. 사람들은 여전히 가족을 사랑하고, 창의력을 표현하며, 게임을 즐기고, 호수에서 수영을 할 것이다.
하지만 다른 동등하게 중요한 측면에서는, 2030년은 과거 어느 시대와도 전혀 다를 수 있다. 우리가 인공지능이 인간을 얼마나 뛰어넘을 수 있는지 아직 알지 못하지만, 곧 그 답을 찾게 될 것이다.
2030년대에는 지혜와 에너지—즉 창의성과 이를 현실로 만드는 능력—이 전례 없이 풍부해질 것이다.
오랫동안 이 두 가지는 인류의 진보를 제약하는 핵심 요소였다. 충분한 지혜와 에너지(그리고 좋은 거버넌스)를 확보한다면 이론적으로 우리는 모든 것을 가질 수 있다.
AI의 자가 회전 고리는 점점 빨라지고, 특이점은 서서히 스며든다
우리는 이미 믿기 힘든 디지털 지능의 시대에 살고 있으며, 초기의 충격을 지나 대부분의 사람들은 이를 당연하게 여기고 있다.
우리는 AI가 문장优美的 단락을 생성하는 것에 감탄하던 것이, 이제는 문장优美的 소설을 써내기를 기대하게 됐다. 생명을 구하는 의료 진단을 하는 것에 감탄하던 것이, 이제는 치료법을 개발하길 기대한다. 소규모 프로그램을 작성하는 것에 감탄하던 것이, 이제는 완전히 새로운 기업을 설립하길 기대한다.
특이점의 발전은 바로 이렇다. 어제의 기적은 오늘의 평범한 일이 되고, 또 곧 평범한 기본 사양이 된다.
과학자들의 말에 따르면 OpenAI 도구를 사용한 후 생산성이 이전보다 2~3배 향상됐다고 한다.
고급 AI는 매우 중요하지만, 아마도 그것보다 더 중요한 것은 AI 자체 연구를 가속화하는 데 사용하는 것이다. 우리는 새로운 컴퓨팅 매체, 더 나은 알고리즘 및 기타 예상치 못한 성과를 발견할 수 있다. 10년의 연구를 1년 또는 1개월 만에 마칠 수 있다면, 진보 속도는 확실히 달라질 것이다.
앞으로 기존의 도구들이 더 깊은 과학적 통찰을 얻도록 도와주고, 더 우수한 AI 시스템을 개발하도록 지원할 것이다.
물론 이것은 AI 시스템이 스스로 코드를 완전히 업데이트하는 것과는 다르지만, 분명히 순환적 자기 개선(recursive self-improvement)의 초기 형태이다. 다른 자기 강화적 순환들도 이미 가동되고 있다.
막대한 경제 가치 창출은 인프라 건설의 가속적 확장을 유도하고, 점점 더 강력한 AI 시스템을 뒷받침하는 선순환 고리를 형성하고 있다.
로봇이 다른 로봇을 제조하는 것도 이미 멀지 않았으며, 어떤 의미에서 데이터센터가 다른 데이터센터를 짓는 것도 포함된다.
처음 백만 대의 인간형 로봇을 전통적인 방식으로 제조해야 한다 해도, 이후에는 로봇들이 광물 채굴과 정련, 트럭 운전, 공장 운영 등을 포함한 전체 공급망을 운영하여 더 많은 로봇을 만들 수 있다. 이렇게 만들어진 로봇은 더 많은 반도체 제조 시설과 데이터센터 등을 건설할 수 있다. 그렇다면 발전 속도는 확실히 달라질 것이다.
데이터센터 생산이 자동화됨에 따라 궁극적으로 지능의 비용은 전기 비용에 수렴해야 한다.
(사람들은 자주 ChatGPT 한 번 조회의 에너지 소비량이 궁금해 한다. 평균적으로 약 0.34와트시가 소모되어 오븐을 1초 이상 작동시키거나 고효율 전구를 몇 분간 작동시키는 것과 같다. 또한 약 0.000085갤런의 물이 소모되며, 이는 찻숟가락의 1/15 정도이다.)
AGI 종착점에 접근하면서 AI의 기적은 일상이 된다.
기술 발전은 계속 가속화될 것이며, 인간은 여전히 모든 변화에 적응할 것이다.
물론 일부 산업의 일자리가 통째로 사라지는 등의 고통스러운 과정이 있을 수 있지만, 한편으로 세계의 부는 빠르게 증가하여 이전에는 상상할 수 없었던 새로운 정책 개념을 진지하게 논의할 수 있게 될 것이다.
아마도 우리는 새로운 사회 계약을 일蹴에 정립하지는 않겠지만, 수십 년 후 되돌아보면 양변이 결국 질변을 이끌어낼 것이다.
역사를 참고하면, 우리는 새로운 목표와 새로운 수요를 찾아내고, 새로운 도구를 빠르게 흡수할 것이다. 기대치는 상승하지만, 능력 향상도 빠르게 이루어져 모두의 삶의 질이 좋아질 것이다.
산업혁명 이후의 직업 변화가 좋은 사례이다.
인간은 서로를 위해 점점 더 아름다운 것을 만들어낼 것이다.
AI와 비교해 인간은 장기적이고 중요하며 독특한 강점을 가지고 있다. 우리는 본능적으로 다른 사람과 그들의 생각과 행동을 걱정하지만, 기계에 대해서는 거의 관심을 갖지 않는다.
1,000년 전의 농부가 오늘날 많은 사람들의 일을 보면, 이것을 '가짜 일'이라며 현대인이 배부르고 사치스럽기만 하고 게임이나 하면서 스스로를 즐겁게 한다고 말할 것이다.
1,000년 후의 사람들이 우리 시대의 일을 본다면, 그것이 매우 '가짜'처럼 보이기를 바란다. 하지만 그것을 하는 사람들은 그 일들이 매우 중요하고 만족스럽다고 느낄 것이다.
새로운 기적의 등장 속도는 놀라울 정도로 빠르다.
오늘날 우리는 2035년에 어떤 새로운 발견이 있을지조차 상상하기 어렵다.
올해 고에너지 물리학의 수수께끼를 풀고 내년에는 우주 식민지를 시작할 수도 있고, 올해 재료 과학에서 중대한 돌파구를 마련하고 내년에는 진정한 고대역폭 뇌-컴퓨터 인터페이스를 갖게 될 수도 있다.
많은 사람들은 여전히 예전처럼 살아가기로 선택할 수 있지만, 적어도 일부는 '접속(connect)'하기로 결정할 수도 있다.
미래를 바라보면 모든 것이 믿기지 않을 것 같지만, 우리가 그 속에 들어서면 충격을 느끼더라도 여전히 잘 대처할 수 있을 것이다.
상대적 관점에서 보면, 특이점은 점진적으로 발생하고 융합은 천천히 진행된다.
우리는 기술의 지수함수적 성장 곡선을 오르고 있다. 앞으로 보면 너무 가팔라 오를 수 없을 것 같지만, 뒤로 보면 평탄해 보인다. 그러나 항상 부드러운 곡선이다.
(2020년에 2025년이 되면 AGI에 근접한 제품이 등장한다고 말했다면 얼마나 믿기 어려웠을지 생각해보고, 지난 5년간의 실제 변화와 비교해보라.)
초지능 뇌, 막중한 책임
커다란 기회는 엄중한 도전도 동반한다.
기술적·사회적으로 안전 문제를 해결해야 하지만, 초지능의 엄청난 경제적 영향을 고려할 때, 초지능이 널리 보급되는 것도 매우 중요하다.
최선의 경로는 다음과 같을 것이다.
우선, 정렬(alignment) 문제를 해결해야 한다. 즉, AI 시스템이 인류 공동체의 장기적 진정한 목표를 향해 학습하고 행동하도록 강력하게 보장해야 한다.
소셜미디어 피드는 목표가 어긋난 AI의 대표적인 예이다. 알고리즘은 당신이 계속 새로고침하게 만드는 데 극도로 능숙하며, 당신의 단기적 선호를 정확히 파악한다. 그러나 그것은 당신 뇌의 특정 메커니즘을 이용함으로써 가능하며, 이 메커니즘은 당신의 장기적 선호를 압도한다.
그 다음, 초지능을 저렴하고 쉽게 접근 가능하게 하며, 어떤 개인, 기업 또는 국가에도 과도하게 집중되지 않도록 집중해야 한다.
사회는 회복력이 강하고 창의적이며 적응력이 뛰어나다. 인류의 집단적 의지와 지혜를 활용한다면, 많은 실수를 저지르고 일부 상황이 매우 나빠지더라도 우리는 빠르게 배우고 적응하여 이 기술을 통해 최대의 이익과 최소의 위험을 실현할 수 있다.
사회가 설정해야 할 광범위한 경계 내에서 사용자에게 충분한 자유를 부여하는 것이 매우 중요해 보인다. 전 세계가 이러한 경계와 집단적 정렬(collective alignment)을 정의하기 위한 논의를 조기에 시작할수록 좋다.
전체 업계가, OpenAI만이 아니라, 세계를 위한 하나의 뇌를 구축하고 있다.
그것은 고도로 개인화되어 누구나 쉽게 사용할 수 있으며, 우리의 유일한 병목은 좋은 아이디어뿐이다.
오랫동안 스타트업 업계의 기술자들은 '아이디어 왕'들을 비웃었다. 그들은 아이디어만 있고 이를 실행할 팀을 찾아야 했기 때문이다. 하지만 알트먼 본인은 이런 사람들이 곧 자신의 전성기를 맞이할 것이라고 본다.
현재 OpenAI는 여러 역할을 수행하지만, 가장 우선적인 정체성은 초지능 연구 회사이다.
앞길은 멀고 막중한 책임이 따르지만, 대부분의 길은 이미 밝혀졌으며, 미지의 영역은 빠르게 사라지고 있다. 우리가 사랑하는 일을 할 수 있어 매우 영광이다.
'계량할 필요가 없을 정도로 저렴한 지능'이 눈앞에 다가왔다. 이 말은 미친 듯이 들릴 수 있지만, 만약 2020년에 당신에게 세상이 오늘날의 모습이 될 것이라고 말했다면, 아마도 우리가 지금 2030년에 대해 예측하는 것보다 훨씬 더 미친 듯이 들렸을 것이다.
우리가 평온하고 지수함수적이며 파란 없는 방식으로 초지능 시대로 나아가기를 바란다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
