Sora가 '신'이 되고, 계속 가속화되는 AI는 '천신'이 될까, 악마가 될까?
글: 보원, 백로 회객실
Sora의 돌풍이 이미 CCTV까지 뜨겁게 달구고 있다.
사람에서 동물에 이르기까지, 육지에서 해저까지, 장엄한 자연 경관에서 번화한 도시 거리 풍경에 이르기까지, 고도로 사실적인 차량 주행 장면에서 상상력 가득한 사이버펑크 세계관에 이르기까지. Sora가 이 같은 추세를 유지한다면, 전 국민이 영화 제작자가 되는 시대는 멀지 않았다.
이전에는 ChatGPT가 기자, 번역가, 프로그래머들을 혼란에 빠뜨렸고, 이제 Sora가 다시 등장하여 촬영, 편집, 특수효과, 심지어 배우들까지 강력하게 위협하고 있다. AI가 몇 년 안에 수백만, 수천만 명의 종사자를 일자리에서 내몰 수 있을까? 필자 자신도 이 생각을 할 때마다 소름이 돋는다.
사실 AI 관련 정보를 꼼꼼히 수집해보면, AI는 단순히 '화이트칼라' 직업의 기회에 영향을 주는 것을 넘어서 바이오 의료, 자율주행, 기상 예보, 심지어 군사 작전에 이르기까지 인간 삶의 모든 분야에 이미 깊숙이 관여하고 있다.
다양하게 피어나는 AI 응용 시나리오
생성형 AI 중 가장 잘 알려진 것은 왕좌의 Sora 외에도 '바드(Bard)', DALL-E, Runway도 무시할 수 없다.
올해 2월, 구글은 인공지능 모델 '바드'를 '제미니(Gemini)'로 개명한다고 발표했다. 이는 텍스트, 코드, 오디오, 이미지, 비디오 등 다양한 유형의 정보를 이해하고 조합할 수 있는 다중모달 대규모 모델이다. 현재 '바드'는 사용자가 입력한 여러 단어만으로도 빠르게 단편소설이나 시를 생성할 수 있다.
무서운 점은 '바드'가 몇 달 만에 인터넷 상의 거의 모든 콘텐츠를 읽었다는 사실이다. 자체 언어 모델의 내용을 바탕으로 생성한 시는 일반인 수준을 훨씬 뛰어넘는다.
DALL-E는 예술 콘텐츠 생성에 특화되어 있다. 6억 장 이상의 이미지를 학습한 DALL-E는 개별 물체와 서로 다른 물체 간의 관계를 숙련되게 이해하며, 몇 줄의 텍스트만으로도 상응하는 예술 작품을 연상해 낼 수 있다. Runway는 시각 효과(VFX)에 특화되어 있으며, AI의 도움으로 영화 후반 작업에서 '수백만 달러짜리 특수효과'를 더하는 진입 장벽이 크게 낮아질 것이다.
생성 콘텐츠는 빙산의 일각일 뿐이며, AI의 다른 분야 응용은 더욱 상상력을 자극한다. 1월 29일, 엘론 머스크는 자사 뇌기계 인터페이스 회사 '뉴럴링크(Neuralink)'가 최초의 뇌기계 인터페이스 장치 인체 이식 수술을 성공적으로 마쳤으며, 환자의 상태가 양호하고 AI가 인간 뇌와 동기화되었다고 밝혔다.
1월 30일, 칭화대학교 웹사이트는 의과대학 뇌기계 인터페이스 연구팀과 수도의과대학 선무병원이 2023년 10월 세계 최초의 무선 미세침 뇌기계 인터페이스 임상시험을 성공적으로 수행했다고 발표했다. AI의 도움으로 14년간 마비 상태였던 환자는 3개월간의 훈련 후 스스로 손잡기, 물 마시기 등의 신체 기능을 회복했다.
미국 FDA는 이미 암 치료에 사용되는 AI 영상 알고리즘 약 420종을 승인했으며, 현재 이 알고리즘들의 정확도는 80%에서 90%에 이른다.
인도는 이미 '운전 보조 로봇' 실증 단계에 들어갔으며, 유럽 중기 기상예보센터 웹사이트에서는 화웨이 클라우드의 판구 기상 대모델이 운영되고 있다. 현재의 발전 속도를 감안하면, 앞으로 우리는 더 이상 AI를 논할 필요가 없을 것이다. 왜냐하면 AI는 어디에나 존재하며, 너무나 당연해져 버릴 것이기 때문이다.
기술과 함께 발전하는 논란
기술의 발전은 언제나 양날의 검이다. AI의 경우, 생성형 콘텐츠로 인한 저작권 논란과 사기 문제는 이미 흔히 발생하고 있다. AI가 창작한 작품에 저작권을 부여해야 하는가? 문제가 생겼을 때 책임은 누구에게 있고, 어떻게 해결해야 하는가? 이는 이미 격렬한 규제 논의로 확대되고 있다.
이미 2018년 컴퓨터 과학자 스티븐 테일러(Stephen Thaler)는 DABUS라는 인공지능 시스템을 개발하고, 이를 통해 예술 작품 『천국의 새 입구(The Entrance to Paradise)』를 창작했다. 주목을 받은 후 스티븐 테일러는 미국, 영국, 남아프리카공화국, 호주, 사우디아라비아 등 여러 국가에서 특허를 적극적으로 신청했다.
그러나 미국 저작권청은 관심을 보이지 않았다. 저작권법은 오직 인간의 창작물만 보호할 수 있다고 밝히며, AI 생성물에 얼마나 인간의 창작 기여도가 있는지는 측정하기 어렵다고 설명했다. 법원도 미국 저작권청의 입장에 동의했다. "수 세기에 걸친 확립된 인식에 따라 인간 작가성이 저작권의 기본 요건이다."
하지만 스티븐 테일러는 복종하지 않았다. "법은 반드시 인간 작가가 있어야 한다고 명시하지 않았다. 미국 헌법이 저작권 보호를 지지하는 목적은 과학과 실용 예술의 진보를 촉진하는 것이며, AI 저작권 개념은 바로 이 목적에 부합한다."라고 주장했다.
유사한 문제들은 항상 일관된 답을 갖지는 못한다. 중국에서 발생한 사건 하나를 예로 들 수 있다. 2023년 2월, 주인공 리윈카이는 황혼의 빛 아래 사진 스타일의 여성 초상을 그리고 싶어 했다. 그는 Stable Diffusion 모델에 '초현실 사진', '컬러 사진'이라는 예술 형식과 '일본 아이돌'이라는 주제를 입력했으며, 피부 상태, 눈동자 및 머리색깔 등 인물의 디테일을 상세히 묘사했다. 배경은 '외부 촬영', '황금 시간', '동적 조명'으로 설정했고, 포즈는 '멋진 자세', '카메라 응시', 스타일은 '필름 질감', '필름 시뮬레이션' 등을 지정했다. 또한 관련 파라미터를 설정했으며, 이후 초기 생성된 이미지를 바탕으로 프롬프트를 추가하고 파라미터를 조정한 끝에 마침내 마음에 드는 여성 반신 사진을 선택했다. 생성 후 리윈카이는 이 이미지를 샤오홍슈(SNS) 플랫폼에 게시했다.
2023년 3월, 피고인 류이모(Liu)는 『삼월의 사랑, 복숭아꽃 속에서』라는 제목의 글을 게시하면서 리윈카이가 생성한 이미지를 사용했다. 글 말미에는 "시문 원작", "소재는 인터넷에서 가져왔으며 침해 시 삭제 및 사과"라고 표기했다. 이후 리윈카이는 베이징인터넷법원에 소송을 제기하여 피고인이 해당 계정에 사과문을 게시하고 5,000위안의 경제적 손해배상을 청구했다.
2023년 11월 27일, 중국 최초의 'AI 텍스트-이미지 생성' 저작권 침해 사건 1심 판결이 나왔다. 법원은 생성형 AI 모델이 생성한 이미지가 저작권법상 미술 작품에 해당하며, 원고가 이에 대한 저작권을 가진다고 인정했다. 법원은 저작권 주체 판단에서 '인간 중심주의'를 고수하며, "생성형 인공지능 모델은 자유의지를 갖지 않으며 법적 주체가 될 수 없다. 따라서 사람과 AI 모델 사이에서 누가 창작자인지 결정할 필요가 없다."라고 명확히 했다. 법원은 본질적으로 사람이 도구를 이용해 창작하는 것이며, 창작 과정 전체에서 지적 노력을 투입한 것은 사람이지 인공지능 모델이 아니라고 설명했다.
그러나 이 판결이 정말 법에 따라 이루어졌는지는 여전히 논의의 여지가 있다. 중국의 『저작권법』은 명확히 규정하고 있다. "작품을 창작한 자연인이 저작자다." 만약 이를 엄격히 적용한다면, AI가 생성한 콘텐츠는 작품이 아니며 저작권도 부여되어서는 안 된다.
AI는 '천신(天神)'이 될 것인가, '악마'가 될 것인가?
저작권 논란은 해결하기 가장 쉬운 부분일 뿐이며, 보다 명확한 법률 및 규정이 충분한 보장을 제공할 수 있다. 더 어려운 문제는 사기, AI의 오해로 인한 실수, 그리고 우리가 가장 두려워하는 AI가 의식을 갖게 된다면 어떻게 해야 할지와 같은 복잡한 문제들이다.
2024년 2월, 홍콩 언론 보도에 따르면 홍콩에서 규모가 큰 AI '딥페이크(Deepfake)' 기술을 이용한 사기 사건이 발생했으며, 피해 금액은 2억 홍콩달러에 달한다. 이는 홍콩 역사상 가장 큰 피해를 입힌 '페이스스왑' 사건일 뿐 아니라, 처음으로 AI를 활용한 '다수 인물 페이스스왑' 사기 사건이기도 하다.
신고자는 한 다국적기업 홍콩 지사 직원으로, 1월 중순 본사 재무 책임자로부터 기밀 거래를 진행한다는 메시지를 받고, 본사 몇몇 재무 직원들과 다자간 화상회의에 참석하도록 요청받았다. 상대방들이 회의 중 현실과 동일한 외모를 보여주었기 때문에 직원은 의심하지 않고 총 15차례에 걸쳐 5개의 현지 은행 계좌로 2억 홍콩달러를 송금했으며, 이후 본사에 확인한 결과 사기를 당한 사실을 알게 되었다.
현재까지 파악된 정보에 따르면, 사기범들은 회사의 YouTube 영상과 기타 공개 채널에서 수집한 미디어 자료를 이용해 영국 본사 고위 경영진의 모습과 목소리를 성공적으로 모방했으며, Deepfake(딥페이크) 기술로 위조 영상을 제작해 다수 인물이 참여한 화상회의처럼 보이게 했다. 그러나 회의에 참석한 실제 사람은 오직 피해 직원뿐이었다.
사전 제작된 영상이었기 때문에 회의 중 주로 상사-부하 관계를 통해 직원에게 지시를 내렸으며, 직원은 회의 참가자들과 자유롭게 대화할 기회가 없었다. 전체 화상회의는 직원에게 짧은 자기소개를 요구한 후, 사기범들이 핑계를 대며 회의를 종료하고 즉시 메신저를 통해 계속 지시를 내렸다.
AI 사기는 선거에도 영향을 미쳤다. 1월 23일, 2024년 미국 대통령 선거 공화당 예비선거가 뉴햄프셔주에서 열렸다. 많은 미국 유권자들이 선거 전 "조 바이든 미국 대통령으로부터 온 전화"를 받았다고 밝혔다. 통화는 바이든의 말투로 시작되었으며, 유권자들에게 트럼프에게 투표하지 말고 11월 본선에서 민주당 후보에게 투표하라고 권유했다.
더 무서운 것은 이 기술의 남용이 이미 군사 문제로 확산되고 있다는 점이다. 2023년 11월, 이스라엘 국방군은 성명을 통해 가자 지구에서의 군사 작전 중 AI 시스템을 사용해 '신속하게 목표물을 생성하고 있다'고 밝혔다. 연간 50개에서 하루 100개로 늘어난 목표물 생성량은 이스라엘 군대의 공격 목표 탐지 효율을 수백 배 향상시켰다. 하지만 공격 목표와 함께 급격히 증가한 것은 가자 지구의 사상자 수였다. 흥미롭게도 이 AI 시스템의 이름은 '복음(Gospel)'이다.
그러나 뉴스 매체 『+972 매거진』의 조사에 따르면, 이스라엘은 '복음' 시스템을 폭격 목표 선정에 사용하며, 수량을 중시하고 질보다는 목표 정의를 매우 느슨하게 하고 있으며, 민간 시설 내 인물들까지 공격 대상으로 삼고 있다. 하마스 전사 한 명을 죽이기 위해 AI가 선택한 목표물이 주거용 아파트 전체 건물이었던 사례도 있었다.
더욱 우려되는 점은 AI의 전장 적용 성격이 모호하여 이러한 행동을 제재하거나 중단시키는 것도 어렵다는 것이다. 만약 AI가 현대 무기와 완전히 결합되어 목표물을 잘못 판단해 대규모 피해를 초래한다면 그 결과는 상상하기조차 어렵다.
맺음말
Sora는 우리에게 충격과 열광을 안겨주지만, 필자의 관점에서 보면 AI는 '산업혁명'급 생산력 변혁임에도 불구하고 가장 냉정하게 대처해야 한다. AI 산업은 분명 기회를 내포하고 있지만, 기술 돌파 뒤에 숨겨진 응용 가능성, 통제 가능성, 규제의 개입 방식, 중대한 결함 여부 등 수많은 문제들이 존재한다. 웹3는 어두운 숲과 같고, AI는 더더욱 판도라의 상자와 같다. 더 냉정하고, 더 포괄적이며, 더 지속적인 학습을 통해서만 AI 산업의 미래를 제대로 볼 수 있을 것이다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
