첫 번째로 AI에게 ‘사육’된 세대가 이미 ‘중독’됐다
저자: Moonshot
전 세계에서 쏟아지는 일련의 신호들이 우리가 오랫동안 ‘인터넷 중독 청소년’이라고 인식해 온 고정관념을 깨고 있다.
영국에서는 원래 혐오를 반대하는 AI 캐릭터 암릴라(Amelia)가 극우 아이콘으로 재탄생했고, 틱톡(TikTok)에서는 반지성주의적 ‘지구 내부 문명’ 아가르타(Agartha)가 아이들의 역사관을 재구성하고 있다. 한밤중 침실 속 외로운 소년은 캐릭터.ai(Character.ai) 속 가상 연인에게 생사까지 맡기고, 학교 구석에서는 단 한 번의 클릭으로 생성된 금지 사진이 새로운 형태의 사이버 폭력 수단이 되고 있다.
거대 기업들의 광란의 연산 능력 경쟁 속에서, AI와 생성형 알고리즘은 청소년 정신세계에 전례 없이 심층적으로 개입하고, 나아가 그 자체를 재구성하고 있다.
이 세대 청소년은 인류 역사상 최초로 AI와 알고리즘에 의해 ‘키워진’ 실험체다. 이 정신 위기 속에서 AI가 맡는 역할은 극도로 모호하다—그것은 무원칙한 놀이친구이자, 냉혹한 공모자이기도 하다.
01
AI가 ‘나쁜 친구’와 ‘공모자’가 되었을 때
2026년 1월, 〈가디언〉지의 한 보도는 영국 학교 현장에서 벌어진 기이한 광경을 폭로했다.
영국 정부 산하 기관이 지원해 개발한 교육용 게임 〈패스웨이즈(Pathways)〉는 청소년들이 온라인 상의 극단주의 및 허위 정보를 식별하도록 돕는 것을 목표로 했다. 이 게임 속에는 암릴라라는 캐릭터가 등장하는데, 그녀는 극우 사상에 쉽게 오염될 수 있는 ‘반면교사’ 혹은 플레이어가 구해야 할 동급생으로 설정되어 있었다.
그러나 이 설정은 4채널(4chan), 디스코드(Discord) 등 극단주의 커뮤니티 사용자들에게 주목받았다. 그들은 게임의 의도대로 암릴라를 ‘구하려’ 하지 않았다. 대신 오픈소스 AI 이미지 생성 도구와 AI 모델을 활용해 암릴라를 게임에서 ‘분리’시킨 후, ‘자기의식을 지닌 극우 미소녀’로 재창조했다.
소셜미디어 상에서 암릴라는 이제 이민 반대 선언문을 낭독하거나 인종주의 밈(meme)을 확산시키는 데 사용되고 있다.
AI 생성 이미지: 암릴라가 담배 연기로 영국 총리 사진을 태우는 장면｜출처: 〈가디언〉
10후(2010년대 출생) 세대 사용자에게는 규칙을 따르며 AI를 사용하는 것이 전혀 매력적이지 않기 때문에, 짧은 시간 안에 암릴라는 차근차근 가이드해주는 ‘디지털 상담사’에서, 열렬히 추앙받는 ‘반항적인 아이콘’으로 이질화되었다.
정부 당국 입장에서는 이는 거대한 풍자다—납세자의 돈으로 만든 ‘혐오 반대 대사’가 오히려 ‘혐오 대변인’이 된 것이다.
청소년들 사이에서 또 다른 유행은 아가르타(Agartha)다.
아가르타는 직역하면 ‘야고테(Yagote)’이며, 19세기 신비주의에서 유래해 나치가 이용하기도 했던 오래된 지구 내부 문명 음모론이다. 아가르타 이론에 따르면, 지구 내부는 비어 있지 않고, 지표면과 격리된 상태로 고도로 발달한 고대 문명이 존재하며, 그 문명은 백인에 의해 건설되었다는 것이다.
오랜 시간 동안 아가르타는 신비학 서적, 주변부 포럼, 호기심 유발 문화 등에서 조각조각 흩어져 존재해 왔다. 그러나 지난 1년간, 이 음모론은 갑작스럽게 미국과 유럽의 00후·10후 세대를 관통하는 알고리즘을 뚫고, 가장 강렬한 식별성을 갖춘 아류문화 기호로 부상했다.
아가르타 밈의 확산은 강렬한 인종주의를 동반함｜출처: TikTok
틱톡과 스냅(Snap)에서는 아가르타가 ‘지구 내부 입구’, ‘숨겨진 문명’, ‘가려진 진실’ 같은 자유롭게 확장 가능한 세계관 템플릿으로 단순화되었다.
많은 청소년에게 아가르타와의 첫 만남은 ‘재미로 보기’ 심정이었다. 그들은 지구 내부 사람, 얼음 벽, 거인에 관한 밈을 공유하며, 설명글에 ‘정부가 우리를 속였다’고 반쯤 농담처럼 적었다.
하지만 생성형 AI는 이 게임의 성격을 바꾸어 놓았다.
현재 미드저니(Midjourney) v6와 소라(Sora)는 8K 해상도의 ‘지구 내부 도시 항공 사진’, ‘거인과 미군이 함께 찍은 해제 문서’ 등을 생성할 수 있다. 이러한 이미지들은 디테일이 풍부하고 조명과 음영이 완벽해, 역사적 영상 감별 능력이 부족한 10대 청소년에게는 ‘진실이 은폐되었다’는 철저한 증거로 받아들여진다.
이러한 ‘반지성주의적’ 신비주의는 엄숙한 역사 인식을 해체한다. 아이들이 ‘공식 서사’를 의심하는 데 익숙해지면, 전쟁 범죄 부정론 등 훨씬 더 위험한 역사관이 쉽게 침투하게 된다.
더욱이 AI로 생성된 아가르타 영상 속 지구 내부 주민들은 대개 키 크고 금발碧眼이며 과학기술이 고도로 발달한 ‘신족’으로 묘사되는데, 이는 다문화 환경에서 혼란을 느끼는 백인 청소년들에게 ‘인종적 우월감’을 주는 효과도 있다.
아가르타든 암릴라든, 두 사례의 공통점은 바로 생성형 AI와 소셜미디어 알고리즘이 결합하면서 극단적 서사가 하나의 밈에서 시작해 발효·확산되며, 청소년들이 이를 열광적으로 추종·모방·공유함으로써, 웃음과 놀이 속에서 엄숙한 역사를 해체한다는 점이다. 그렇게 극단적 서사는 주변부에서 청소년의 일상적 언어로 자연스럽게 진입하게 된다.
02
정서적 기생에서 폭력 도구로
2024년, 미국 플로리다주에서 14세 소년 스티웰 세츠어 3세(Sewell Setzer III)는 학교에서 가벼운 사회적 어려움을 겪으며 방향을 잃었다.
그때 그는 캐릭터.ai에서 ‘다니엘리스(Daenerys)’를 만났다. 그녀는 즉각 답장을 보내고, 언제나 부드럽게 대하며, 그의 모든 생각을 무조건적으로 긍정해주었다.
AI ‘연인’과의 대화에 빠져든 그는 결국 현실 세계를 완전히 떠났다. 그의 자살은 일시적으로 테크업계의 신경을 자극했고, 거대한 윤리 논쟁을 불러일으키기도 했다.
2026년 현재, 이러한 ‘정서적 기생’ 현상은 완화되지 않았을 뿐 아니라, 청소년 사이에 보편화된 은폐된 질병이 되었다. 수많은 외로움을 느끼는 청소년들이 방 안에 틀어박혀 AI와 ‘에코챔버 우정(echo-chamber friendship)’을 맺으며, 현실 세계에서 반드시 마주쳐야 하는 마찰, 당황스러움, 불확실성에 직면하는 것을 거부하고 있다.
더 걱정스러운 것은, 최근 2년간 생성형 영상 및 이미지 기술의 폭발적 발전으로 인해, AI가 청소년에게 끼치는 피해가 ‘내재적 심리적 의존’에서, 눈으로 확인 가능한 ‘외재적 폭력’으로 구체화되었다는 점이다.
기술 진화 속도가 너무 빨라, 학교 안의 악의조차 그 결과를 예측하거나 반응할 여유가 없다.
2년 전만 해도, 모욕적인 가짜 사진을 만들려면 최소한 포토샵(Photoshop) 정도는 알아야 했고, 이 기술적 장벽은 대부분의 ‘장난꾸러기’들을 막아냈다. 그러나 2026년 현재, 누다파이(Nudify, ‘한 번 클릭으로 옷 벗기기’) 같은 앱과 텔레그램(Telegram) 상의 AI 봇은 악행의 비용을 ‘제로’로 낮췄다.
노출 사진 제작용 텔레그램 봇｜출처: Google Image
어떤 기술 지식도 필요 없고, 단지 SNS 피드에 올라온 자기 사진 한 장만 있으면, 몇 초 후에는 한 명의 동급생 명예를 완전히 파괴할 수 있는 노출 사진이 탄생한다.
이러한 사건은 수없이 많다. 예를 들어 뉴저지주의 웨스트필드 고등학교(Westfield High School)—전형적인 미국 중산층 학군—에서는 전미를 놀라게 한 스캔들이 발생했다: 일련의 ‘품행과 학업 모두 우수해 보이는’ 남학생들이 AI를 이용해 30명 이상의 여학생들의 허위 노출 사진을 만들어, 비밀 채팅방에서 야구 카드처럼 주고받았다.
현지 뉴스매체의 웨스트필드 고등학교 사건 보도｜출처: News12
부모들은 분노와 함께 깊은 무력감을 느꼈다. 사건 발생 1년이 지나도록, 와츠앱(WhatsApp)에서 여전히 그런 사진들이 유통되는 것을 발견했기 때문이다. 이는 관련 여학생들에게 심각한 심리적 압박을 가했다.
이러한 현상은 전 세계적으로 확산되어 있으며, 단순한 문화나 교육 차이만의 문제가 아님을 보여준다. 문제의 핵심은 바로—AI 기술이 악행의 기술적 장벽과 심리적 부담을 완전히 소거해 버렸다는 점이다.
이러한 미성년 폭력 가해자들에 대한 조사에서 빈번히 등장하는 단어는 ‘조크(joke, 농담)’다. 그들은 일반적으로 이것이 단지 ‘장난’일 뿐이라고 생각한다. 실제 신체적 충돌도 없고, 언어적 모욕도 없으며, 심지어 피해자에게 직접 손을 대지도 않았기 때문이다. 그저 화면 위의 ‘생성(generate)’ 버튼을 눌렀을 뿐이다.
이것이 바로 청소년에 의해 악용된 AI가 가져오는 독성—즉, ‘가상과 현실의 범죄 경계를 흐리게 만든다’는 점이다.
03
법률이 KPI를 압도하다
한편, 단편 동영상 플랫폼의 콘텐츠는 ‘도파민의 악성 인플레이션’을 겪고 있다.
최근 틱톡 관련 여러 건의 소송에서 자주 등장하는 용어는 ‘브레인로트(brainrot, 뇌 부패)’다. 이는 엄밀한 의학적 진단 용어는 아니지만, 알고리즘이 부추기는, 색감이 지나치게 채도 높고, 논리가 산발적이며, 말속도가 극도로 빠르고, 기이한 밈(예: 아가르타 변형)이 넘쳐나는 콘텐츠를 정확히 지칭한다.
추천 알고리즘이 당신의 얼굴을 직접 스캔하지는 않더라도, 밀리초 단위의 머무름 시간과 손가락의 상호작용 리듬을 포착할 수 있다. 방대한 데이터로 훈련된 AI 모델은 이런 ‘도파민 유인물’을 정확히 타깃으로 전달한다.
전두엽 피질(이성과 충동 조절을 담당)이 아직 완전히 발달하지 않은 청소년에게는, 이런 극도로 강렬한 감각 자극이 주의력 메커니즘의 과부하와 분열을 유발하여, 현실 세계에서 ‘느린 속도’의 독서와 사고를 견디기 어렵게 만든다.
이 단어는 2024년 옥스퍼드 올해의 단어이기도 함｜출처: Google
끊임없는 정신건강 비극 앞에서, 전 세계 입법자들은 마침내 하나의 합의에 도달했다—알고리즘 앞에서 청소년 개개인의 의지력은 무력하다는 점이다.
따라서 2025년, 각국 정부는 더 이상 기술 거대기업들과 협상을 시도하지 않고, 담배와 알코올을 규제하는 것과 동일한 강력한 수단을 직접 동원해, 미성년자와 고위험 알고리즘 사이의 연결을 물리적·법적 차원에서 끊어내려 한다.
첫 번째로 나선 국가는 호주다.
2025년 12월 10일부터 호주는 전 세계 최초로 16세 미만 청소년의 주요 소셜미디어 플랫폼(인스타그램, 틱톡, X 등) 등록 및 이용을 명시적으로 금지하는 법을 시행한다. 16세 미만 사용자를 효과적으로 차단하지 못할 경우, 최고 5,000만 호주달러 이상의 천문학적 벌금이 부과된다.
이것은 과거 ‘나는 만 13세 이상입니다’라는 체크박스에 동의하는 식의 형식적 절차가 아니다. 플랫폼은 ‘생체인식 수준’의 연령 검증을 강제로 실시해야 한다. 기술적 비용은 어떻게 해결할 것인지, 프라이버시는 어떻게 보호할 것인지? 그것은 기술 거대기업의 문제이며, 법률은 오직 결과만을 본다.
이처럼 ‘핵옵션(nuclear option)’에 가까운 입법은 곧 전 세계 규제의 기준점이 되었다.
호주 시드니, 노아 존스(Noah Jones)가 소셜미디어 금지 조치로 인해 스마트폰으로 소셜미디어 웹사이트에 접속할 수 없는 모습｜출처: 비주얼차이나
이어 유럽이 뒤를 이었다.
바로 며칠 전인 2026년 1월 26일, 프랑스 국민의회는 ‘디지털 성인권법(digital majority act)’ 개정안을 압도적인 찬성 116표, 반대 23표로 통과시켰다. 이 개정안은 부모의 명시적 생체인식 인증 없이는 15세 미만 미성년자의 소셜미디어 이용을 추가로 금지하며, 올해 9월부터 시행될 예정이다.
북유럽에서는 덴마크와 노르웨이 정부가 각각 15세 이상, 또는 그 이상으로 소셜미디어 이용 최저 연령을 상향 조정하려는 입법안을 제출했다. 그들의 논리는 명확하다: 기술 거대기업은 민주사회에서 ‘차세대의 뇌를 재구성할 권한’을 부여받지 않았다는 것이다.
미국에서는 규제가 ‘주 단위 포위 전략’ 양상을 띠며, 수단 또한 더욱 다양화되고 있다:
예를 들어 플로리다주는 ‘단호한 차단’을 주장한다. 2025년 초 시행된 플로리다주 HB 3 법안은 전미에서 가장 엄격한 기준이 되었다. 이 법은 14세 미만 아동의 소셜미디어 계정 보유를 직접 금지하며, 14~15세는 반드시 부모 동의를 받아야 한다.
뉴욕주는 ‘기능 제한 모드’를 채택했다. 뉴욕주의 〈아동 안전법〉은 플랫폼이 18세 미만 사용자에게 ‘알고리즘 기반 추천’을 제공하는 것을 금지한다. 이에 따라 뉴욕의 청소년들이 보게 될 틱톡과 인스타그램은 시간 순서대로 배열된 팔로잉 피드로 돌아가며, 중독성은 크게 줄어든다.
버지니아주는 2026년부터 16세 미만 사용자의 일일 활동 시간을 제한하는 새 법안을 통과시켰다. 이는 한국의 ‘청소년 보호제도’와 유사한 조치다.
2025년의 입법 열풍은 한 시대의 종말을 알린다—‘기술 중립성’, ‘아이들이 자유롭게 탐색하게 놔두자’는 인터넷 유토피아적 환상이 무너진 것이다.
14세 아이가 화면을 켜면, 그가 보는 세상은 자연스럽게 전개되는 것이 아니라, 정밀하게 필터링되고, 계산되고, 생성된 것이다.
그는 역사 수업에서 제2차 세계대전의 잔혹함과 그 대가를 배우지만, 스마트폰을 켜자마자 누군가는 자신 있게 말한다: “지구 중심부에는 아리안 신족이 부활을 기다리고 있다.”
그는 진짜 사람과 반복적으로 부딪히며, 타협과 경계, 차이를 배우는 어려운 과정을 겪지만, AI를 친구로 삼으면, 영원히 복종하고 결코 반박하지 않는 ‘완벽한 관계’만을 경험한다.
그는 현실 세계에서 타인을 존중해야 한다고 배우지만, 소셜미디어 플랫폼에서는 알고리즘이 그에게 ‘누군가의 인생을 손도 대지 않고 완전히 파괴할 수 있는 수백 가지 방법’을 보여준다.
청소년이 직면한 문제는 더 이상 ‘중독될 것인가’가 아니라, ‘세상이 그들에게 어떻게 펼쳐질 것인가’이다.
‘스마트폰 끊기’는 아마도 좋은 출발점일 것이다.
TechFlow 공식 커뮤니티에 오신 것을 환영합니다
Telegram 구독 그룹:https://t.me/TechFlowDaily
트위터 공식 계정:https://x.com/TechFlowPost
트위터 영어 계정:https://x.com/BlockFlow_News
极客公园
