AI 가 인간 글쓰기를 사칭하며 인터넷을 오염시키고 있다, Substack 은 판단권을 독자에게 넘기기로 결정했다

저자: Chris Best

번역: TechFlow

TechFlow 편집자 주: 소셜 미디어 콘텐츠의 최대 40% 가 이미 AI 생성이지만, 독자들은 종종 이를 모릅니다. Substack 은 이러한 'Claudefishing'(인간인 척 쓰기) 이 독자와 작가 간의 신뢰를 훼손하고 콘텐츠 크리에이터의 생계를 위협한다고 봅니다. 그들의 대응 방식은 플랫폼이 대신 결정하는 것이 아니라 독자가 직접 판단하도록 하는 것입니다.

진위를 구분하기 어려운 인터넷

이제 인터넷에서 무엇이 실제 콘텐츠인지 구분하기가 점점 더 어려워지고 있습니다.

이 문제는 Substack 에서 상대적으로 덜 심각하며, 우리는 이 상태를 유지하기를 원합니다. 첫 번째 단계로, 오늘 Substack 앱에서 Pangram 과 협력하여 새로운 기능을 출시합니다. 앞으로는 텍스트를 스캔하여 얼마나 많이 손으로 작성되었는지, 얼마나 AI 의 도움을 받아 완성되었는지 확인할 수 있습니다. 잠시 후 자세히 설명하겠지만, 먼저 이것이 왜 중요한지 설명하겠습니다.

물은 넘치지만 마실 물 한 방울 없다

Pangram 의 추정에 따르면, 일부 플랫폼에서 AI 생성 텍스트의 비율이 최대 40% 까지 상승하고 있습니다. 이는巨大的 변화입니다. 많은 사람이 자신의 피드가 영혼 없는 쓰레기 콘텐츠로 가득 차 있다고 불평합니다. 어떤 사람들은 자신이 인간이 창작하지 않은 것을 읽고 있다는 사실조차 인지하지 못합니다.

핵심 문제는 사람들이 AI 를 사용하는지 여부나 AI 출력의 질에 있지 않습니다. AI 로 만든 콘텐츠가 모두 쓰레기인 것은 아니며, 모든 쓰레기가 AI 로 만든 것도 아닙니다. 문제는 독자의 기대가 현실과 일치하지 않을 때 발생하며, 특히 뒤에 인간의 사고가 전혀 없는 콘텐츠에 알지 못한 채 주의를 기울일 때입니다. 이것이 바로 Claudefishing 입니다.

Freddie deBoer 는 이렇게 말합니다:

내가 인간이 창작한 예술에 접근하는 것은 그 뒤에 한 사람이 있다는 것을 알기 때문이며, 이것이 바로 내가 찾는 것입니다 —— 다른 사람들이 예술을 통해 자신들의 자아 속에 숨겨진 것을 보여주기 때문입니다. 이 과정에서 나를 속이는 것은 사기일 뿐입니다.

우리가 Substack 에서 이 문제를 중요하게 여기는 이유는 이것이 우리 업무의 핵심에 닿아 있기 때문입니다. 바로 문화를 위한 경제 엔진을 구축하는 것입니다. 이는 생각하는 사람, 느끼는 사람, 관찰하는 사람, 논쟁하는 사람, 실험하는 사람, 고려하는 사람, 고민하는 사람, 권고하는 사람, 관심하는 사람 — 즉, 진정한 인간들이 자신이 믿는 작업을 통해 돈을 벌 수 있도록 돕는 것을 의미합니다. 이 네트워크는 사람 간의 신뢰 위에 구축되어 있으며, 이것이 효과가 있는 이유입니다.

인간이 창작하지 않은 콘텐츠가 원래 인간에게 속해야 할 인터넷 부분을 점령하면, 공공 공간이 오염되어 인간의 목소리를 발견하고 듣기 어려워집니다. 독자가 읽고 있는 콘텐츠가 실제인지 의심해야 할 때, 이는 작가 정체성에 대한 신뢰를 훼손하고 작가의 생계를 위협합니다 — 이는 AI 도구를 신중하게 사용하여 자신이 믿는 작품을 창작하는 사람들도 포함됩니다. 가짜 콘텐츠를 보상하는 플랫폼은 하향 경쟁을 유발할 것입니다.

우리가 하고 있는 일

이는 신흥 분야이며, 우리가 모든 답을 가지고 있다고 감히 말하지는 못합니다. 하지만 우리가 확실히 아는 한 가지 것은, 여러분의 Substack 앱이 LinkedIn 이 될 때까지 기다렸다가 학습 및 진전을 시작하고 싶지 않다는 것입니다. 따라서 먼저 투명성을 높이고 여러분의 피드를 구할 기반을 마련하기를 희망하는 몇 가지 새로운 도구를 출시합니다.

우리는 선도적인 AI 감지 도구인 Pangram 과 협력하고 있습니다. 노트, 답글, 댓글 및 게시물을 스캔하여 텍스트 중 얼마나 많이 손으로 작성되었거나 AI 의 도움을 받아 완성되었는지 추정치를 확인할 수 있게 됩니다. 이는 오늘부터 게시된 100 단어 이상의 텍스트에 적용되며, 분석 결과는 요청한 사람에게만 표시됩니다.

그림: Substack 과 Pangram 이 협력한 AI 감지 도구 인터페이스로, 텍스트가 인간이 작성한 비율과 AI 보조 비율을 표시할 수 있습니다. 출처: Substack

유의하시기 바랍니다. Pangram 은 텍스트 제작에 AI 를 사용했는지 여부만 감지할 수 있으며, 창작 시 많은 인간의 노력이 투입되었는지 여부나 AI 도구를 소스로 사용했는지 여부는 감지할 수 없습니다. 완벽하지는 않지만, 독립적인 연구에 따르면 AI 생성 텍스트를 매우 높은 정확도로 감지할 수 있습니다. 우리는 사람들이 이러한 도구를 사용하여 스스로 판단하는 것이 유익하다고 믿습니다.

우리는 크리에이터를 위한 도구도 출시했습니다. 여기에는 '내가 이것을 어떻게 창작했는가' 성명을 추가하는 기능이 포함되며, 여기서 자신의 프로세스를 설명하고 독자에게 기대치를 설정할 수 있습니다. 게시 전 초안에 Pangram 을 실행할 수 있으며, 자신의 작품에 대한 스캔 결과 중 오류가 있다고 생각되는 것은 신고하고 삭제할 수도 있습니다.

이 기능들은 현재 웹과 iOS 에서 사용할 수 있으며, 곧 Android 에서도 출시될 예정입니다. 이는 시작점일 뿐입니다. 피드백과 관심에 따라 다음과 같은 도구를 고려하고 있습니다:

답글 규칙에서 자신의 커뮤니티를 위한 AI 콘텐츠 선호도를 설정할 수 있도록 함

인간 작성든 신중한 AI 사용든 관계없이 크리에이터가 제공하는 개인적 가치를 표현할 수 있는 더 많은 방법 제공

독자에게 추천할 콘텐츠에 대한 선호도를 설정할 수 있는 옵션 제공

AI 가 이러한 문제를 가속화함에 따라 스팸, 봇 및 다양한 사기 행위를 퇴치하는 시스템을 지속적으로 개선

우리는 사람들이 작업을 보조하기 위해 AI 를 사용하는 것에 반대하지 않으며, 사람들이 자신을 표현하기 위해 어떤 도구를 사용할지 자유롭게 선택할 수 있어야 한다고 생각합니다. 플랫폼에는 인간 작성 최대주의자도 있고, AI 도구 사용의 최전선을 공개적으로 탐색하면서 자신이 지지하는 작품을 만들기 위해 세부 사항에 주의를 기울이는 사람들도 있습니다. 우리는 Substack 에서 소프트웨어 작성, 연구 수행, 그리고 클립, 번역 등 제품 기능 구축에 AI 를 지속적으로 사용해 왔습니다.

하지만 사람들은 자신이 무엇을 얻는지 알아야 합니다. 예를 들어, 연구 결과를 제시하기 위해 AI 에 크게 의존한 누군가의 날카로운 분석을 읽는 것은 괜찮지만, 인간이 손으로 쓴 답글과 상호작용하는 데만 시간을 보내고 싶을 수 있습니다. 어떤 방식이든 선택권은 여러분에게 있어야 합니다.

무엇을 보고 싶으신가요?

우리는 모두 함께 이 이상한 새로운 세상으로 들어가고 있으며, 우리에게 필요한 새로운 도구와 새로운 사회적 규범을 찾아내기 위해 공개 토론보다 나은 방법은 생각나지 않습니다. 여러분의 의견을 듣고 싶습니다. Substack 이 AI 시대의 가치 있는 인간 창작을 어떻게 지원할 수 있을까요? 언제 AI 사용이 Claudefishing 일까요? 언제 좋은 것일까요?

AI 가 아무리 강력해져도 인간의 관점은 문화의 기본 요소일 것이며, 이는 항상 변함없을 것입니다. 사실, 이러한 도구가 지속적으로 개선되기를 기대할수록 자신이 읽는 콘텐츠의 출처를 이해하는 것이 더 중요해집니다. Claude 에는 많은 장점이 있습니다! 하지만 내가 Claude 의 의견을 원할 때는 직접 Claude 에게 묻겠습니다.