AI 冒充人類寫作正在汙染互聯網，Substack 決定把判斷權交給讀者

作者：Chris Best

編譯：深潮 TechFlow

深潮導讀：社交媒體上高達 40% 的內容已經是 AI 生成，但讀者往往不知情。Substack 認為這種 "Claudefishing"（冒充人類寫作）正在破壞讀者與作者之間的信任，威脅內容創作者的生計。他們的應對方式是：讓讀者自己判斷，而不是平臺替你決定。

真假難辨的互聯網

現在要分辨互聯網上什麼是真實內容越來越難了。

這個問題在 Substack 上相對較輕，我們希望保持這樣。作為第一步，我們今天在 Substack 應用中與 Pangram 合作推出了一項功能。今後，你可以掃描文本，查看其中有多少可能是手寫的，有多少是在 AI 輔助下完成的。我稍後會詳細說明，但首先讓我解釋一下為什麼這很重要。

到處是水，卻沒有一滴能喝

根據 Pangram 的估計，某些平臺上由 AI 生成的文本比例正在上升，高達 40%。這是一個巨大的變化。許多人抱怨他們的信息流充滿了毫無靈魂的垃圾內容。還有些人甚至沒意識到自己正在閱讀無人創作的東西。

核心問題不在於人們使用 AI, 也不在於 AI 輸出的質量。並非所有用 AI 製作的內容都是垃圾，也不是所有垃圾都是 AI 製作的。問題在於當讀者的預期與現實不符時，尤其是當他們在不知情的情況下將注意力投入到背後沒有任何人類思考的內容時。這就是 Claudefishing。

Freddie deBoer 是這樣說的：

我接觸人類創作的藝術，是因為我知道背後有一個人，這正是我在尋找的 —— 其他人，通過藝術向我展示他們隱藏在自我中的東西。在這個過程中欺騙我，不過是一場騙局。

我們在 Substack 關心這個問題,是因為它觸及了我們工作的核心:為文化建立經濟引擎。這意味著幫助真實的人——那些思考、感受、觀察、爭論、實驗、考慮、掙扎、勸誡和關心的人——通過他們相信的工作賺錢。這個網絡建立在人與人之間的信任之上,這就是它有效的原因。

當無人創作的內容佔領了本應屬於人類的互聯網部分時，它汙染了公共空間，讓人難以發現和聽到人類的聲音。當讀者不得不懷疑他們正在閱讀的內容是否真實時，這會破壞對作者身份的信任，並威脅作家的生計 —— 包括那些深思熟慮地使用 AI 工具來創作他們相信的作品的人。獎勵虛假內容的平臺將引發逐底競賽。

我們正在做什麼

這是一個新興領域，我們不敢說有所有答案。但我們確實知道的一件事是，我們不想等到你的 Substack 應用變成 LinkedIn 之後才開始學習和取得進展。所以首先，我們推出了一些新工具，希望能提高透明度，併為我們徵求你的反饋打下基礎。

我們正在與領先的 AI 檢測工具 Pangram 合作。你將能夠掃描筆記、回覆、評論和帖子,查看其中有多少文本是手寫的或在 AI 輔助下完成的估計值。這將適用於從今天起發佈的超過 100 個單詞的文本,並且只會向請求查看的人顯示分析結果。

圖：Substack 與 Pangram 合作的 AI 檢測工具界面，可顯示文本由人類撰寫與 AI 輔助的比例。來源：Substack

請注意，Pangram 只能檢測是否使用了 AI 來製作文本，而不能檢測創作時是否投入了大量人類心血，也不能檢測是否使用 AI 工具作為來源。它並不完美，但獨立研究表明，它能以很高的準確度檢測 AI 生成的文本。我們相信，人們使用這樣的工具來幫助自己做出判斷是有益的。

我們還為創作者推出了工具，包括添加 "我如何創作這個" 聲明的功能，你可以在其中解釋你的流程併為讀者設定預期。你可以在發佈前對草稿運行 Pangram, 也可以舉報和刪除你認為有誤的對自己作品的任何掃描結果。

這些功能現在可以在網頁和 iOS 上使用，很快也會在 Android 上推出。這只是一個起點。根據反饋和興趣，我們正在考慮以下工具:

讓你在回覆規則中為自己的社區設置關於 AI 內容的偏好

為創作者提供更多方式來表達他們提供的個人價值，無論是通過人類寫作還是深思熟慮的 AI 使用

讓讀者可以選擇設置關於向他們推薦什麼內容的偏好

隨著 AI 加速這些問題,繼續改進我們打擊垃圾郵件、機器人和各種騙局的系統

我們並不反對人們使用 AI 來輔助工作，我們認為人們應該可以自由選擇使用哪些工具來表達自己。平臺上有些人是人類寫作最大化主義者，有些人則公開探索使用 AI 工具的前沿，同時關注細節以製作他們支持的作品。我們在 Substack 一直使用 AI 來編寫軟件、做研究，以及構建剪輯、翻譯等產品功能。

但人們應該知道他們得到的是什麼。例如，你可能不介意閱讀某人的犀利分析，其中他們嚴重依賴 AI 來呈現研究結果，但只想花時間與人類手寫的回覆互動。無論哪種方式，你都應該有選擇權。

你想看到什麼?

我們都在一起進入這個奇怪的新世界，我們想不出比公開辯論更好的方式來找出我們需要的新工具和新社會規範。我們想聽聽你的意見：Substack 如何幫助支持 AI 時代有價值的人類創作？什麼時候使用 AI 是 Claudefishing? 什麼時候是好的？

無論 AI 變得多麼強大，人類視角都是文化的基本要素，這一點將始終如此。事實上，你越期待這些工具不斷改進，理解你所閱讀內容的出處就越重要。Claude 有很多優點！但當我想要 Claude 的意見時，我會直接問 Claude。