AI が人間になりすました執筆がインターネットを汚染している中、Substack は判断権を読者に委ねることを決定した

著者：Chris Best

翻訳：TechFlow

TechFlow 編集部注：ソーシャルメディア上のコンテンツの最大 40% はすでに AI 生成ですが、読者はしばしばそれに気づいていません。Substack は、この「Claudefishing」（人間による執筆を装うこと）が読者と著者の間の信頼を破壊し、コンテンツクリエイターの生計を脅かしていると考えています。彼らの対応策は、プラットフォームが代わりに決定するのではなく、読者自身に判断させることです。

真偽が区別しにくいインターネット

現在、インターネット上で何が本物のコンテンツなのかを区別するのはますます難しくなっています。

この問題は Substack では比較的低く抑えられており、私たちはこの状態を維持したいと考えています。第一歩として、本日 Substack アプリにおいて Pangram と協力し、新機能をリリースしました。今後、テキストをスキャンして、どれくらいが手書きで、どれくらいが AI 支援によって作成されたかを確認できるようになります。後で詳しく説明しますが、まずなぜこれが重要なのかを説明させてください。

水はあふれているが、飲める水滴はない

Pangram の推計によると、一部のプラットフォームでは AI 生成テキストの割合が上昇しており、最大 40% に達しています。これは大きな変化です。多くの人が、自分のフィードが魂のないゴミコンテンツで溢れていると不満を漏らしています。さらに、自分が無人によって作成されたものを読んでいることにさえ気づいていない人もいます。

核心的な問題は、人々が AI を使用することでも、AI の出力の質でもありません。AI で作成されたコンテンツがすべてゴミというわけではなく、すべてのゴミが AI で作成されたわけでもありません。問題は、読者の期待と現実が一致しない場合、特に、背後に人間の思考が何もないうえに、読者が知らないうちに注意を向けてしまった場合に発生します。これが Claudefishing です。

Freddie deBoer はこう言っています：

私が人間によって創作された芸術に触れるのは、その背後に一人の人間がいることを知っているからであり、それはまさに私が求めているものです——他の人々が、芸術を通じて彼らの内面に隠されたものを私に示すことです。この過程で私を欺くことは、単なる詐欺に過ぎません。

私たちが Substack でこの問題を重視するのは、それが私たちの仕事の核心に触れるからです。それは文化のための経済エンジンを構築することです。これは、思考し、感じ、観察し、議論し、実験し、考慮し、苦闘し、勧告し、そして気にかける人々——本物の人間——を助けることを意味します。彼らが信じる仕事を通じて収益を得られるようにすることです。このネットワークは人と人の間の信頼の上に築かれており、それが機能する理由なのです。

無人によって作成されたコンテンツが本来人間に属すべきインターネットの部分を占領すると、それは公共空間を汚染し、人間の声を発見し聞くことを難しくします。読者が自分が読んでいるコンテンツが本物かどうかを疑わざるを得なくなると、著者性への信頼が損なわれ、作家の生計を脅かします——AI ツールを深思熟慮して使用し、彼らが信じる作品を創作する人々を含めて。虚偽のコンテンツに報酬を与えるプラットフォームは、底辺への競争を招きます。

私たちが行っていること

これは新興分野であり、すべての答えを持っているとは言えません。しかし、確かに知っていることは一つあります。それは、皆さんの Substack アプリが LinkedIn のようになってから学び進歩し始めたいとは思っていないということです。そこでまず、透明性を高め、皆さんのフィードバックを求める基盤を築くことを目的とした新しいツールをいくつかリリースしました。

私たちは主要な AI 検出ツールである Pangram と協力しています。ノート、返信、コメント、投稿をスキャンして、そのテキストのどれくらいが手書きで、どれくらいが AI 支援によって作成されたかの推定値を確認できるようになります。これは本日時点で公開された 100 語以上のテキストに適用され、分析結果は閲覧をリクエストした人のみに表示されます。

図：Substack と Pangram が協力する AI 検出ツールのインターフェース。テキストが人間によって書かれたものと AI 支援によるものの割合を表示できます。出典：Substack

なお、Pangram はテキストの作成に AI が使用されたかどうかのみを検出でき、創作時に多大な人間の努力が投入されたかどうかや、AI ツールがソースとして使用されたかどうかは検出できません。これは完璧ではありませんが、独立した研究によると、AI 生成テキストを非常に高い精度で検出できます。私たちは、人々がこのようなツールを使用して自分で判断を下すのに役立つと信じています。

また、クリエイター向けのツールもリリースしました。これには「どのようにこれを創作したか」という声明を追加する機能が含まれており、そこでプロセスを説明し、読者の期待を設定できます。公開前にドラフトに対して Pangram を実行することも、自分の作品に対するスキャン結果で誤っていると思われるものを報告および削除することもできます。

これらの機能は現在ウェブと iOS で利用可能で、まもなく Android でもリリースされます。これはあくまでスタート地点です。フィードバックと関心に基づき、以下のツールを検討しています：

返信ルールで自分のコミュニティに関する AI コンテンツの設定をできるようにする

人間による執筆であれ、深思熟慮された AI の使用であれ、クリエイターが提供する個人的な価値を表現するためのより多くの方法を提供する

読者に、自分におすすめされるコンテンツに関する設定を選択できるようにする

AI がこれらの問題を加速させるにつれ、スパム、ボット、さまざまな詐欺に対抗するシステムを継続的に改善する

私たちは人々が仕事を支援するために AI を使用することに反対ではありません。人々が自分を表現するためにどのツールを使用するかを自由に選択できるべきだと考えています。プラットフォームには人間執筆最大化主義者もいれば、AI ツールの使用の最前線を公然と探求し、彼らが支持する作品を制作するために細部まで注意を払う人々もいます。私たちは Substack で常に AI を使用してソフトウェアを書き、研究を行い、クリップ、翻訳などの製品機能を構築しています。

しかし、人々は自分が何を得ているのかを知るべきです。例えば、研究結果を提示するために AI に大きく依存した某人の鋭い分析を読むことは気にならないが、人間が手書きした返信とのやり取りにのみ時間を費やしたいと思うかもしれません。どちらの場合でも、あなたには選択権があるべきです。

あなたは何を見たいですか？

私たちは皆一緒にこの奇妙な新世界に入っており、必要な新しいツールと新しい社会規範を見つけるために、公開討論より良い方法は考えつきません。皆さんの意見を聞きたいです。Substack はどのようにして AI 時代の価値ある人間による創作をサポートできるでしょうか？いつ AI を使用することは Claudefishing になりますか？いつは良いのでしょうか？

AI がどれほど強力になろうとも、人間の視点は文化の基本要素であり、これは常に真実です。実際、これらのツールが改善され続けることを期待すればするほど、自分が読んでいるコンテンツの出所を理解することは重要になります。Claude には多くの長点があります！しかし、私が Claude の意見を欲しいときは、直接 Claude に尋ねます。