L'IA se faisant passer pour un humain dans ses écrits pollue Internet, Substack décide de confier le pouvoir de jugement aux lecteurs.

Auteur : Chris Best

Compilation : TechFlow

Note de la rédaction TechFlow : Jusqu'à 40 % du contenu sur les réseaux sociaux est déjà généré par l'IA, mais les lecteurs ne le savent souvent pas. Substack estime que cette pratique de "Claudefishing" (se faire passer pour un humain) compromet la confiance entre lecteurs et auteurs, menaçant ainsi les moyens de subsistance des créateurs de contenu. Leur approche : laisser les lecteurs juger par eux-mêmes, plutôt que de laisser la plateforme décider à leur place.

Un Internet où le vrai et le faux sont indiscernables

Il devient de plus en plus difficile de distinguer ce qui est un contenu réel sur Internet.

Ce problème est relativement moins présent sur Substack, et nous espérons que cela restera ainsi. Dans un premier temps, nous lançons aujourd'hui une fonctionnalité en partenariat avec Pangram dans l'application Substack. Désormais, vous pourrez scanner un texte pour voir quelle part est probablement écrite à la main et quelle part est réalisée avec l'aide de l'IA. Je détaillerai cela plus tard, mais laissez-moi d'abord expliquer pourquoi c'est important.

De l'eau partout, mais rien à boire

Selon les estimations de Pangram, la proportion de texte généré par l'IA sur certaines plateformes est en hausse, atteignant jusqu'à 40 %. C'est un changement énorme. Beaucoup se plaignent que leurs flux soient remplis de contenu indésirable sans âme. D'autres ne réalisent même pas qu'ils lisent quelque chose qui n'a pas été créé par un humain.

Le problème central ne réside pas dans l'utilisation de l'IA par les gens, ni dans la qualité des sorties de l'IA. Tout le contenu créé avec l'IA n'est pas indésirable, et tout le contenu indésirable n'est pas créé par l'IA. Le problème survient lorsque les attentes des lecteurs ne correspondent pas à la réalité, surtout lorsqu'ils investissent leur attention, sans le savoir, dans un contenu derrière lequel aucune pensée humaine ne se cache. C'est cela le Claudefishing.

Voici ce que dit Freddie deBoer :

Je m'intéresse à l'art créé par des humains parce que je sais qu'il y a une personne derrière, c'est exactement ce que je cherche — d'autres personnes qui, à travers l'art, me montrent ce qu'elles cachent en elles. Me tromper dans ce processus n'est rien d'autre qu'une arnaque.

Nous nous soucions de ce problème chez Substack car il touche au cœur de notre travail : construire un moteur économique pour la culture. Cela signifie aider de vraies personnes — celles qui pensent, ressentent, observent, débattent, expérimentent, réfléchissent, luttent, exhortent et se soucient — à gagner leur vie grâce au travail auquel elles croient. Ce réseau est bâti sur la confiance entre les personnes, c'est pour cela qu'il fonctionne.

Lorsque du contenu non créé par des humains envahit la partie d'Internet qui devrait appartenir aux humains, il pollue l'espace public, rendant difficile la découverte et l'écoute des voix humaines. Lorsque les lecteurs sont contraints de douter de l'authenticité de ce qu'ils lisent, cela sape la confiance envers la paternité des œuvres et menace les moyens de subsistance des écrivains — y compris ceux qui utilisent délibérément des outils d'IA pour créer des œuvres auxquelles ils croient. Les plateformes qui récompensent le contenu faux déclencheront une course vers le bas.

Ce que nous faisons

C'est un domaine émergent, et nous n'osons pas dire que nous avons toutes les réponses. Mais une chose est sûre : nous ne voulons pas attendre que votre application Substack se transforme en LinkedIn pour commencer à apprendre et à progresser. Donc, dans un premier temps, nous lançons de nouveaux outils, dans l'espoir d'améliorer la transparence et de poser les bases pour solliciter vos retours.

Nous collaborons avec Pangram, un outil de détection d'IA de premier plan. Vous pourrez scanner des notes, des réponses, des commentaires et des publications pour voir une estimation de la part du texte écrite à la main ou réalisée avec l'aide de l'IA. Cela s'appliquera aux textes de plus de 100 mots publiés à partir d'aujourd'hui, et les résultats d'analyse ne seront affichés qu'aux personnes qui demandent à les voir.

Figure : Interface de l'outil de détection d'IA en collaboration entre Substack et Pangram, affichant la proportion de texte écrit par un humain et assisté par l'IA. Source : Substack

Veuillez noter que Pangram ne peut détecter que si l'IA a été utilisée pour produire le texte, et non si un effort humain considérable a été investi dans la création, ni si des outils d'IA ont été utilisés comme sources. Ce n'est pas parfait, mais des études indépendantes montrent qu'il peut détecter les textes générés par l'IA avec une grande précision. Nous croyons qu'il est utile que les gens utilisent de tels outils pour aider à leur propre jugement.

Nous avons également lancé des outils pour les créateurs, notamment la fonctionnalité d'ajouter une déclaration "Comment j'ai créé ceci", dans laquelle vous pouvez expliquer votre processus et définir les attentes pour les lecteurs. Vous pouvez exécuter Pangram sur les brouillons avant publication, et également signaler et supprimer tout résultat de scan sur votre propre œuvre que vous estimez erroné.

Ces fonctionnalités sont désormais disponibles sur le web et iOS, et seront bientôt lancées sur Android. Ce n'est qu'un point de départ. En fonction des retours et de l'intérêt, nous envisageons les outils suivants :

Vous permettre de définir des préférences concernant le contenu IA pour votre propre communauté dans les règles de réponse

Offrir aux créateurs plus de moyens d'exprimer la valeur personnelle qu'ils apportent, que ce soit par l'écriture humaine ou une utilisation réfléchie de l'IA

Permettre aux lecteurs de choisir de définir des préférences concernant le contenu qui leur est recommandé

Continuer à améliorer nos systèmes de lutte contre le spam, les bots et diverses escroqueries alors que l'IA accélère ces problèmes

Nous ne sommes pas contre l'utilisation de l'IA par les gens pour aider au travail ; nous pensons que les gens devraient pouvoir choisir librement quels outils utiliser pour s'exprimer. Certaines personnes sur la plateforme sont des maximalistes de l'écriture humaine, d'autres explorent ouvertement la frontière de l'utilisation des outils d'IA, tout en prêtant attention aux détails pour créer des œuvres qu'ils soutiennent. Chez Substack, nous utilisons depuis toujours l'IA pour écrire des logiciels, faire des recherches, ainsi que pour construire des fonctionnalités de produits comme le montage et la traduction.

Mais les gens devraient savoir ce qu'ils obtiennent. Par exemple, vous pourriez ne pas être gêné de lire l'analyse perspicace de quelqu'un où il s'appuie fortement sur l'IA pour présenter les résultats de la recherche, mais vouloir seulement passer du temps à interagir avec des réponses écrites à la main par des humains. De toute façon, vous devriez avoir le choix.

Que voulez-vous voir ?

Nous entrons tous ensemble dans ce nouveau monde étrange, et nous ne pouvons pas imaginer de meilleure façon que le débat public pour déterminer les nouveaux outils et les nouvelles normes sociales dont nous avons besoin. Nous voulons entendre votre avis : comment Substack peut-il aider à soutenir la création humaine de valeur à l'ère de l'IA ? Quand l'utilisation de l'IA est-elle du Claudefishing ? Quand est-ce bien ?

Quelle que soit la puissance de l'IA, la perspective humaine restera toujours un élément fondamental de la culture. En fait, plus vous vous attendez à ce que ces outils s'améliorent continuellement, plus il est important de comprendre la provenance de ce que vous lisez. Claude a beaucoup de qualités ! Mais quand je veux l'avis de Claude, je demande directement à Claude.