Le peuple a besoin d'un mauvais capitaliste, l'IA a fabriqué une rumeur sur la livraison de repas.
TechFlow SélectionTechFlow Sélection
Le peuple a besoin d'un mauvais capitaliste, l'IA a fabriqué une rumeur sur la livraison de repas.
Les fausses nouvelles peuvent se propager parce qu'elles ressemblent trop à ce que vous croyez déjà dans votre cœur.
Dédié à des analyses Web3 approfondiesRédigé par : Curry, TechFlow
Il s'est passé une chose assez surréaliste la semaine dernière.
Les PDG de deux géants américains de la livraison de repas, l'un valant 2,7 milliards de dollars, l'autre dirigeant la plus grande plateforme mondiale de VTC, n'ont pas dormi samedi à l'aube, écrivant de petits textes en ligne pour prouver leur innocence.
Tout a commencé par un post anonyme sur Reddit.
La personne qui a posté prétendait être un ingénieur backend d'une grande plateforme de livraison de repas, ivre, utilisant le WiFi public d'une bibliothèque pour révéler des informations.
Le contenu était à peu près le suivant :
L'entreprise analyserait la situation des chauffeurs VTC, puis leur attribuerait un « score de désespoir », les chauffeurs les plus en manque d'argent recevant les moins bonnes commandes ; la soi-disant priorité de livraison des repas serait fausse, les commandes normales étant retardées ; les diverses « frais de bien-être des chauffeurs » n'iraient pas du tout aux chauffeurs, mais seraient utilisés pour faire du lobbying au Congrès contre les syndicats...
La fin du post était très réaliste : je suis ivre, je suis en colère, donc je révèle.
Se positionnant parfaitement comme un lanceur d'alerte sur « les grandes entreprises utilisant des algorithmes pour exploiter les chauffeurs ».
Trois jours après sa publication, le post a obtenu 87 000 likes et est arrivé en tête de la page d'accueil de Reddit. Certains l'ont également partagé en capture d'écran sur X, atteignant 36 millions d'impressions.
Il faut savoir que le marché américain de la livraison de repas ne compte que quelques grands acteurs. Le post ne les nommait pas, mais tout le monde devinait de qui il s'agissait.
Tony Xu, le PDG de DoorDash, n'a pas tenu le coup le premier, tweetant que ce n'était pas leur fait, et qu'il licencierait quiconque oserait faire une telle chose. Le COO d'Uber est également intervenu, déclarant : « Ne croyez pas tout ce que vous voyez en ligne. »
DoorDash a même publié une déclaration en cinq points sur son site officiel, réfutant point par point les allégations de la révélation. Ces deux entreprises, dont la capitalisation boursière combinée dépasse 80 milliards de dollars, ont été obligées de faire des clarifications de relations publiques en urgence à cause d'un post anonyme.
Ensuite, ce post s'est avéré être fabriqué par l'IA.
C'est le journaliste Casey Newton du média technologique américain Platformer qui l'a démasqué.
Il a contacté la personne à l'origine de la révélation, qui lui a immédiatement envoyé un « document technique interne » de 18 pages, au titre très académique : « AllocNet-T: High-Dimensional Temporal Supply State Modeling ».
Traduit approximativement par « Modélisation de l'état d'offre temporelle en haute dimension ». Chaque page portait un filigrane « confidentiel », signé par le « Département d'économie comportementale du Groupe Dynamique de Marché » d'Uber.
Le contenu expliquait précisément comment fonctionnait le modèle attribuant un « score de désespoir » aux chauffeurs mentionné dans le post Reddit. Il y avait des diagrammes d'architecture, des formules mathématiques, des flux de données...
(Capture d'écran d'un faux article, à première vue, cela semblait réel)
Newton a déclaré que ce document l'avait trompé au début. Qui prendrait la peine de falsifier un document technique de 18 pages pour piéger un journaliste ?
Mais maintenant, c'est différent.
Ce document de 18 pages peut être généré en quelques minutes avec l'IA.
Simultanément, le lanceur d'alerte a également envoyé au journaliste une photo floutée de son badge d'employé Uber, prouvant qu'il y travaillait bien.
Par curiosité, le journaliste Newton a soumis le badge à Google Gemini pour vérification, et Gemini a indiqué que l'image était générée par IA.
La raison pour laquelle cela a pu être détecté est que Google a intégré un filigrane invisible, appelé SynthID, dans le contenu généré par son IA, invisible à l'œil nu mais détectable par machine.
Plus absurde encore, le badge portait le logo « Uber Eats ».
Un porte-parole d'Uber a confirmé : nous n'avons pas de badges d'employé de la marque Uber Eats, tous les badges portent uniquement le logo Uber.
De toute évidence, ce faux lanceur d'alerte n'avait même pas compris qui il voulait dénoncer. Lorsque le journaliste a demandé des informations sur les comptes de réseaux sociaux comme LinkedIn pour vérification supplémentaire,
le lanceur d'alerte a directement supprimé son compte et a disparu.
En réalité, ce dont nous voulons parler n'est pas que l'IA puisse fabriquer du faux, ce n'est pas nouveau.
Ce dont nous voulons vraiment parler, c'est : pourquoi des dizaines de millions de personnes sont-elles prêtes à croire un post de révélation anonyme ?
En 2020, DoorDash a été poursuivi pour avoir utilisé les pourboires pour compenser le salaire de base des chauffeurs et a payé 16,75 millions de dollars d'indemnités. Uber a développé un outil appelé Greyball pour échapper spécifiquement à la régulation. Ce sont des faits réels.
Il est facile de trouver une identification subconsciente, à savoir : les plateformes ne sont pas des anges, ce jugement est infaillible.
Ainsi, lorsque quelqu'un dit « l'algorithme des plateformes de livraison de repas exploite les chauffeurs », la première réaction des gens n'est pas « est-ce vrai ? », mais « effectivement, c'est bien le cas ».
Les fausses nouvelles peuvent se propager parce qu'elles ressemblent à ce que les gens croient déjà dans leur cœur.
Ce que fait l'IA, c'est réduire le coût de cette « ressemblance » à presque zéro.
Il y a un autre détail dans cette histoire.
Le démasquage de l'arnaque a reposé sur la détection de filigrane de Google. Google développe de l'IA, Google développe aussi des outils de détection de l'IA.
Mais SynthID ne peut détecter que l'IA de Google elle-même. Cette fois, ils ont pu l'attraper parce que le faussaire a utilisé Gemini par hasard. Avec un autre modèle, ils n'auraient peut-être pas eu cette chance.
Ainsi, la résolution de cette affaire est moins une victoire technique que :
l'adversaire a commis une erreur grossière.
Auparavant, une enquête de Reuters indiquait que 59 % des personnes craignaient de ne pas pouvoir distinguer le vrai du faux en ligne.
Les tweets de clarification des PDG des entreprises de livraison de repas ont été vus par des centaines de milliers de personnes, mais combien croient fermement qu'il s'agit de relations publiques, de mensonges ? Bien que le faux post de révélation ait été supprimé, des personnes continuent de critiquer les plateformes de livraison de repas dans les commentaires.
Le mensonge a déjà parcouru la moitié du globe, tandis que la vérité est encore en train de lacer ses chaussures.
Réfléchissez-y, si ce post ne parlait pas d'Uber, mais de Meituan ou d'Ele.me ?
Des choses comme « score de désespoir », « utiliser des algorithmes pour exploiter les livreurs », « les frais de bien-être ne vont pas du tout aux livreurs ». En voyant ces accusations, votre première réaction n'est-elle pas une identification émotionnelle ?
« Les livreurs de repas, piégés dans le système », vous vous souvenez de cet article ?
Le problème n'est donc pas de savoir si l'IA peut fabriquer du faux. Le problème est que, lorsqu'un mensonge ressemble à ce que les gens croient déjà depuis longtemps dans leur cœur, est-ce que la vérité importe encore ?
La personne qui a supprimé son compte et a disparu, ce qu'elle cherchait, on ne sait pas.
On sait seulement qu'elle a trouvé une sortie émotionnelle et y a versé un seau de carburant généré par IA.
Le feu s'est déclaré. Quant à savoir si le bois brûlé est vrai ou faux, qui s'en soucie ?
Dans les contes, Pinocchio voit son nez s'allonger quand il ment.
L'IA n'a pas de nez.
Bienvenue dans la communauté officielle TechFlow
Groupe Telegram :https://t.me/TechFlowDaily
Compte Twitter officiel :https://x.com/TechFlowPost
Compte Twitter anglais :https://x.com/BlockFlow_News
深潮TechFlow
