Sora atteint le statut de « dieu », mais l'IA en pleine accélération deviendra-t-elle un « dieu céleste » ou un « démon » ?
TechFlow SélectionTechFlow Sélection
Sora atteint le statut de « dieu », mais l'IA en pleine accélération deviendra-t-elle un « dieu céleste » ou un « démon » ?
Web3 est une forêt obscure, l'IA ressemble davantage à la boîte de Pandore ; il faut rester plus calme et étudier de manière plus complète pour comprendre leur avenir.
Dédié à des analyses Web3 approfondiesRédaction : Bowen, Salon Bailu
L'essor de Sora a atteint les chaînes nationales chinoises.
Des êtres humains aux animaux, des terres émergées aux fonds marins, des paysages naturels grandioses aux rues animées et fréquentées, des véhicules réalistes en pleine course aux univers cyberpunk imaginatifs. Si Sora continue sur cette lancée, l'ère du cinéaste à la portée de tous ne sera plus très loin.
Après ChatGPT, qui a remis en question à lui seul les métiers de journaliste, traducteur ou programmeur, voici que Sora surgit à nouveau, assenant un coup dur au secteur de la photographie, du montage vidéo, des effets spéciaux, voire même aux acteurs eux-mêmes. L'intelligence artificielle (IA) risque-t-elle d'éliminer des millions de professionnels en quelques années ? Chaque fois que j’y pense, moi-même j’en frissonne.
En réalité, si l'on collecte minutieusement toutes les informations relatives à l'IA, on constate qu'elle n'affecte pas seulement les emplois « de bureau ». Médecine et biotechnologie, conduite autonome, prévisions météorologiques, voire opérations militaires : l'IA s'est déjà immiscée dans tous les aspects de la vie humaine.
Une floraison de scénarios d’application de l’IA
Les applications génératives d’IA sont aujourd’hui les plus connues. Outre le phénomène Sora, Bard, DALL-E et Runway méritent également une attention particulière.
En février dernier, Google a annoncé que son modèle d’intelligence artificielle « Bard » changerait de nom pour devenir « Gemini ». Il s'agit d'un modèle multimodal capable de comprendre et de combiner différents types d'informations telles que texte, code, audio, images et vidéos. Actuellement, Bard peut générer rapidement une nouvelle ou un poème à partir de quelques mots-clés saisis par l'utilisateur.
Ce qui fait peur, c’est que Bard ait parcouru en quelques mois quasiment tout le contenu disponible sur Internet. Grâce à son modèle linguistique interne, il produit des poèmes bien supérieurs à ceux écrits par la plupart des gens.
DALL-E excelle dans la création artistique. Après avoir appris à partir de plus de 600 millions d’images, DALL-E est désormais capable de comprendre précisément les objets individuels ainsi que leurs relations mutuelles, et de produire des œuvres artistiques à partir de simples descriptions textuelles. Quant à Runway, il se spécialise dans les effets visuels : avec le soutien de l’IA, le coût d’ajout de « post-production haut de gamme » aux films va considérablement baisser.
La génération de contenu n’est qu’un petit aperçu de ce que permet l’IA. Ses autres usages sont encore plus impressionnants. Le 29 janvier, Elon Musk a déclaré que sa société d’interface cerveau-machine, Neuralink, avait réalisé avec succès la première transplantation humaine d’un dispositif d’interface cerveau-machine. Le patient se porte bien, et l’IA est désormais synchronisée avec son cerveau.
Le 30 janvier, le site officiel de l’Université Tsinghua a annoncé que son équipe de recherche sur les interfaces cerveau-machine, en collaboration avec l’hôpital Xuanwu de l’Université médicale de Pékin, avait mené avec succès, dès octobre 2023, le premier essai clinique mondial d’une interface cerveau-machine sans fil et mini-invasive. Avec l’aide de l’IA, un patient tétraplégique depuis 14 ans a pu, après trois mois d’entraînement, retrouver des fonctions comme la prise d’objets ou boire de l’eau.
La FDA américaine a déjà approuvé environ 420 algorithmes utilisant l’IA en imagerie médicale pour le traitement du cancer. L’exactitude de ces algorithmes atteint actuellement entre 80 % et 90 %.
Des robots « compagnons de conduite » testés en Inde, un modèle météorologique géant développé par Huawei Cloud et mis en ligne sur le site européen de prévision météorologique à moyen terme… À ce rythme, dans le futur, nous n’aurons plus besoin de discuter de l’IA, car elle sera partout, totalement intégrée à notre quotidien.
Parallèlement au progrès technologique, les controverses progressent aussi
Le développement technologique reste toujours un double tranchant. En ce qui concerne l’IA, les questions de droits d’auteur liées au contenu généré, ainsi que celles de fraude, sont désormais monnaie courante. Les œuvres créées par IA doivent-elles être protégées par le droit d’auteur ? En cas de problème, qui est responsable ? Comment régler cela ? Ces questions ont donné lieu à des débats intenses sur la régulation.
Dès 2018, l’informaticien Stephen Thaler avait mis au point un système d’intelligence artificielle appelé DABUS, grâce auquel il créa une œuvre artistique intitulée « A New Entry to Paradise ». Après avoir attiré l’attention, Thaler demanda activement des brevets dans plusieurs pays, dont les États-Unis, le Royaume-Uni, l’Afrique du Sud, l’Australie et l’Arabie Saoudite.
Cependant, le Bureau américain des droits d’auteur n’était pas intéressé, affirmant que la loi sur le droit d’auteur ne protège que les œuvres créées par des êtres humains, et qu’il est difficile d’évaluer la contribution humaine dans les contenus générés par IA. Les juges ont suivi cette position : « Selon une tradition établie depuis des siècles, l’auteur doit être un être humain, condition fondamentale du droit d’auteur. »
Mais Stephen Thaler n’a pas baissé les bras : « La loi ne précise pas explicitement que l’auteur doit être humain. La Constitution américaine encourage la protection du droit d’auteur afin de promouvoir le progrès scientifique et artistique. Le concept de droit d’auteur pour les créations d’IA s’inscrit parfaitement dans cet objectif. »
De telles questions n’ont pas de réponse unique. Prenons un exemple survenu en Chine. En février 2023, Li Yunkai souhaitait créer un portrait féminin photoréaliste dans une lumière crépusculaire. Il saisit donc dans le modèle Stable Diffusion des termes descriptifs tels que « photo ultra-réaliste », « photo en couleur », sujet « idole japonaise », avec des détails précis sur l’état de la peau, la couleur des yeux et des tresses, l’environnement « extérieur », « heure dorée », « éclairage dynamique », la pose « stylée », « regard vers la caméra », le style « texture film », « simulation pellicule », ainsi que certains paramètres techniques. Après avoir ajusté les mots-clés et réglé les paramètres selon les premières images générées, il sélectionna finalement une photo de portrait féminin à mi-corps qui lui convenait. Il publia ensuite cette image sur la plateforme Xiaohongshu.
En mars 2023, l’accusé Liu Mou utilisa cette image dans un article intitulé « L’amour de mars, dans les fleurs de pêcher », ajoutant en bas de page : « Texte original, matériaux provenant du réseau – suppression et excuses en cas de violation ». Li Yunkai intenta alors une action en justice devant le tribunal internet de Pékin, demandant à Liu de publier des excuses sur son compte et de lui verser 5 000 yuans de dommages et intérêts.
Le 27 novembre 2023, le premier procès chinois concernant une infraction impliquant une image générée par IA rendit son verdict en première instance. Le tribunal a reconnu que l’image litigieuse, générée par un grand modèle d’IA, constituait une œuvre graphique au sens de la loi sur le droit d’auteur, et que le plaignant en détenait les droits. Toutefois, le tribunal a maintenu une approche « anthropocentrique » dans la reconnaissance des auteurs, précisant clairement que « les modèles génératifs d’intelligence artificielle ne possèdent pas de libre arbitre et ne sont pas des sujets juridiques. Par conséquent, lorsqu’une personne utilise un modèle d’IA pour générer une image, il n’existe pas de question de déterminer entre deux entités qui est le véritable créateur. » Le tribunal a souligné qu’en dernière analyse, c’est l’humain qui utilise un outil pour créer, et que c’est lui qui apporte l’investissement intellectuel tout au long du processus créatif, et non le modèle d’IA.
Pourtant, on peut se demander si ce jugement respecte réellement la loi. La loi chinoise sur le droit d’auteur stipule clairement que « l’auteur d’une œuvre est le personne physique qui l’a créée ». Si cette disposition était strictement appliquée, les contenus générés par IA ne seraient pas des œuvres et ne devraient pas bénéficier de droits d’auteur.
L’IA deviendra-t-elle un « dieu » ou un « démon » ?
Les controverses autour du droit d’auteur ne sont que la partie la plus facile à résoudre ; des lois et réglementations plus claires peuvent suffire à offrir une protection adéquate. Mais les problèmes plus complexes sont bien plus difficiles à affronter : la fraude, les erreurs causées par une mauvaise interprétation de l’IA, et surtout, notre plus grande crainte : que faire si l’IA prenait conscience d’elle-même ?
En février 2024, selon des médias hongkongais, Hong Kong a été le théâtre d’une vaste escroquerie utilisant la technologie AI « Deepfake », impliquant un montant de 200 millions de dollars HK, la perte la plus lourde jamais subie à Hong Kong à cause de la technique du « deepfake », et la première affaire impliquant un faux visuel d’IA avec plusieurs personnes simultanément.
Selon les faits rapportés, la victime était un employé d'une succursale hongkongaise d'une entreprise multinationale. Début janvier, il reçut un message du directeur financier du siège britannique affirmant vouloir mener une transaction confidentielle, invitant plusieurs employés financiers de l’entreprise à une vidéoconférence à plusieurs participants. Convaincu par l’apparence fidèle des interlocuteurs, l’employé effectua 15 virements successifs, totalisant 200 millions de dollars HK vers cinq comptes bancaires locaux. Ce n’est qu’après avoir contacté le siège qu’il réalisa qu’il avait été trompé.
D’après les informations disponibles, les escrocs ont utilisé des vidéos publiques de l’entreprise sur YouTube et d’autres sources médiatiques accessibles au public pour reproduire fidèlement l’apparence et la voix des cadres dirigeants britanniques, puis ont recouru à la technologie Deepfake (faux profond) pour fabriquer une vidéo simulée d’une conférence à plusieurs participants. Pourtant, durant cette vidéoconférence, seul l’employé victime était une personne réelle.
Étant donné qu’il s’agissait d’une vidéo préenregistrée, les participants virtuels ont principalement donné des ordres hiérarchiques à l’employé. Celui-ci n’a eu aucune chance d’interagir librement avec les autres participants. La vidéoconférence ne lui a demandé qu’une brève présentation personnelle, après quoi les escrocs ont mis fin à la réunion, continuant ensuite à lui donner des instructions via un logiciel de messagerie instantanée.
Les fraudes par IA ont également affecté les élections. Le 23 janvier, lors des primaires républicaines pour l’élection présidentielle américaine 2024 dans le New Hampshire, de nombreux électeurs américains ont déclaré avoir reçu un appel téléphonique « du président Biden », commençant par ses expressions typiques, leur recommandant de ne pas voter pour Trump, mais plutôt de garder leur vote pour le parti démocrate aux élections générales en novembre.
Plus inquiétant encore, l’usage abusif de cette technologie s’étend désormais aux questions militaires. En novembre 2023, l’armée israélienne a déclaré dans un communiqué utiliser un système d’IA dans ses opérations à Gaza pour « générer rapidement des cibles ». Cette technologie a permis de passer de 50 cibles par an à 100 par jour, multipliant par plusieurs centaines l’efficacité de l’armée israélienne dans l’identification des objectifs à attaquer. Cependant, les pertes humaines dans la bande de Gaza ont augmenté en parallèle, de manière troublante. Ce système d’IA porte d’ailleurs le nom ironique de « Gospel » (« Évangile »).
Or, selon une enquête du média indépendant « +972 Magazine », le système « Gospel » utilisé par Israël privilégie la quantité à la qualité dans le choix des cibles, définit très largement les objectifs militaires, et attaque également des civils présents dans des infrastructures civiles. Des rapports ont ainsi indiqué qu’une résidence entière a été bombardée par l’IA afin d’éliminer un seul combattant du Hamas.
Ce qui est encore plus préoccupant, c’est que l’utilisation de l’IA sur le champ de bataille étant difficile à définir juridiquement, il devient presque impossible d’intervenir pour l’arrêter. Si l’IA venait à être pleinement intégrée aux armes modernes, les conséquences d’une erreur de ciblage pourraient être massives et inimaginables.
Conclusion
Sora suscite stupéfaction et enthousiasme. Mais selon moi, une transformation de productivité d’un niveau comparable à celui de la Révolution industrielle exige avant tout calme et lucidité. L’industrie de l’IA recèle certes d’immenses opportunités, mais derrière chaque percée technologique se cachent des questions cruciales : l’application est-elle viable ? Est-elle maîtrisable ? Quel rôle jouera la régulation ? Y a-t-il des failles graves ? Le Web3 est une forêt obscure, mais l’IA ressemble davantage à la boîte de Pandore. Seule une étude plus froide, plus complète et plus durable permettra d’entrevoir l’avenir de cette industrie.
Bienvenue dans la communauté officielle TechFlow
Groupe Telegram :https://t.me/TechFlowDaily
Compte Twitter officiel :https://x.com/TechFlowPost
Compte Twitter anglais :https://x.com/BlockFlow_News
