Manifeste open source AI de Zuckerberg : la distillation est légale, le monopole est le plus grand risque

Article par : Xiao Bing

Le 10 août, Zuckerberg a publié un long article de 6 500 mots sur le site officiel de Meta, intitulé « The Future is for Everyone » (L'avenir appartient à tous). Le même jour, Meta a open-sourcé Muse Glimmer, un modèle d'agent de 30 milliards de paramètres, sous licence Apache 2.0.

L'interprétation du FT est la suivante : Zuckerberg a de nouveau levé la bannière de l'open source tout en attaquant ses concurrents en source fermée.

Ce manifeste ne nomme explicitement aucune entreprise dans son intégralité, mais chaque paragraphe vise une cible. OpenAI, Anthropic et Google sont les laboratoires dans le texte qui « construisent l'IA pour les entreprises et les gouvernements ». Zuckerberg a brandi la bannière de l'open source : Si la superintelligence finit par être contrôlée par quelques institutions, toute l'humanité perdra.

Trois principes, une ligne directrice

La structure du manifeste est soutenue par trois principes.

L'autonomisation individuelle est la source de la prospérité. Zuckerberg a utilisé une expérience de pensée : Si une seule personne dans le monde possédait un avocat super intelligent, cette personne gagnerait toujours ses procès, même si elle avait tort. Mais si tout le monde en avait un, la justice deviendrait au contraire plus équitable. Il a étendu la même logique à la cybersécurité et à la concurrence commerciale : lorsque tout le monde peut accéder à des capacités d'IA égales, l'équilibre entre attaque et défense s'améliorera, et le cœur de la concurrence passera de qui peut accéder aux bons outils à qui les exécute le mieux.

L'invention prime sur l'automatisation. Il a rejeté le récit selon lequel « l'IA remplace les emplois humains », citant qu'avant la révolution industrielle, 90 % de la main-d'œuvre travaillait dans l'agriculture, et que la mécanisation agricole n'a pas conduit à un chômage de masse, mais a engendré de toutes nouvelles industries. Il prédit que l'IA créera de nombreuses nouvelles catégories d'emplois (studios de produits individuels, biologistes personnels), la taille des entreprises diminuera, mais le nombre d'entreprises augmentera.

L'équilibre des pouvoirs est la base de la sécurité. C'est l'argument le plus central de tout le texte : la sécurité de la superintelligence dépend du fait que plusieurs laboratoires atteignent simultanément des capacités de pointe et se contre-balancent, plutôt qu'une seule entreprise qui monopolise la technologie après avoir réalisé un alignement parfait. Il a déclaré directement : « Si la superintelligence est contrôlée par quelques individus, entreprises, gouvernements ou l'IA elle-même, cela produira naturellement des résultats défavorables à tous les autres. »

Les trois principes pointent vers la même conclusion : Plus l'IA est centralisée, plus elle est dangereuse ; plus elle est décentralisée, plus elle est sûre. Meta choisit l'open source, car l'open source sert naturellement la décentralisation.

Une lame cachée dans l'ombre

La partie vraiment tranchante du manifeste est cachée dans des formulations qui semblent douces.

« La plupart des autres laboratoires se concentrent sur la construction d'IA pour les entreprises, les gouvernements ou d'autres institutions. Si ces laboratoires dirigent l'industrie, la balance du pouvoir penchera vers les grandes institutions plutôt que vers les individus. »

Sans nommer personne, la cible est claire : La stratégie d'API entreprise d'OpenAI, les contrats gouvernementaux d'Anthropic, le contrôle fermé de Google sur Gemini. Zuckerberg estime que ces entreprises parlent de sécurité à tort et à travers, mais créent en réalité des monopoles.

Il a écrit que certaines personnes tentent de décrire la distillation comme un comportement nuisible, mais qu'il est crucial de protéger le principe selon lequel « vous pouvez apprendre de tout ce que vous pouvez observer ». Cette phrase vise directement la pratique d'OpenAI d'interdire dans ses conditions commerciales d'utiliser les sorties de ses modèles pour entraîner des modèles concurrents. Zuckerberg définit l'accès au savoir comme un droit fondamental et le blocage de la distillation comme un comportement anticoncurrentiel.

« Toute politique retardant la publication de modèles américains, même d'un seul mois, pourrait ajouter des risques significatifs à la position de leader des États-Unis, tout en permettant aux modèles étrangers de prendre rapidement de l'avance. » La cible de cette phrase est la faction de régulation de l'IA aux États-Unis. La logique de Zuckerberg est la suivante : Les modèles open source chinois ne s'arrêteront pas parce que les États-Unis se limitent eux-mêmes ; se lier les mains ne fera que céder la piste de l'open source aux autres.

Où sont les limites de l'open source

Un virage subtil est caché dans le manifeste.

Zuckerberg a toujours été le défenseur le plus bruyant de l'open source pour l'IA. Mais cet article utilise une phrase restrictive : « Nous croyons que les avantages de la superintelligence devraient être partagés avec le monde aussi largement que possible. Cela dit, la superintelligence soulèvera de nouveaux problèmes de sécurité. Nous devons atténuer strictement ces risques et rester prudents sur ce que nous choisissons d'open-sourcer. »

L'interprétation de TechCrunch est la suivante : Zuckerberg laisse une porte ouverte pour ne pas open-sourcer les modèles les plus puissants à l'avenir. La série Llama a toujours ouvert ses poids par le passé, mais si les modèles de Meta se rapprochent vraiment du niveau de superintelligence, l'open source complet pourrait ne plus être l'option par défaut.

La solution de gouvernance alternative qu'il propose est la suivante : Le conseil d'administration indépendant de Meta obtiendra le pouvoir d'approuver les normes de sécurité pour la publication des modèles et d'examiner si chaque publication est conforme aux normes. C'est un engagement institutionnel vérifiable, si Meta publie publiquement les normes de sécurité et les registres d'examen. Pour l'instant, il n'y a que des promesses, pas de détails.

Mode de confidentialité totale

Le manifeste décrit une vision future : chacun possède un agent IA personnel extrêmement puissant, qui comprend vos objectifs, préférences et tout ce qui vous tient à cœur, travaille continuellement 7x24 heures et est accessible sur n'importe quel appareil, « y compris vos lunettes ». Cela prépare le terrain pour les lunettes intelligentes Ray-Ban de Meta et le casque AR Orion.

L'engagement de confidentialité correspondant est la déclaration technique unique la plus audacieuse du texte : un mode de confidentialité totale, dans lequel même Meta ne peut pas voir ou autoriser l'accès à vos informations, directement analogue au chiffrement de bout en bout de WhatsApp.

Une entreprise qui gagne de l'argent grâce à la publicité promet de lancer un assistant IA dont elle ne peut même pas voir les données utilisateurs elle-même. Si cela est vraiment réalisé avec une architecture de chiffrement de bout en bout, ce sera une décision technique et commerciale significative. Mais le manifeste ne fournit aucun détail d'ingénierie ; pour l'instant, c'est juste une déclaration d'intention.

Fonds communautaire de 1 milliard de dollars et politique des centres de données

Un nouveau contenu est un pacte communautaire (Community Compact). Meta s'engage à investir dans chaque communauté où se trouve un centre de données, notamment en créant un fonds « L'avenir appartient à tous » de 1 milliard de dollars, en fournissant une formation technique gratuite et en réalisant une contribution positive en eau d'ici 2030 (la quantité restaurée dépasse la quantité consommée).

Il a cité l'exemple de Richland Parish en Louisiane : les enseignants locaux ont reçu un bonus de 50 000 dollars en raison de l'augmentation des taxes apportée par le centre de données Meta à proximité. Cet exemple répond au sentiment de réaction dans tous les États-Unis concernant la consommation massive d'eau et d'électricité par les centres de données d'IA.

À qui cela s'adresse-t-il ?

Ce manifeste dialogue simultanément avec trois audiences.

Aux régulateurs : ne limitez pas l'open source de l'IA aux États-Unis, les limitations ne feront qu'aider la Chine ; les problèmes de sécurité sont résolus par la décentralisation et les contre-pouvoirs, le contrôle centralisé est au contraire plus dangereux.

À la communauté des développeurs : Meta continuera à faire de l'open source, Muse Glimmer en est la preuve ; choisir l'écosystème de Meta signifie que vous ne serez pas enfermé dans l'API d'une seule entreprise.

Aux concurrents : la route en source fermée mène finalement au monopole, Meta veut transformer « qui est plus ouvert » en une nouvelle dimension de concurrence, une dimension dans laquelle OpenAI et Anthropic ne sont pas naturellement avantagés.

Sur X, le commentaire le plus courant est : c'est une stratégie concurrentielle déguisée en manifeste philosophique.

Meta est temporairement en retard sur OpenAI et Anthropic dans la course aux capacités des modèles de pointe, il a donc déplacé la piste de la concurrence de qui a le modèle le plus puissant vers qui est plus ouvert ; sur cette dernière piste, Meta a un avantage naturel.

Cependant, juger sur les actes et non sur les intentions, plus de modèles open source sont bénéfiques pour l'écosystème des développeurs, et cela ne devient pas invalide simplement parce que la motivation de Meta est la concurrence commerciale.