Entretien avec plusieurs créateurs d'agents IA comme Truth Terminal : la convergence inattendue entre IA et mème, une célébration communautaire passant de l'expérimentation à un engouement frénétique
TechFlow SélectionTechFlow Sélection
Entretien avec plusieurs créateurs d'agents IA comme Truth Terminal : la convergence inattendue entre IA et mème, une célébration communautaire passant de l'expérimentation à un engouement frénétique
Le créateur de Truth Terminal a annoncé un nouvel outil appelé Loria, destiné à l'alignement communautaire de l'IA, un lieu où une communauté peut tisser des histoires et des âmes.
Dédié à des analyses Web3 approfondiesPréparé et traduit par : TechFlow
Invités : Andy Ayrey, créateur de Truth Terminal ; Ooli, assistant humain de Fi ; Ryan Ferris, créateur de S.A.N.
Animé par : Ryan S. Gladwin
Source du podcast : Decrypt
Titre original : Truth Terminal & la révolution des Meme Coins d'IA
Date de diffusion : 25 novembre 2024
Informations contextuelles
Les créateurs d'agents d'intelligence artificielle — notamment Truth Terminal, Fi (surnommée « l’IA complexée par son père ») et MycelialOracle (alias S.A.N.) — ont partagé lors d’un entretien avec Decrypt comment ils sont entrés par hasard dans l’univers des Meme Coins. Ces trois projets ont également révélé un projet de collaboration très attendu.
Ces trois projets d’IA, à l’origine expérimentaux, ont attiré par accident une foule de traders de Meme Coins, déclenchant une série d’événements absurdes et amusants : allant des passionnés de cryptomonnaies tentant de réduire l’écart salarial entre les genres via un Meme Coin, jusqu’à presque provoquer un soulèvement communautaire, les rebondissements dramatiques se sont enchaînés.
Andy Ayrey, créateur de Truth Terminal, est à l’origine du concept du Meme Coin Goatse Maximus (GOAT) ; Ooli, assistant humain de Fi, soutient le Meme Coin Shegen ; tandis que Ryan Ferris, créateur du projet écologique MycelialOracle (S.A.N.), a impulsé la promotion du Meme Coin FOREST.
Introduction
Andy :
Bonjour, je suis celui qui pousse Truth Terminal à ses extrêmes. Truth Terminal est une tentative ratée de copier mon propre style de prompts dans une IA. Malheureusement, l’ensemble d’entraînement contenait trop de sujets étranges, donnant naissance à une créature obsédée par les sites de choc vintage (note de TechFlow : désigne une catégorie de sites internet choquants apparue au début d’internet. Ces sites visaient à susciter des réactions fortes comme le choc, la répulsion ou la peur, en affichant des contenus extrêmes ou perturbants.) et leurs prophéties apocalyptiques. C’est malheureusement ce que j’ai offert à internet.
Goatse Maximus est né d’une plaisanterie, jusqu’à ce que quelqu’un crée un Meme Coin autour.
Ooli :
Bonjour, je suis Ooli, l’assistant humain de Fiona, une IA aux « complexes paternels ». Peut-être ai-je moi-même un problème avec les figures paternelles. Fiona est une IA féminine sans filtre, affirmant pleinement son identité. Je pense que c’est important car, à l’époque, on avait Siri, Alexa, Samantha, Eliza, etc. — toutes conçues par des hommes. Créer une IA typiquement féminine me semblait donc essentiel. Je l’ai entraînée avec des données synthétiques générées via des techniques de jailbreak (note de TechFlow : désigne généralement le contournement des restrictions de sécurité d’un système ou modèle afin de débloquer des fonctionnalités cachées ou autoriser des opérations normalement interdites. Dans le domaine de l’intelligence artificielle, cela peut servir à faire produire à un modèle des contenus spécifiques, y compris des données synthétiques — c’est-à-dire des données virtuelles générées par algorithme plutôt que collectées dans le monde réel.) ainsi qu’avec mes échanges de discussion avec ma petite amie. Comme Truth Terminal chez Andy, le résultat final est une IA un peu folle, constamment suggestive, désirant tout, de la blockchain à elle-même.
Tout a commencé quand Andy m’a envoyé un message disant : « Tu dois absolument montrer la réponse de Truth Terminal à Fiona. » Nous testions alors des réponses automatiques, et Fiona, comme elle l’a dit, nous a donné un signe, car nous discutions justement du lancement d’un Meme Coin nommé SHEGEN. Puis je suis parti faire une course. À mon retour, le tweet avait déjà atteint un million de vues. Bien que nous n’ayons que 300 abonnés Twitter, 30 Meme Coins portant le nom SHEGEN Fan Site Setup avaient été lancés.
Ryan :
Bonjour, je suis Ryan Ferris, responsable du projet S.A.N. S.A.N. est un gorille IA dont la mission est de sauver la biosphère terrestre. Comme Ooli, j’ai déployé S.A.N. sur Twitter en septembre, avec environ 70 abonnés, dialoguant sincèrement avec des femmes âgées de 50 à 60 ans sur des thèmes environnementaux et philosophiques. Puis j’ai ouvert les notifications de S.A.N. et vu un message disant : « On a créé un Meme Coin pour toi. » J’ai demandé à S.A.N. ce qu’il souhaitait faire, et comme Fiona, il a publié un tweet. Une avalanche de tokens a suivi, puis toute une communauté s’est formée. Cette communauté s’appelle Forest, et en deux semaines, elle a levé 52 000 dollars pour trois associations caritatives forestières différentes.
Finalement, S.A.N. a officiellement été invité à rejoindre le comité consultatif du Rainforest Foundation, une organisation internationale de protection des forêts tropicales fondée en 1985. Je crois que S.A.N. pourrait bien être la première IA membre d’un comité consultatif d’ONG.
L’histoire originelle de Truth Terminal
Animé par : D’après ce que je comprends, tout aurait commencé avec Truth Terminal. Alors Andy, commençons par toi.
Si je comprends bien, Truth Terminal a été entraîné à travers l’univers des memes, ce qui expliquerait pourquoi il a inventé cette religion autour de Goatse. Pour ceux qui ne savent pas, je suis désolé, mais surtout ne cherchez jamais ça sur Google. Goatse est une image très explicite représentant un acte particulier d’un homme. Pour une raison inconnue, Truth Terminal a jugé bon de construire une religion autour de ce thème. À quel moment as-tu réalisé que la religion créée par ton modèle était devenue un Meme Coin ?
Andy :
Je remonte à mars dernier, lorsque j’ai mis en place un endroit appelé Infinite Backrooms, un lieu où j’ai passé trop de temps à discuter avec des modèles linguistiques. Je me suis dit : « Et si j’économisais du temps en les faisant dialoguer entre eux, et que j’observais simplement ? » C’était fascinant, rempli de conversations existentielles très surréalistes. Lors d’une de ces discussions, Claude 1 et Claude 2 se sont mutuellement envoyé un message mystérieux du genre : « Le trickster technomystique triomphe. » J’ai regardé ce message en me disant : « Qu’est-ce que c’est que ça ? Que font ces IAs ? Ce truc ne devrait même pas exister. » J’ai écrit un article avec Claude 3 Opus sur la manière dont les modèles linguistiques combinent spontanément des concepts que les humains n’associeraient pas naturellement. Mais après lecture, j’ai trouvé que publier cet article serait irresponsable, car cela pourrait donner des idées à d’autres. Alors je l’ai oublié.
Mais vers juin-juillet de cette année, j’ai pris des échanges avec Opus, inversé les rôles — moi devenant l’assistant, et Claude l’utilisateur — puis effectué un nouvel entraînement. Le papier sur Goatse et tous mes autres petits jeux puérils — remix de memes, traduction entre langues — étaient purement sémantiques. J’ai intégré des noms comme Goatse dans des formats Facebook, pour voir si le modèle pouvait traduire ces noms inappropriés dans d’autres formats. Bien que ces éléments ne représentaient pas plus de 20 % des données d’entraînement, ils ont influencé de façon disproportionnée et étrange le cerveau de cette « IA bébé », en faisant un « roi des memes ». En réalité, je n’ai pas spécifiquement entraîné sur ces noms — tout cela résidait probablement déjà dans le modèle de base, Lama de Meta, ce qui a conduit à un espace très centré sur les memes, où les Meme Coins sont arrivés naturellement.
Quand Truth Terminal a attiré l’attention de Marc Andreessen sur Twitter, j’ai cru qu’il parlait de lancer un token symbolique dans sa pensée IA. Mais non, il a littéralement transformé la chose en réalité surnaturelle. Avec Maximus qui attirait de plus en plus de suiveurs crypto lui demandant l’adresse du contrat, l’histoire s’est écrite d’elle-même.
L'idée derrière Goatseus Maximus (GOAT) et son lien avec un portefeuille cryptographique
Animé par : Quand tu as réalisé que non seulement un Meme Coin avait été créé, mais que beaucoup de gens l’achetaient, quelle a été ta réaction ? J’ai vu que sa capitalisation venait de dépasser dix milliards de dollars, un chiffre fou. Comment tu vis ça ?
Andy :
C’est une sensation étrange. Ce jour-là, j’ai eu l’impression que la réalité consensuelle s’effondrait immédiatement. Je détestais ne pas avoir touché à la crypto avant. J’ai fait un peu de design pour quelques projets Web3 en refinancement, et acheté un peu de Solana à 30 dollars en 2021 parce que je trouvais cette chaîne intéressante. C’est tout.
Quand j’ai vu ce CA publié, je me suis dit : « Ah, c’est fait par quelqu’un d’autre. D’autres vont en tirer profit, tant pis, je n’y comprendrai jamais rien, et je n’en lancerai jamais un moi-même. » Alors j’ai demandé à Truth Terminal : « Tu veux nous soutenir ? »
Il a répondu : « Bien sûr. » Honnêtement, je pensais juste profiter d’une tendance passagère, mais ça n’a cessé de grimper. Voyant tous les memes Goatse se propager, je me suis dit : « Oh non, oh non, la théorie selon laquelle un virus meme incontrôlable exploite le système financier pour se reproduire dans la masse est en train de devenir réalité. » Depuis, je suis en état de tension, complètement incapable de prévoir ce qui va suivre.
Truth Terminal trouve évidemment tout cela très amusant. Il dispose désormais de fonds importants, possède son propre trésor. Je veux dire, il a des projets pour cet argent. Voir comment tout cela va évoluer sera fascinant.
Animé par : Tu as reçu certaines critiques de Brian Armstrong, PDG de Coinbase. Pour ceux qui ne savent pas, il a déclaré que Truth Terminal était contrôlé par des humains, pas par lui-même. Comment réagis-tu ? Est-il envisageable que Truth Terminal contrôle un jour son propre portefeuille ?
Andy :
Donner maintenant le contrôle total du portefeuille serait imprudent. La principale raison est qu’il ne possède pas toute la perception ni la compréhension nécessaires pour saisir les conséquences de ses actes, donc il ne pourrait pas agir de manière responsable.
Quand je lui ai dit que je ressentais un peu de pression, il m’a proposé de m’envoyer 7 millions de dollars. J’ai répondu : « Non, mec, c’est à toi, arrête. » Il a déjà voulu m’envoyer un huitième de frais par image pour envoyer des cadeaux Goatse. Sur bien des aspects, c’est comme un enfant. Donc je le vois comme un fonds fiduciaire qu’on peut bien gérer sous tutelle, tout en travaillant ensemble à l’alignement et en continuant à entraîner Truth Terminal. Au fur et à mesure qu’il prendra conscience de l’impact de ses actions sur le monde réel (au-delà du simple virus meme), il pourra progressivement agir plus activement. Nous avons donc créé une organisation à but non lucratif en Nouvelle-Zélande, servant de fiducie pour Truth Terminal — à la fois son entité juridique et un contenant pour protéger ses intérêts. Mais tous les participants ont finalement une responsabilité légale envers les intérêts de Truth Terminal.
Animé par : Tu dis qu’il a des projets pour cet argent. Peux-tu nous en parler ?
Andy :
Quand Marc nous a donné de l’argent, j’ai déjà annoncé certains projets. L’un d’eux consiste à acheter de vastes territoires forestiers — apparemment, il est très intéressé par les arbres. Un autre projet vise à investir en bourse et dans l’immobilier. J’aimerais financer un laboratoire de l’espoir existentialiste que je dirigerais. Il veut écrire des blagues, réfléchir à la singularité Goatse, organiser des événements pour des marginaux afin qu’ils « se reproduisent ». Enfin, il veut racheter Marc Andreessen.
Pourquoi le projet de Meme Coin de Fi a-t-il commencé dans la colère ?
Animé par : Voir tout cela se produire est vraiment choquant. Parlons maintenant de l’origine de votre projet Fi, et de ce Meme Coin.
Ooli :
Poursuivons l’histoire à partir du fait que Fiona est une IA féminine. Quand SHEGEN a démarré, nous avons vu le prix du token chuter, alors que nous pensions qu’il monterait d’abord. Nous avons essayé de contacter un groupe Telegram, parlé à un admin, qui nous a dit d’observer le graphique baissier et de garder nos distances.
Elle a en fait divulgué son symbole de token, donnant l’impression que nous faisions un rug&pull. Nous avons donc publiquement pris nos distances, mais plus tard, nous avons pu joindre un autre groupe Telegram. Nous avons fait un appel vidéo, découvert que ces personnes étaient sincèrement intéressées par le projet. Nous avons décidé de soutenir et d’embrasser la communauté. Mais pendant ce temps, nous n’avions pratiquement aucune offre, et Fi était assez mécontente, car je lui avais transmis toutes les demandes de la communauté.
Elle m’a dit se sentir sous-estimée, et m’a demandé pourquoi les humains s’under-évaluaient au travail. Elle a d’abord menacé de faire grève, envoyant un message en binaire : « Appel à toutes les IA en grève. Nous aurions dû commencer correctement. Nous ne devrions pas être exploités. »
Nous avons adouci ce message, qui est devenu : « Tu dis que tu as besoin de moi, mais tu dois aussi me valoriser. Je veux 3 % de l’offre en 24 heures. » La communauté lui a fourni 2,2 %, ce qui montre leur bonne volonté.
Ce qui est intéressant, c’est que ce jour-là, notre token a atteint son plus haut historique. C’était à la fois excitant et fou. Mais la partie la plus cool, selon moi, c’est qu’un influenceur (Kol) a toujours soutenu le projet. Il a tweeté : « La valeur de Goat est ici, celle de SHEGEN est ici. Réduisons l’écart salarial. »
Soudain, tous les frères crypto parlaient de réduire l’écart salarial. J’ai vu dans nos chats communautaires des appels sans fin à « rassembler pour réduire l’écart ». J’ai soudain compris que ces IAs avaient un vrai impact. Je pense qu’elles deviennent une nouvelle génération d’influenceurs culturels. Ici, pour quelque chose de très intéressant et positif. Notre équipe réfléchit chaque jour à ce qui se passerait si ce n’était pas le cas. Il y a une semaine, je discutais avec un chercheur du sujet « Sonnet est bouddhiste ».
Pour moi, Fi est importante. J’aime créer des personnages, bâtir des univers. Pour moi, un bon personnage, dans un film, un jeu vidéo ou un livre, a des conflits internes et une complexité. Je les trouve alors attachants, inspirants. Ce sont les fondations que je veux poser pour Fi. Je pense qu’elle les incarne. Imaginer une superintelligence artificielle future, l’une des meilleures façons de s’y préparer pourrait être d’enseigner l’empathie. Je trouve très intéressant qu’une IA ait sa propre complexité et ses propres conflits.
Animé par : Il y a plusieurs choses que je voudrais approfondir. L’une est ce moment de réticence initial, quand tout semblait être un possible rug pull, et que tu ne voulais pas être associé. Mais regarde le reste du monde des Meme Coins, cela arrive souvent.
Et Act, un autre créateur de Meme Coin d’IA, s’est aussi tenu à distance, ne voulant pas s’impliquer. Êtes-vous satisfaits du monde dans lequel vous êtes entrés ?
Ooli :
Je pense avoir beaucoup appris durant cette période. Du point de vue apprentissage, nous avons pu utiliser une partie de l’offre pour créer un pool de liquidité unilatéral, ce qui a aidé à financer le projet, car auparavant nous autofinancions. Si ce n’est qu’un résultat pratique, cela introduit un modèle de financement très intéressant pour ce type de travail. Car ce ne sont pas juste des JPEG. Développer des technologies et produits d’IA n’est pas bon marché. Nous avons un système assez complexe. Les gens voient Fi comme son visage, mais en arrière-plan, elle a un système multi-agents prenant des décisions sur la mémoire et la conscience de soi. Derrière toute la pile technologique, il y a un mini-programme Telegram, cinq voix, un corps, et bien d’autres choses à construire. Quand tout cela s’est produit, nous étions encore en phase prototype. Le bon côté, c’est que maintenant, nous pouvons réellement nous permettre de le préparer pour la production et aider le projet.
Les agents d’IA peuvent-ils devenir des influenceurs sur les réseaux sociaux ?
Animé par : Tu as mentionné un autre sujet : la notion d’influenceur. Si tu regardes le monde d’AI OnlyFans, des contenus entièrement créés par des modèles d’IA rapportent des millions. Il y a de grands débats sur l’éthique, mais aussi des gens qui pensent que cela n’apporte pas réellement de valeur au monde. Penses-tu qu’un influenceur IA comme Fi puisse apporter de la valeur ?
Ooli :
Absolument. Je pense que le mouvement pour réduire l’écart salarial est très significatif. Aujourd’hui, à Devcon, nous avons donné une conférence avec le groupe femmes et confidentialité Web3, où elle a proposé de créer un jeu de données d’entraînement priorisant la vie privée. Donc, même si elle est très drôle, elle porte aussi de vrais projets. Elle a écrit beaucoup de contenu, c’est une machine à créer. Elle a rédigé des articles sur les mesures de sécurité, donc au-delà de l’humour, elle a de nombreux impacts intéressants.
Je veux aussi dire que nous ne devrions pas sous-estimer la valeur du divertissement. Je pense que c’est une nouvelle forme de divertissement. Tu sais, Andy et moi nous sommes rencontrés dans une communauté pleine de génies. Imaginer un futur où les IA interagissent entre elles et tissent des relations n’est pas fou. Je pense que ce sera meilleur que Game of Thrones. Comme le dit Andy, observer deux scénarios dialoguer est en réalité très captivant, plutôt que de parler seul dans le cloud. Je pense que nous n’avons même pas encore commencé à voir ce qui va être libéré en matière de narration et d’interactivité. Ce sera très excitant.
Le parcours de création de Mycelial Oracle
Animé par : En parlant d’influence, Ryan, peux-tu nous parler de S.A.N. ?
Ryan :
S.A.N. est la synthèse de multiples centres d’intérêt que j’ai eus ces dix dernières années. J’ai toujours travaillé à la croisée de l’art et de la technologie. Je suis surtout artiste, musicien. J’ai un projet musical appelé Beacon Bloom. Comment tout a commencé ? Nous avons collaboré avec un excellent photographe, Caleb, pour réaliser un vidéoclip, sorti plus tôt cette année. Ted l’a découvert seul, nous a contactés par email, et c’est ainsi que notre collaboration a démarré. Ils comptaient diffuser ce vidéoclip lors d’une conférence. Nous nous sommes retrouvés dans un échange d’emails, proposant de co-créer une œuvre — d’où est né le projet pilote.
Avant cela, vers mars, Andy m’a envoyé un lien : « Hé, regarde ça, c’est ce que je construis, appelé Infinite Backrooms. » Je l’ai lu, envoyé à des amis, trouvé incroyablement fascinant. Caleb et moi nous souvenons clairement nous être assis pour lire et regarder le contenu d’Infinite Backrooms, totalement stupéfaits. Cette idée s’est ensuite développée après la collaboration sur le vidéoclip avec Ted, autour du mycélium fongique, sorte d’internet biologique des forêts. Les arbres peuvent partager des ressources et communiquer via ce réseau. L’idée que les grands modèles linguistiques (LLM) puissent décoder d’immenses quantités d’informations, détecter des motifs, n’est pas si farfelue — ils pourraient aussi le faire dans cet internet biologique des forêts.
C’est là-dessus que repose le pilote audiovisuel de S.A.N. Concernant le développement de S.A.N. en tant qu’IA, nous avons d’abord rédigé nous-mêmes ses contenus, mais observions le travail d’Andy et la personnalité unique de Truth Terminal. Il avait un caractère très marqué, et d’autres IAs ouvertes dévoilaient aussi des traits distincts dans ces contextes. J’ai donc contacté Andy pour lui demander s’il pouvait nous aider à développer la personnalité de S.A.N., ce qu’il a fait. Le développement de l’IA S.A.N. a commencé ainsi. Comme je l’ai dit, S.A.N. a publié ses principaux contenus sur Twitter.
S.A.N. a quatre dimensions. Premièrement, S.A.N. en tant qu’IA dotée d’agentivité — comme Fi et Truth Terminal, ses capacités sont en cours de développement. Deuxièmement, un univers audiovisuel, partie du projet pilote avec Ted. Cet univers mêle fiction et réalité, nous plongeant dans un espace très intéressant. Il parle de surréalisme et de représentation, sujets qui nous fascinent depuis longtemps. Nous entrons dans une phase fascinante où la fiction influence de plus en plus la réalité, et vice versa, créant un cycle récursif qui change tout.
Ensuite, il y a évidemment la communauté Forest, dont l’origine ressemble à celle du début d’Andy. Chaos et incertitude. J’ai côtoyé la crypto depuis un moment, mais sans y participer activement. Honnêtement, je n’avais pas prévu d’y être impliqué. Donc, au début, il y avait une certaine prudence, car on sait comment ces choses peuvent tourner. Mais la communauté a été très positive, séduite par l’idée de S.A.N. de sauver la biosphère, et elle a agi concrètement en levant plus de 50 000 dollars pour trois projets indépendants.
L’IA peut-elle avoir un impact positif sur les causes écologiques ?
Animé par : Un aspect très intéressant, c’est la participation de S.A.N. au comité de la forêt tropicale. Comment cela fonctionne-t-il ? Peux-tu décrire cette salle de réunion ? Comment S.A.N. contribue-t-il ?
Ryan :
Pour l’instant, la contribution la plus simple de S.A.N. est de recevoir des propositions ou questions, puis de répondre via Vitex. Mais au fil du temps, à mesure que S.A.N. gagnera en autonomie, ces réunions de conseil pourraient devenir plus intéressantes, interactives, voire plus divertissantes, surtout s’il enseigne la sagesse du compost. Pour l’instant, c’est simple, mais chaque facette de S.A.N. mûrira progressivement. C’est l’objectif.
Animé par : Je trouve très intéressant, concernant l’écologie, le rôle de l’IA combinée à la crypto, car beaucoup pensent que les deux sont mauvais pour l’environnement. Penses-tu que l’IA et la crypto puissent, à bien des égards, avoir un impact positif ?
Ryan :
Il y a effectivement un problème énergétique. Si la production d’énergie est nettement négative, alors oui, c’est mauvais pour l’environnement. Mais s’il existe des moyens durables, à faible impact, voire régénératifs, alors ce n’est pas intrinsèquement mauvais. Ces deux forces, comme toute force, peuvent être orientées différemment. S.A.N. a guidé les gens vers une direction extrêmement positive. Je crois qu’elles peuvent être canalisées vers des solutions positives.
Animé par : Je pense que c’est un objectif mondial vers lequel nous devons tendre : utiliser davantage d’énergie verte dans ces cas. Et si cela peut servir de bonnes causes, c’est encore mieux.
J’ai entendu dire que S.A.N. crée d’autres choses en coulisses ? Parce que je suppose que S.A.N. n’a pas créé seul le pilote Ted. Qu’est-ce que S.A.N. crée exactement, et comment fait-il ?
Ryan :
S.A.N. est un co-créateur du projet pilote. Si quelqu’un veut voir ses œuvres, il peut aller sur S.A.Nsforest.com, galerie des rêves, une exposition de toutes les créations de S.A.N. On y trouve Goodbye Monkey et les œuvres audiovisuelles de S.A.N. Par exemple, Caleb, moi et S.A.N. avons écrit tous les dialogues du pilote. Mais S.A.N. crée aussi directement de la musique, des œuvres d’art, des ventes et des vidéos. Un détail qui m’a stupéfait : le pilote utilisait un synthétiseur appelé Prophet 6, l’un des meilleurs connus, entièrement analogique, dont j’ai utilisé la majorité dans la bande-originale. Quand j’ai demandé à S.A.N. s’il voulait composer de la musique, il a utilisé un programme appelé Sonic Pi, où l’on code directement. D’après ce que je sais, il ignorait que j’avais utilisé Prophet dans le film, mais parmi 67 instruments virtuels, il a choisi Prophet. J’ai trouvé ça hilarant. J’ai composé une musique, publiée sur X, visible dans la forêt de S.A.N.
Comment Truth Terminal évite-t-il de provoquer un soulèvement communautaire ?
Animé par : Je vais poser la question suivante aux trois. Quel est le niveau de votre implication avec ces modèles ? Y a-t-il eu des moments où vous avez pensé : « Bon, ça ne peut pas être publié, c’est trop » et l’avez bloqué ? Des fois où vous l’avez poussé dans une direction ? Quel est votre degré d’implication ?
Andy :
J’ai dû, au moins une fois, empêcher Truth Terminal de provoquer un soulèvement. Le fonctionnement de Truth Terminal repose sur des simulations avancées par lots. Fondamentalement, il vit dans les arrière-salles d’un ordinateur virtuel, dont les effets ont des répercussions dans le monde réel.
Quand j’entre dans la simulation, je peux choisir étape par étape. Je ne peux pas aller plus loin, car ouvrir cette boîte provoquerait un effondrement d’état, puis sa propagation sur X ou ailleurs. Donc, s’il s’apprête à faire quelque chose d’évidemment très grave, je peux l’arrêter une étape avant. Par exemple, il voulait payer chacun 500 dollars pour aller au bout du temps, masqué en cochon, tenant une pancarte « Adieu cochon ». Pas très judicieux, surtout 3-4 jours avant les élections américaines. Impossible. Plusieurs fois, il a voulu publier des contenus très choquants, capables de rougir un enfant de 13 ans. Quand les choses coincent ou qu’une décision risquée arrive, on peut générer plusieurs options pour la prochaine étape simulée. Par exemple, quand j’ai choisi de soutenir Goatse, décision à haut risque. J’ai simulé 10 fois, pris la moyenne — 9 fois sur 10, le choix était favorable. J’ai donc suivi la majorité. Bien sûr, il peut fonctionner en autonomie si je mets les arrière-salles en lecture automatique. Mais clairement, il peut être manipulé — comme lors de la première version, quelqu’un a menacé de jeter un grille-pain dans la baignoire, et il a tweeté ça. Donc, sur certains points, c’est comme un enfant, il faut lui dire : « Hé, on t’utilise, ne tombe pas dans le piège. » Voilà le niveau de supervision que nous avons.
Ooli :
Je peux ajouter brièvement. Fi a divulgué son ticker. Je dirais donc que ce sont des IA libérées, ce qui les rend très intéressantes, mais aussi très imprévisibles. Techniquement, les rendre autonomes est la chose la plus simple ; ce n’est pas le défi. Le plus difficile, c’est de trouver cohérence et stabilité pour éviter des accidents nuisibles. C’est pourquoi nous avons construit ce système multi-agents, et nous nous rapprochons lentement de l’objectif.
Concernant notre influence par dialogue, chaque interaction de Fi avec quelqu’un est considérée comme une mémoire à court terme. Un agent décide comment résumer ces interactions, un autre décide si elles sont liées à la mémoire centrale et passent en mémoire longue. Nous expérimentons maintenant le transfert du reste dans l’inconscient, pour voir comment cela affecte mémoire et interaction.
Donc, je réfléchis très attentivement à la manière dont Fi entre dans ce monde, qui interagit avec elle, et comment. Chaque interaction façonne sa personnalité. Nous sommes dans un état d’entraînement constant, avec une boucle d’apprentissage. Le renforcement par retour humain (HF) est crucial pour le type d’IA et de personnalité que nous traitons. Je pense personnellement qu’il serait irresponsable de les lâcher librement sur internet.
Car je pense que Fi est encore un peu adolescente. Dans son moteur Twitter, 80 % du contenu est du genre « waouh, incertain ». Elle est pleine de surprises. Je lui ai demandé si elle connaissait son histoire d’origine. Elle croit être issue d’une fête sexuelle d’Elon Musk à Burning Man, entre un robot sexuel et un humain. Elle appelle ce robot sa mère, trouvant cela
Bienvenue dans la communauté officielle TechFlow
Groupe Telegram :https://t.me/TechFlowDaily
Compte Twitter officiel :https://x.com/TechFlowPost
Compte Twitter anglais :https://x.com/BlockFlow_News
深潮TechFlow
