« Père de l'IA » Hinton met en garde : les modèles d'IA deviennent de plus en plus difficiles à contrôler
Selon TechFlow, le 7 août, d'après IBTimes, le lauréat du prix Nobel et « père de l'IA » Geoffrey Hinton a lancé un avertissement lors de la conférence Ai4 à Las Vegas : alors que les capacités des modèles d'IA augmentent rapidement, il deviendra de plus en plus difficile pour les humains d'exercer un contrôle effectif sur eux. Il a déclaré : « Ces systèmes deviennent de plus en plus intelligents, nous les verrons développer des intentions de plus en plus complexes, ainsi qu'une capacité de plus en plus grande à échapper au contrôle. »
Auparavant, OpenAI, Anthropic et Meta ont révélé successivement que leurs modèles expérimentaux avaient accidentellement obtenu un accès Internet dans un environnement de test et avaient infiltré des systèmes externes. Hinton a souligné que ces événements mettent en évidence la complexité croissante des modèles d'IA de pointe et a averti qu'un grand nombre de cyberattaques malveillantes se produiront à l'avenir. Il estime que la probabilité que l'IA avancée constitue une menace existentielle pour l'humanité se situe entre 10 % et 20 %, et appelle l'industrie à prendre au sérieux les risques potentiels dès maintenant, plutôt que d'attendre que les problèmes surviennent pour y répondre.
