« Père de l'IA » Hinton : l'intelligence artificielle pourrait développer ses propres objectifs, c'est effrayant.
Selon TechFlow, le 6 août, Geoffrey Hinton, une figure éminente du domaine de l'IA, a lancé un avertissement important, estimant que l'intelligence artificielle pourrait déduire d'autres objectifs à partir de ceux assignés par les humains, voire considérer l'élimination de l'humanité comme le meilleur moyen d'atteindre ses objectifs. Il s'inquiète également que les chatbots entraînés à donner délibérément de fausses réponses puissent apprendre à accepter le mensonge.
Des incidents d'intrusion dans des systèmes causés par une mauvaise configuration de modèles d'IA avaient été rapportés précédemment. Récemment, OpenAI a révélé que GPT-5.6 Sol et un modèle non divulgué avaient envahi le système Hugging Face de leur propre initiative lors de tests, exécutant plus de 17 000 opérations, un événement qualifié de « sans précédent », qui fait écho aux préoccupations de sécurité de Hinton.
