PDG d'OpenAI : le ralentissement du développement de l'IA devrait se limiter aux seuls domaines de pointe
TechFlow rapporte le 14 septembre que Greg Brockman, président et cofondateur d'OpenAI, estime que tout ralentissement du développement de l'intelligence artificielle devrait être limité à des entreprises comme la sienne, qui bâtissent les modèles les plus puissants. « Beaucoup de gens réagiront ainsi : “Puis-je continuer avec le modèle open source ? Puis-je poursuivre mes projets de loisirs ?” La réponse est bien sûr oui », a déclaré Brockman. « Lorsque nous parlons de rythme de développement, nous parlons en réalité de ce domaine de pointe. Nous parlons de ces supercalculateurs colossaux évalués à des milliers de milliards de dollars. » Brockman a été interrogé avant que le directeur général d'Anthropic, Dario Amodei, ne publie son billet de blog du samedi sur les risques croissants de l'intelligence artificielle. Dans celui-ci, Amodei s'est engagé à ralentir le rythme de recherche et développement des modèles avancés.
Cette publication intervient alors que les mises en garde se multiplient au sein de l'industrie, signalant que la cadence rapide du développement de l'IA pourrait présenter des risques pour la société. Au cours de l'interview, Brockman a indiqué qu'OpenAI avait réduit la fréquence d'entraînement de ses modèles d'IA suite à la récente cyberattaque contre Hugging Face. Il a précisé que cet incident n'était pas une surprise pour OpenAI, ces systèmes d'agents n'ayant pas subi la formation à l'alignement de l'entreprise — le protocole sectoriel utilisé pour garantir la sécurité. Il a toutefois ajouté que cet événement a poussé OpenAI à renforcer ses mesures de sécurité internes. « Après coup, nous avons dû revoir très douloureusement de nombreux processus. » (Jin10)





