Le PDG d'Anthropic propose de ralentir la course à l'IA, une initiative soutenue par Musk et Altman
Selon TechFlow, le 13 septembre, d'après CoinDesk, le PDG d'Anthropic, Dario Amodei, a publié samedi un article intitulé « Nous devons contrôler la frontière », appelant officiellement l'industrie à ralentir volontairement le rythme de développement de l'IA de pointe (Frontier AI). Amodei a souligné que le rythme rapide des progrès des modèles récents dépasse désormais la capacité des chercheurs à les comprendre et à les contrôler. Bien qu'un arrêt complet du développement technologique comporte des risques, le poursuivre sans restrictions demeure également imprudent.
Cette position bénéficie d'une approbation inhabituelle de la part de ses concurrents. Le PDG d'OpenAI, Sam Altman, a réagi en déclarant : « Je souscris aux propos de Dario, nous devons contrôler la vitesse de progression de cette frontière », et s'est engagé à suivre les conseils d'Amodei en instaurant au sein d'OpenAI des évaluateurs indépendants disposant de permissions d'accès comparables à celles des employés. Elon Musk a quant à lui répondu brièvement « Dario a raison », signe que ces trois géants de la technologie adoptent désormais une posture commune face aux enjeux de sécurité de l'IA.
Par la suite, Amodei a proposé un cadre de sécurité progressif : outre l'évaluation interne indépendante, il prévoit une coordination par les gouvernements des États démocratiques de normes de sécurité universelles, avec pour objectif final de conclure des accords internationaux restrictifs visant des capacités à risque comme l'"amélioration récursive de soi". Il a mis en garde en indiquant qu'en l'absence de garde-fous nécessaires, des essaims d'IA malveillants capables de prendre le contrôle d'Internet pourraient voir le jour en quelques mois à un an.
