Cofondateur et PDG d'Anthropic : Nous devons ralentir le rythme d'amélioration des capacités des modèles d'IA

Selon TechFlow, le 12 septembre, le cofondateur et directeur général d'Anthropic : nous devons ralentir le rythme d'amélioration des capacités des modèles d'IA. Ralentir ce rythme ne signifie pas interrompre l'entraînement des modèles ou les progrès technologiques, mais s'assurer que l'entreprise dispose de suffisamment de temps pour procéder à l'alignement et protéger les modèles. Il est proposé que chaque entreprise pionnière en IA s'engage à octroyer à une équipe permanente composée d'évaluateurs tiers un accès continu, comparable à celui des employés. La coordination entre les entreprises pionnières en IA des pays démocratiques est également proposée, afin d'établir des normes de sécurité communes.