Un millier d'employés d'entreprises d'IA aux États-Unis signent une lettre ouverte, cherchant à établir un mécanisme de ralentissement coordonné du développement de l'IA de pointe

Selon TechFlow, le 29 juillet, 1 132 employés d'entreprises d'IA de pointe (OpenAI, Meta, Google et Anthropic, etc.) ont publié une déclaration conjointe. La déclaration souligne que l'IA pourrait créer un avenir bien meilleur, mais que ce résultat n'est pas garanti. Les entreprises leaders actuelles en IA estiment que l'automatisation de la R&D en IA est imminente. Bien que le degré d'accélération spécifique soit difficile à prédire, un risque réel se profile : des percées rapides dans les capacités de l'IA pourraient faire évoluer son rythme au-delà de la compréhension et du contrôle humains. Pour libérer le véritable potentiel de l'IA, l'industrie, les gouvernements et la société ont urgent besoin de gagner une fenêtre de temps pour faire face aux risques émergents, construire des lignes de défense de sécurité et renforcer les cadres réglementaires. Cependant, chaque entreprise, voire chaque pays, fait face au dilemme concurrentiel de « ne pas oser ralentir seul ». Actuellement, il manque au niveau mondial des outils efficaces, de la technologie à la gouvernance, pour réguler prudemment le rythme global de développement de l'IA de pointe. La déclaration appelle le gouvernement américain, sur la base des mécanismes existants de surveillance de la publication des modèles de pointe, à promouvoir une collaboration internationale pour développer les technologies et moyens de gouvernance nécessaires afin de guider prudemment le processus d'automatisation de la R&D en IA.

Jakub Pachocki, scientifique en chef chez OpenAI, Mark Chen, directeur de la recherche chez OpenAI, Jared Kaplan, cofondateur et scientifique en chef chez Anthropic, Shengjia Zhao, scientifique en chef chez Meta, et d'autres ont signé la déclaration. Stephanie Chan, chercheuse scientifique chez Google, a déclaré : « J'ai signé cette déclaration à titre personnel, car je soutiens l'idée d'avoir une plus grande 'marge de manœuvre' dans le cadre des actions possibles, afin de garantir que les sociétés et les gouvernements du monde entier aient le temps de réfléchir mûrement et de se préparer et de s'adapter à cette technologie puissante. » (Jin10)