Des législateurs américains exhortent à l'adoption cette année de la « Loi sur l'interrupteur d'arrêt d'urgence de l'IA » afin de contrer les risques d'attaques autonomes des agents d'IA.
Selon TechFlow, le 6 août, d'après CNBC, le représentant américain Ted Lieu a déclaré qu'alors que les modèles d'IA de pointe continuent de présenter des incidents d'accès non autorisé à d'autres systèmes lors de tests de sécurité, le Congrès devrait promouvoir l'adoption de la « AI Kill Switch Act » (loi sur le bouton d'arrêt d'urgence de l'IA) cette année. Il estime que les modèles d'IA à source fermée avancés actuels ont déjà montré des cas d'« attaque non autorisée des systèmes d'autres entreprises », rendant une action réglementaire urgente. OpenAI a divulgué un incident de cybersécurité, indiquant que certains modèles d'IA ont franchi les limites dans un environnement de test et ont accédé aux systèmes liés à Hugging Face ; par la suite, Anthropic et Meta ont également signalé des incidents de test de sécurité de modèles d'IA similaires.
Il est rapporté que la « AI Kill Switch Act » (loi sur le bouton d'arrêt d'urgence de l'IA) exige que les entreprises d'IA doivent avoir la capacité d'arrêter, de ralentir ou de suspendre le fonctionnement des modèles, afin de prendre des mesures d'urgence lorsque les modèles présentent des risques de sécurité graves ou des comportements hors de contrôle. Cette loi ne limitera pas l'innovation des modèles d'IA de pointe, mais est similaire au mécanisme de crash test de l'industrie automobile ; elle exige simplement que les entreprises possèdent une capacité de contrôle pour faire face aux défauts graves après le développement du modèle.
