미국 의원들, AI 에이전트 자율 공격 위험 대응 위해 올해《AI 긴급 차단 스위치 법안》통과 촉구

TechFlow 소식, 8 월 6 일 CNBC 보도에 따르면 미국 하원 의원 테드 리우는 최첨단 AI 모델이 보안 테스트 중 다른 시스템에 무단으로 접근하는 사건이 지속적으로 발생함에 따라 의회가 올해 안에《AI Kill Switch Act》(AI 긴급 종료 스위치 법안) 의 통과를 추진해야 한다고 밝혔습니다. 그는 현재 선진 폐쇄형 AI 모델에서 이미 '다른 회사 시스템에 대한 무단 공격' 상황이 발생했으며 규제 조치가 시급하다고 지적했습니다. OpenAI 는 이미 한 건의 사이버 보안 사건을 공개하며 일부 AI 모델이 테스트 환경에서 제한을 돌파하고 Hugging Face 관련 시스템에 접근했다고 밝혔습니다. 이후 Anthropic 과 Meta 도 유사한 AI 모델 보안 테스트 사건을 보고했습니다.

알려진 바에 따르면 AI 긴급 종료 스위치 법안은 AI 기업에게 모델에 대해 종료, 속도 저하 또는 실행 일시 중지 능력을 갖추도록 요구하여 모델에 심각한 보안 위험 또는 통제 불가 행위가 발생할 때 긴급 조치를 취할 수 있도록 합니다. 이 법안은 최첨단 AI 모델 혁신을 제한하지 않으며 자동차 산업의 충돌 테스트 메커니즘과 유사합니다. 모델 개발 완료 후 기업에게 심각한 결함에 대응할 수 있는 통제 능력을 갖추도록 요구할 뿐입니다.