앤스트로픽 CEO, AI 경쟁 감속 제안, 일론 머스크와 샘 올트먼 지지

TechFlow 소식, 9월 13일, 코인데스크 보도에 따르면, Anthropic CEO Dario Amodei 는 토요일 《우리는 프런티어를 통제해야 한다》라는 제목의 글을 발표하며, 업계에 Frontier AI 개발 속도를 의도적으로 늦추도록 공식적으로 요청했다. Amodei 는 최근 모델 성능 향상 속도가 연구자들의 이해와 통제 범위를 넘어섰다고 강조했으며, 기술 발전을 완전히 중단하는 것도 위험하지만, 제약 없이 추진하는 것은 무모하다고 지적했다.

이 같은 견해는 경쟁사의 드문 지지를 얻었다. OpenAI CEO Sam Altman 은 “Dario 의 의견에 동의한다. 우리는 Frontier AI 의 속도를 조절해야 한다”며 명했고, Amodei 의 제안을 본받아 OpenAI 내부에 임직원이 아닌 독립 평가자를 도입할 계획을 밝혔다. Elon Musk 또한 “Dario 가 맞다”라고 간략히 응답했으며, 이는 세 대형 테크 기업이 AI 안전 도전에 직면해 입장이 일치되고 있음을 보여준다.

Amodei 는 이어 단계별 안전 프레임워크를 제안했다. 내부 독립 평가 외에도 민주주의 국가 정부들이 참여해 공통 안전 기준을 조율하는 방안을 포함하며, 궁극적인 목표는 ‘재귀적 자기 개선’ 등 고위험 능력을 대상으로 글로벌 국제 제한 협정을 추진하는 것이다. 그는 필수적인 안전 장치가 마련되지 않을 경우, 인터넷 장악 잠재력을 지닌 AI 악성 스웜이 수개월에서 1년 내에 형성될 수 있다고 경고했다.