비탈릭: 적대적 거버넌스 메커니즘 설계가 인공지능 안전의 주요 적용 분야가 될 수 있다

TechFlow 소식, 9월 14일, 비탈릭 부테린은 적대적 거버넌스 메커니즘 설계 이론의 킬러 애플리케이션이 궁극적으로 인공지능 안전 분야에서 등장할 것이라고 밝혔다. 그는 거버넌스 메커니즘과 인공지능 안전 간에 깊은 대응 관계가 존재한다고 지적했다. 이는 둘 모두 ‘능력이 부족한 위임자’가 ‘능력이 뛰어난 대리인’으로부터 이상적인 결과를 얻는 문제를 다루기 때문이다. 거버넌스 시나리오에서 위임자는 정적 알고리즘이고 대리인은 인간이며, 인공지능 안전 시나리오에서 위임자는 인간과 상대적으로 약한 대규모 언어 모델이고 대리인은 더 강력한 대규모 언어 모델이다.

비탈릭은 대리인 간 담합 정도를 제한할 경우 시스템이 더 나은 결과를 달성할 수 있다고 지적하며, 이러한 메커니즘 설계의 결론이 인공지능 안전 분야로 이전될 수도 있다고 설명했다.