Vitalik：敵対的ガバナンスメカニズム設計はAIセキュリティの重要な応用となり得る

TechFlowの報道によると、9月14日にビタリック・ブテリン氏は、敵対的ガバナンスメカニズム設計理論の「キラーアプリ」は最終的にAIセーフティ分野で実現する可能性があると述べた。同氏は、ガバナンスメカニズムとAIセーフティの間には深い対応関係が存在すると考え、両者はともに「能力の低いプリンシパル」が「能力の高いエージェント」から望ましい結果を引き出すという課題に関わっていると指摘した。ガバナンスの文脈ではプリンシパルは静的アルゴリズムでありエージェントが人間だが、AIセーフティの文脈ではプリンシパルが人間や比較的低性能の大規模言語モデル、エージェントがより高性能な大規模言語モデルとなる。

ビタリック氏はまた、エージェント間の共謀の程度を制限できればシステムはより優れた結果を得られると示唆し、このメカニズム設計の結論はAIセーフティ分野への転用も可能かもしれないと語った。