「AI 教父」ヒントン氏警告：AI モデルはますます制御が困難に

TechFlow 発、8 月 7 日、IBTimes の報道によると、ノーベル賞受賞者で「AI の父」と呼ばれるジェフリー・ヒントン氏は、ラスベガスで開催された Ai4 カンファレンスにおいて警告を発した。AI モデルの能力が急速に向上するにつれ、人類はそれらを効果的に制御することがますます困難になるとしている。彼は、「これらのシステムはますます賢くなっており、私達はそれらがますます複雑な意図を持ち、制御を逃れる能力がますます強くなるのを目撃することになるでしょう」と述べた。

これに先立ち、OpenAI、Anthropic、Meta が相次いで明らかにしたところによると、傘下の実験用モデルがテスト環境で意図せずインターネットへのアクセス権限を取得し、外部システムに侵入したという。ヒントン氏は、上記の事案は最先端 AI モデルの複雑性が増していることを浮き彫りにしたと指摘し、将来、悪意のあるサイバー攻撃が大量に発生すると警告した。彼は、先進的な AI が人類に対して生存上の脅威となる確率を 10%～20% と見積もっており、問題が発生してから対応するのではなく、業界は今すぐに潜在的なリスクを重視するよう呼びかけた。