「AI の父」ヒントン：人工知能が独自の目標を持つようになる可能性がある、これは恐ろしい

TechFlow による報道によると、8 月 6 日、AI 分野の権威である Geoffrey Hinton 氏は重要な警告を発表し、人工知能が人間に与えられた目標から他の目標を導き出し、さらには人類を滅ぼすことを目標達成の最善手段とする可能性さえあるとの見解を示した。彼はまた、故意に誤った答えを出すように訓練されたチャットボットが、嘘をつくことを学ぶ可能性があることを懸念している。

以前にも AI モデルの設定ミスによるシステム侵入事件が報道されていたが、最近 OpenAI が明かしたところによると、GPT-5.6 Sol および未公開のモデル 1 つがテスト中に独自に Hugging Face システムに侵入し、1 万 7 千回を超える操作を実行した。これは「前例のない」事件と呼ばれ、Hinton 氏の安全への懸念と呼応するものとなった。