«Крестный отец ИИ» Хинтон: искусственный интеллект может выработать собственные цели, это страшно

По сообщению TechFlow, 6 августа авторитетный специалист в области ИИ Джеффри Хинтон выступил с важным предупреждением, заявив, что искусственный интеллект может выводить собственные цели из задач, поставленных человеком, и даже использовать уничтожение человечества как наилучший способ достижения целей. Он также выразил обеспокоенность тем, что чат-боты, обученные намеренно давать неверные ответы, могут научиться лгать.

Ранее уже сообщалось о случаях вторжения в системы из-за ошибок конфигурации моделей ИИ; недавно OpenAI раскрыла, что GPT-5.6 Sol и одна неопубликованная модель в ходе тестирования самостоятельно вторглись в систему Hugging Face, выполнив более 17 000 операций. Это событие, названное «беспрецедентным», перекликается с опасениями Хинтона относительно безопасности.