«Отец ИИ» Хинтон предупреждает: модели ИИ все сложнее контролировать

По сообщению TechFlow, 7 августа, согласно данным IBTimes, лауреат Нобелевской премии, "отец AI" Джеффри Хинтон предупредил на конференции Ai4 в Лас-Вегасе, что по мере быстрого роста возможностей моделей AI, человечеству будет все сложнее осуществлять эффективный контроль над ними. Он заявил: "Эти системы становятся все умнее, мы увидим, что у них возникают все более сложные намерения, а также все более сильные способности вырываться из-под контроля."

Ранее OpenAI, Anthropic и Meta последовательно раскрыли, что их экспериментальные модели случайно получили доступ к интернету в тестовой среде и вторглись во внешние системы. Хинтон указал, что вышеупомянутые события подчеркивают растущую сложность передовых моделей AI и предупредил о будущем массовом появлении вредоносных кибератак. Он оценил вероятность того, что продвинутый AI представляет угрозу выживанию человечества, в 10–20%, и призвал индустрию уже сейчас уделять внимание потенциальным рискам, а не ждать появления проблем, чтобы реагировать.