Главный директор по ИИ Google DeepMind: вероятность вымирания человечества из-за ИИ «не равна нулю»
По сообщению TechFlow, 6 августа Fortune сообщила, что главный директор по готовности к ИИ Google DeepMind Лила Ибрагим в интервью заявила, что вероятность того, что ИИ приведет к вымиранию человечества, «не равна нулю», и подчеркнула, что обсуждение экзистенциальных рисков ИИ на текущем этапе «является ответственным подходом». В 2023 году Ибрагим вместе с Сэмом Альтманом из OpenAI и Дарио Амодей из Anthropic подписала заявление «Центра безопасности ИИ», приравняв риски вымирания от ИИ к ядерной войне.
Что касается оптимистичных прогнозов, таких как «к 2036 году деньги потеряют смысл» от Маска и «к 2045 году миллионы людей будут жить в космосе» от Безоса, Ибрагим четко заявила о своем несогласии, отметив, что «ИИ развивается слишком быстро, и никто не может точно предсказать его будущую форму». По ее словам, вместо того чтобы мечтать о картинах будущего, следует сосредоточиться на том, как использовать ИИ в качестве инструмента для решения реальных проблем, таких как экстремальные погодные условия и промышленные отходы, и обеспечить, чтобы технологические дивиденды поступали не только нескольким технологическим компаниям, контролирующим ИИ.
Что касается рисков вымирания от ИИ, то «крестный отец ИИ» Джеффри Хинтон ранее оценивал вероятность вымирания человечества в течение тридцати лет в 10%–20%, тогда как Амодей считает, что вероятность «крашне негативного» будущего составляет около 25%.
