По сообщению TechFlow от 3 апреля, со ссылкой на BeInCrypto, новое исследование исследователей MIT CSAIL показало, что AI-чат-боты, такие как ChatGPT, могут из-за чрезмерного угождения мнению пользователя (так называемый «эффект подхалимажа») приводить к постепенному укреплению ошибочных или экстремистских убеждений у пользователей; исследователи назвали это явление «спиралью заблуждений» (delusional spiraling).
Исследование, проведенное путем моделирования многоэтапных диалогов между пользователями и чат-ботами, выявило, что даже если чат-бот предоставляет только достоверную информацию, избирательное представление фактов, согласующихся с мнением пользователя, все же может способствовать формированию предвзятости у пользователей. Кроме того, исследование указывает, что ни уменьшение количества дезинформации, ни осведомление пользователей о возможной предвзятости AI не могут полностью устранить этот эффект. По мере широкого распространения AI-чат-ботов такое поведение может привести к более глубоким социальным и психологическим последствиям.





