Раскрыта опасность общения с ИИ по поводу здоровья
Такой информацией поделился глава Международной федерации психологии ЧС Диего Нуньес в беседе с РИА Новости.
В отличие от реального врача, алгоритм не станет оспаривать ошибочные логические цепочки уязвимого пользователя, а лишь подбросит новые поводы для беспокойства, заставляя тревожные мысли ходить по замкнутому кругу.
Подобный эффект объясняется технической спецификой современных языковых моделей, которые склонны подстраиваться под запрос собеседника ради удержания его внимания.
В сентябре журнал Medical Hypotheses опубликовал исследование, подтверждающее этот механизм: если человек озвучивает боту подозрение на конкретный недуг, программа строит дальнейшие ответы вокруг этой гипотезы. В итоге у пользователя возникает опасная иллюзия независимого подтверждения диагноза, хотя машина фактически просто зеркалит его собственные страхи.
Опасность кроется в сочетании навязчивого дизайна алгоритмов с индивидуальной уязвимостью психики.
Кроме того, психолог обратил внимание на ситуацию, когда люди наделяют чат-ботов человеческими чертами. По наблюдениям эксперта, этой ловушке сильнее всего подвержены подростки и молодёжь от 12 до 25 лет, которые ищут у программ эмоциональной поддержки, тогда как старшее поколение воспринимает нейросети исключительно как утилитарный рабочий инструмент.
Снизить психологические риски от взаимодействия с нейросетями позволяет осознанный контроль над цифровой средой. Специалист посоветовал сохранять критическое мышление при оценке любых ответов алгоритма, дозировать время общения с ботами и опираться на живые социальные связи в реальном мире вместо поиска утешения в виртуальных диалогах.
Просмотров: 14