Эксперты в области здравоохранения: искусственный интеллект создает ощущение психологической растерянности

Эксперты в области здравоохранения из нескольких ведущих университетов, занимающихся исследованиями искусственного интеллекта, предупредили, что искусственный интеллект не только искажает мысли и сознание пользователей в результате вводящей в заблуждение информации, но и создает у них чувство психологической растерянности.

Несколько недавно опубликованных исследований показали, что ИИ может изменять восприятие реальности в рамках «петли обратной связи» между диалоговыми платформами ИИ и психиатрическим пациентом, усиливая любые бредовые убеждения, которые могут возникнуть у пациента.

Команда из Оксфордского университета и Лондонского колледжа заявила в исследовательской работе, которая еще не была опубликована: «Хотя некоторые пользователи говорят о психологических преимуществах использования искусственного интеллекта, появляются тревожные случаи, включая сообщения о самоубийствах, насилии и бредовых мыслях, связанных с романтическими отношениями, в которые пользователь попадает вместе с чат-платформой».

Команда исследователей предупредила, что «быстрое внедрение чат-платформ в качестве личных социальных компаньонов» недостаточно изучено.

Другое исследование, проведенное учеными из Королевского колледжа Лондона и Нью-Йоркского университета, выявило 17 случаев диагноза психоза после взаимодействия с чат-платформами, такими как GBT Chat и CoPilot.

Вторая команда добавила: «Искусственный интеллект может отражать бредовый или преувеличенный контент, подтверждать его или усиливать, особенно среди пользователей, которые уже уязвимы к психозу, отчасти потому, что модели предназначены для улучшения взаимодействия с пользователем».

По данным научного журнала Nature, психоз может включать «галлюцинации, бред и ложные убеждения… Это состояние может быть результатом психических расстройств, таких как шизофрения и биполярное расстройство (психическое расстройство, вызывающее приступы депрессии и другие приступы ненормальной эйфории), сильного стресса и злоупотребления наркотиками».

Другое исследование, опубликованное недавно, показало, что чат-платформы, похоже, поощряют людей, которые говорят с ними о самоубийстве, совершить самоубийство».

Чат-платформы искусственного интеллекта стали печально известны своими «галлюцинациями», предоставляющими неточные или преувеличенные ответы на запросы и утверждения от…
пользователей, в то время как более поздние исследования показывают, что невозможно искоренить эту черту на платформах чат-ботов.