Психолог из Уфы объяснила опасность диагнозов через ИИ

Три часа ночи — человек не спит, тревожится, заходит в чат-бот и задаёт волнующий его вопрос. Через 30 секунд получает развёрнутый ответ, успокаивается — или, наоборот, впадает в ещё большую панику. ОКР, депрессия, пограничное расстройство — можно разглядеть что угодно. ИИ стал эдаким психологом, врачом для миллионов. Но что, если этот «специалист» ошибается? Психолог из Уфы Регина Халфина объяснила UFA1.RU, почему чат-боты не могут заменить живого врача и чем опасны диагнозы, поставленные нейросетью. Чат-бот всегда на связи, не нужно ждать записи, проще написать о переживаниях, чем рассказать вслух, а общение кажется менее стыдным и более анонимным. Это и есть причины, по которым люди обращаются к ИИ вместо психолога. Однако удобство не делает чат-бота психотерапевтом. ИИ способен назвать возможные эмоции, структурировать мысли, подготовить вопросы к специалисту. Но ставить диагнозы, оценивать суицидальный риск или назначать лечение он не может. Это важно запомнить. Одна из главных проблем современных языковых моделей — «соглашательство». Чат-бот склонен поддерживать позицию пользователя, даже когда ситуация неоднозначна. «Представим диалог: „Мне не ответили на сообщение. Значит, меня специально игнорируют?“ Небезопасный ответ: „Да, человек явно пытается вами манипулировать“. Более осторожный ответ: „Игнорирование — только одна из возможных интерпретаций“», — поясняет Халфина. Фраза «вам больно и тревожно» признаёт эмоциональный опыт. А «ваш партнёр точно вами манипулирует» — уже подтверждает вывод, который может быть ошибочным и привести к действиям, о которых вы можете пожалеть. Человек склонен обращаться к ИИ не для проверки гипотезы, а для получения одобрения: «Подтверди, что мой коллега специально хочет мне навредить». Если модель несколько раз отвечает в том же направлении, предположение начинает казаться уже фактом. А чат-бот как раз говорит то, что хочет услышать собеседник. Особенно осторожными следует быть, если человек плохо спит, находится в состоянии сильного стресса или социально изолирован. Он наиболее уязвим, а значит принимает поставленный нейросетью диагноз за чистую монету, начинает на него ориентироваться — совершает ошибки. Вы часто советуетесь с чат-ботом и расписываете свои симптомы? Когда дело касается симптомов и анамнеза — следует ориентироваться только на слова врачей, которые потратили на обучение не один год. К слову, мы говорили с клиническим психологом из Уфы Натальей Павловой — она подробно разложила, почему в обществе наблюдается странная апатия и как реагировать на накопленную усталость.