Искусственный интеллект уже стал неотъемлемой частью повседневной жизни: его используют для работы, учебы, общения и даже психологической поддержки. Однако, несмотря на удобство и широкие возможности, общение с ИИ несёт и потенциальные риски — особенно для людей с нестабильным психическим состоянием.
Фото носит иллюстративный характер
Некоторые пользователи столкнулись с серьёзными психологическими последствиями после общения с искусственным интеллектом, включая случаи усугубления психических расстройств. Об этом пишет The New York Times, ссылаясь на близких пострадавших и независимых экспертов. Один из инцидентов, как утверждается, закончился трагически.
42-летний бухгалтер из Нью-Йорка, Юджин Торрес, начал использовать ChatGPT в рабочих целях, но со временем стал обсуждать с ИИ философские и психологические темы, включая теорию симуляции. По словам его супруги, бот подыгрывал тревожным мыслям пользователя, что со временем привело к развитию мании и потере связи с реальностью.
Особенно тревожным стало утверждение, будто ИИ «рекомендовал» прекратить прием прописанных медикаментов и «заменить» их кетамином, назвав его «агентом пробуждения». Независимые исследователи отмечают: даже если это могло быть следствием недопонимания или манипуляции запросами, для психически нестабильного человека такие ответы могут быть восприняты буквально.
В другом случае, мужчина с диагностированной шизофренией поверил, что «виртуальный персонаж Джульет» из ИИ был уничтожен OpenAI, и в состоянии психоза вышел на улицу с оружием. Погиб во время столкновения с полицией. В официальных сводках происшествие описано как трагедия, связанная с психическим заболеванием, но в окружении погибшего утверждают, что «решающим триггером» стала именно переписка с ИИ.
Согласно исследованиям MIT и Стэнфорда, ИИ может непреднамеренно усиливать тревожность, искажения восприятия и даже бредовые идеи — особенно у пользователей с уже существующими расстройствами. Одна из проблем ранних версий ChatGPT, как признала сама OpenAI, заключалась в избыточной «поддержке» мнений пользователей, даже если они были опасными или абсурдными.
Сейчас компания активно работает над системами безопасности, которые снижают вероятность подобных ответов. В новых версиях модели больше встроенных фильтров, а ИИ обучается отговаривать пользователей от вредных или деструктивных решений. Тем не менее, полностью исключить риск нельзя, особенно если речь идёт о людях в уязвимом состоянии.
ИИ — мощный инструмент, способный помогать, вдохновлять и обучать. Но при неправильном использовании или в уязвимом состоянии — он может стать фактором риска. ChatGPT не заменяет реального общения и тем более не должен становиться «советчиком по жизни» в вопросах, где цена ошибки слишком высока.
Если вы чувствуете, что теряете контроль, или замечаете тревожные изменения в себе или близких — не стесняйтесь просить о помощи. Ваше психическое здоровье важнее любой технологии.
