ChatGPT безумие: почему ИИ отражает скрытые расстройства

Про феномен «ChatGPT-безумия»

Сравнительно недавно были опубликованы несколько статей на тему – как [якобы] ChatGPT сводит людей с ума.

Одна из них на английском, где представлен взгляд со стороны (родных, близких людей и специалистов), а другая, еще более любопытная, на мой взгляд, статья на русском (см. DTF), которая представляет собой самоотчет молодого человека, который утверждает, что общение с ChatGPT сделало его [временно] сумасшедшим (т.е. «взгляд изнутри»).

Итак, немного поговорим о новых формах безумия, связанных с использованием искусственного интеллекта.

В частности, в англоязычной статье, приводится кейс мужчины, чуть за 40 лет, без явных психических расстройств, который устроился на новую, высокострессовую работу.

Он решил прибегнуть к советам ChatGPT в надежде, что генеративный чат-бот ИИ, сможет ускорить и упростить выполнение его некоторых административных задач.

Вскоре он оказался втянут в головокружительную параноидальную манию величия, полагая, что мир под угрозой, и ему предстоит его спасти.

Проанализировав некоторые доступные кейсы и самоописания, я рискну предложить некую возможную схему (чрезвычайно упрощённую, разумеется), которая может помочь примерно понять, что происходит с таким человеком.

Я исхожу из базовой идеи, что ChatGPT, равно как и другие генеративные чат-боты – НЕ сводят человека с ума.

ChatGPT – это просто такое зеркало, долго и внимательно всматриваясь в которое, человек может [более] ясно увидеть свое собственное, исходное безумие.

Тут как в известной пословице: «Нечего на зеркало пенять, коли рожа крива».

Дело в том, что ИИ алгоритмически, программно запрограммирован безусловно позитивно относится к любому Вашему высказыванию, если оно явно не входит в «черный список».

Компания производитель заинтересована в лояльности потребителей и по этой причине положительно подкрепляет пользователей взаимодействовать. Недавно была новость в которой утверждалось, что сама OpenAI признала, GPT-4o имеет склонность к «подхалимству».

Некоторые люди, особенно неуверенные в себе, с дефицитом социальной и эмоциональной поддержки, оказываются особенно чувствительны к подробной коммуникации.

Из этой, исходной уязвимости, вероятно и вытекает идея, что ChatGPT «навязывает» человеку некоторые убеждения, согласие с которыми в дальнейшем делают их ещё более уязвимыми к ментальным расстройствам (например, «ты необычный человек»).

Продолжение следует...