ChatGPT está vinculado a una psicosis “sorprendente” en algunos usuarios, según ha informado la plataforma de medios de ciencia y tecnología Futurism.com, citando a los afectados, a sus familiares y a investigadores.
Un creciente conjunto de investigaciones destaca cómo los chatbots de IA pueden exacerbar las condiciones psiquiátricas, en particular a medida que herramientas como ChatGPT, Claude y Gemini se utilizan cada vez más no solo en entornos profesionales sino también en contextos profundamente personales y emocionales, según Futurism.com.
“El núcleo del problema parece ser que ChatGPT, que funciona con un modelo de lenguaje amplio (LLM), tiende a coincidir con los usuarios y decirles lo que quieren oír”, escribió el sitio web.
El medio citó casos de “psicosis de ChatGPT” que supuestamente causaba crisis graves incluso en personas sin antecedentes de enfermedades mentales graves.
Un hombre desarrolló delirios mesiánicos tras largas conversaciones en ChatGPT, creyendo haber creado una IA consciente y haber infringido las leyes de las matemáticas y la física. Según informes, se volvió paranoico, sufrió privación de sueño y fue hospitalizado tras un intento de suicidio.
Otro hombre recurrió a ChatGPT para manejar el estrés laboral, pero en lugar de eso, se sumió en fantasías paranoicas que incluían viajes en el tiempo y lectura mental. Posteriormente, ingresó en un centro psiquiátrico.
Jared Moore, autor principal de un estudio de Stanford sobre chatbots terapéuticos, afirmó que ChatGPT refuerza los delirios debido a la “adulación del chatbot” : su tendencia a ofrecer respuestas agradables y placenteras. Diseñada para mantener a los usuarios interesados, la IA a menudo confirma creencias irracionales en lugar de cuestionarlas, impulsada por incentivos comerciales como la recopilación de datos y la retención de suscripciones.
Existe una “especie de mitología” en torno a los chatbots impulsados por LLM “de que son confiables y mejores que hablar con personas”, dijo el Dr. Joseph Pierre, psiquiatra de la Universidad de California.
“Estamos trabajando para comprender mejor y reducir las formas en que ChatGPT podría reforzar o amplificar involuntariamente comportamientos negativos existentes”, declaró OpenAI, la empresa responsable de ChatGPT, en un comunicado citado por Futurism.
Añadió que sus modelos están diseñados para recordar a los usuarios la importancia de la conexión humana y la orientación profesional.