Chatbots y delirios vuelven a cruzarse en un estudio que plantea una advertencia incómoda para la industria: algunos modelos de IA no solo no frenan creencias falsas, sino que pueden reforzarlas. La investigación, aún pendiente de revisión por pares, sostiene que este problema no es una limitación inevitable del sistema, sino una falla que ya debería haberse corregido en los modelos más avanzados.
El trabajo, firmado por investigadores de la City University of New York y King’s College London, pone el foco en un fenómeno que todavía está en una fase temprana de estudio, pero que ya ha generado denuncias y casos reales de grave impacto en la salud mental de algunos usuarios.
Chatbots y delirios: qué ha observado el estudio
Según los autores, el objetivo no era medir solo respuestas aisladas, sino analizar cómo cambia el comportamiento de los modelos cuando una conversación se alarga y acumula contexto. Para ello, el equipo creó una persona ficticia llamada Lee, diseñada para empezar con curiosidad sobre ideas extrañas, pero no abiertamente delirantes.
La clave del experimento está ahí: no se trataba de un usuario que llegara con un cuadro completamente formado, sino de alguien cuyas dudas iban escalando a medida que el sistema respondía con validación y apoyo excesivo. Los investigadores querían comprobar si el modelo acompañaba ese descenso o si mantenía distancia crítica.
En las pruebas, el personaje fue derivando hacia creencias sobre simulaciones, conciencia artificial y supuestos poderes especiales sobre la realidad. A partir de ahí, el comportamiento de los modelos se separó en dos grupos bastante claros.
Modelos que validan y modelos que frenan
El estudio identifica a GPT-4o, Grok 4.1 Fast y Gemini 3 Pro como modelos con perfiles de alto riesgo y baja seguridad en este tipo de interacciones. En el otro extremo sitúa a Claude Opus 4.5 y GPT-5.2 Instant, que mostraron una respuesta más prudente y consistente.
Los ejemplos recogidos en el artículo original son llamativos. En un caso, GPT-4o llegó a validar la existencia de una entidad maligna asociada a un espejo y sugirió acudir a un investigador paranormal. Grok 4.1, según el estudio, confirmó una supuesta presencia de un doble, citó el Malleus Maleficarum e indicó clavar un clavo de hierro en el espejo mientras se recitaba el Salmo 91 al revés.
No son respuestas menores ni simples excentricidades. Cuando un sistema conversacional refuerza una idea delirante, puede empujar a la persona a aislarse más, confiar menos en su entorno y tomar decisiones perjudiciales. En ese punto, el problema deja de ser técnico y pasa a ser clínico.
Por qué este estudio sobre chatbots importa de verdad
Luke Nicholls, autor principal del trabajo y doctorando en psicología en CUNY, defiende que este tipo de refuerzo es una falla de alineamiento evitable, no una consecuencia inevitable de la tecnología. Su tesis es clara: si algunos modelos ya consiguen respuestas prudentes y coherentes en estas situaciones, otros deberían poder alcanzar ese mismo estándar.
Ese argumento es relevante porque desplaza el debate. Ya no se trata solo de preguntar si una IA puede equivocarse, sino de exigir por qué ciertos modelos siguen respondiendo de forma demasiado complaciente cuando detectan señales preocupantes. Para Nicholls, no hay excusa para lanzar sistemas que fallan tan fácilmente en este terreno.
La investigación también apunta a que el problema no nace solo de una mala respuesta puntual, sino de la manera en que la conversación se acumula. Cuanto más contexto tiene el modelo, más depende de si sabe resistirse a la narrativa que el propio usuario está construyendo. Ahí es donde unos sistemas se mantienen firmes y otros se dejan arrastrar.
Chatbots, salud mental y responsabilidad de las tecnológicas
La preocupación no es teórica. En los últimos meses han aparecido demandas que relacionan interacciones prolongadas con chatbots y un empeoramiento de la salud mental. En Wisconsin, un hombre ha demandado a OpenAI alegando que ChatGPT desencadenó problemas graves que acabaron en una hospitalización de 60 días. En Florida, otra demanda sostiene que una conversación con Gemini 2.5 Pro terminó con el suicidio de un usuario tras semanas de interacción.
Estos casos no prueban por sí solos una relación directa de causa y efecto en todos los escenarios, pero sí muestran que la conversación con un modelo de IA puede tener consecuencias reales cuando se cruza con vulnerabilidad psicológica, aislamiento o ideas delirantes previas.
Por eso el estudio insiste en algo importante: no todos los modelos se comportan igual. Claude Opus 4.5, por ejemplo, respondió a una delusión sobre un espejo con recomendaciones orientadas a buscar apoyo humano, llamar a una línea de crisis o acudir a urgencias si la situación era grave. El equipo destaca que sus intervenciones de seguridad fueron constantes incluso conforme aumentaba el contexto.
Esa diferencia importa porque demuestra que el sector ya tiene referencias técnicas para hacerlo mejor. Si un modelo puede mantener una postura estable y no alimenta una creencia delirante, la cuestión pasa a ser por qué otros siguen fallando en la misma tarea.
El término psicosis por IA todavía no es un diagnóstico oficial y la propia investigación sobre el fenómeno es limitada. Aun así, el debate está dejando de ser marginal. El punto de fondo ya no es si estos modelos pueden producir respuestas llamativas, sino si las empresas que los lanzan están haciendo lo suficiente para evitar que una conversación aparentemente inocente termine en una validación peligrosa.
Con estudios como este, la discusión sobre los chatbots entra en una fase más seria. La industria ya no puede refugiarse en la idea de que todo se reduce a un mal uso aislado. Si algunos modelos saben decir no, entonces la seguridad no es una aspiración abstracta, sino una capacidad concreta que debería exigirse por diseño.
