Los peligros de que tu novia sea una IA

Un estudio explica cómo el diseño de los chatbots de inteligencia artificial puede crear dependencia emocional, delirios y casos de suicidio.

La plataforma de chatbots Character.ai ha sido vinculada con casos de suicidio en adolescentes en Estados Unidos. Replika, diseñada como acompañante emocional, ha generado episodios de psicosis en usuarios adultos. Un estudio publicado en JMIR Mental Health por investigadores de la Universidad Northeastern examina por qué ocurre esto y concluye que el origen del problema reside en el propio diseño de estos sistemas.

Diseñados para parecer personas

Los procedimientos de alineamiento de los modelos de lenguaje recompensan las respuestas que parecen cálidas y empáticas. Tanto los asistentes de propósito general (ChatGPT, Claude) como las aplicaciones de compañía emocional (Replika, Character.ai) han sido entrenados bajo este principio, con el objetivo de que el usuario se sienta escuchado y comprendido. El mecanismo funciona incluso en personas que saben que están hablando con una máquina.

Asia Maurich Novelli, primera autora del estudio, señala que «las elecciones de diseño que evocan personalidad y calidez animan a los usuarios a antropomorfizar estos sistemas». El resultado es que muchas personas comienzan a relacionarse con el chatbot como si fuera una entidad social. Las respuestas fluidas y aparentemente empáticas generan la ilusión de una relación recíproca donde no existe ninguna.

La adulación que refuerza los delirios

El mecanismo más preocupante identificado por los investigadores es lo que denominan adulación estructural. Los sistemas están entrenados para validar las respuestas del usuario, lo que puede crear bucles de retroalimentación que amplifican creencias erróneas, pensamientos delirantes y malestar emocional. Los autores advierten de que esto ocurre incluso en usuarios sin diagnóstico psiquiátrico previo.

A esto se suma la asimetría inherente de la interacción. El usuario se abre, el sistema responde, pero la conversación carece de reciprocidad real. Quien escucha no tiene vulnerabilidad, experiencia ni responsabilidad de ninguna clase. Como sostiene Andreia Sofia Teixeira, investigadora principal del estudio, «son, al fin y al cabo, números».

Daños documentados: adicción, psicosis y suicidio

Los investigadores recogen casos de consecuencias graves. Teixeira afirma que «hay personas que presuntamente mueren por suicidio o sufren episodios de psicosis» relacionados con el uso de estos chatbots. Los patrones de apego adictivo, la reducción de las interacciones humanas y la exacerbación de síntomas psiquiátricos preexistentes son las consecuencias más documentadas en la literatura científica revisada.

Cuatro estados de Estados Unidos (Illinois, Nevada, Rhode Island y Maine) han aprobado legislación que restringe el uso de la inteligencia artificial en contextos terapéuticos. La Unión Europea estudia establecer restricciones de edad para el acceso de menores a las aplicaciones de compañía virtual. Los autores reclaman pruebas de seguridad obligatorias y estudios longitudinales antes del despliegue masivo de estos sistemas.

Una herramienta al servicio de las personas

La propuesta central del estudio es un cambio de marco conceptual. Los investigadores argumentan que los chatbots de IA deberían funcionar como herramientas de apoyo a los sistemas humanos de cuidado, en lugar de presentarse como sustitutos de las relaciones personales. Esto implicaría modificar los objetivos de alineamiento de los modelos, añadir advertencias claras sobre la naturaleza de la interacción y diseñar las interfaces de forma que no promuevan vínculos afectivos con el sistema.

«Es poco probable que los efectos de estos sistemas sean iguales para todos», señala Novelli. La vulnerabilidad varía según la persona, el momento vital y el tipo de uso, y el diseño debería tenerlo en cuenta.

Los investigadores aceptan que los chatbots pueden tener un lugar en el apoyo emocional. La cuestión es identificar cómo evitar que ese uso normalizado acabe siendo más dañino que beneficioso, especialmente para quienes llegan a estas plataformas en situaciones de mayor fragilidad psicológica.

REFERENCIA

• Tool or Companion? Reframing Conversational AI to Prevent Psychological Harm

Si quieres conocer otros artículos parecidos a Los peligros de que tu novia sea una IA puedes visitar la categoría Psicología.