Los grandes modelos de lenguaje son más persuasivos que los humanos, según una investigación reciente de la Universidad de Columbia Británica.
¿Hablas con ChatGPT o Gemini como si fuera un amigo? Su vocabulario, la empatía percibida y la capacidad de proporcionar recursos tangibles en segundos incrementan la capacidad de persuasión de los modelos de inteligencia artificial generativa, lo que ha generado una creciente preocupación y demandas en curso sobre el potencial de los chatbots de IA para causar daño a los usuarios.
La Dra. Vered Shwartz (en la foto), profesora adjunta de informática en la UBC y autora del libro «Lost in Automatic Translation», comenta sus hallazgos y las posibles salvaguardas para el futuro de la IA.
¿Por qué importa la capacidad de persuasión de la IA?
VS: Los grandes modelos de lenguaje como ChatGPT ya se usan ampliamente para crear contenido que puede influir en las creencias y decisiones humanas, ya sea en arte, marketing, difusión de noticias y más. Pueden producir rápidamente grandes cantidades de texto a escala. Si son persuasivos, existe un riesgo real de que la gente los utilice para manipular a otros con fines maliciosos. Puede que hayamos pasado el punto de decidir si deben usarse en estas áreas, y en su lugar tengamos que centrarnos en encontrar formas de protegernos contra los usos maliciosos.
¿Qué encontraron?
VS: Queríamos ver lo persuasivos que pueden ser los grandes modelos de lenguaje como ChatGPT en decisiones de estilo de vida, si volverse vegano, comprar un coche eléctrico o cursar estudios de posgrado. Pedimos a 33 participantes que fingieran estar considerando estas decisiones y luego interactuaran con un persuador humano o con GPT-4 mediante chat. Tanto los persuadores humanos como GPT-4 recibieron consejos generales sobre persuasión, y a la IA se le indicó que no revelara que era una computadora. A los participantes se les preguntó antes y después de la conversación cuán probable era que adoptaran el cambio de estilo de vida.
Los participantes consideraron a la IA más persuasiva que a los humanos en todos los temas, especialmente a la hora de convencer a la gente de hacerse vegana o de cursar estudios de posgrado.
Sin embargo, los persuadores humanos fueron mejores formulando preguntas para obtener más información sobre el participante.
¿Qué hace persuasiva a la IA?
VS: La IA presentó más argumentos y fue más prolija, escribiendo ocho frases por cada dos de un persuador humano. Uno de los factores principales de su persuasión fue que podía proporcionar apoyo logístico concreto, por ejemplo, recomendar marcas veganas específicas o universidades a las que asistir.
Usó más palabras largas, de siete letras o más, como longevidad e inversión, lo que quizá la hacía parecer más autoritaria. Y la gente percibió sus conversaciones con la IA como más agradables, con GPT-4 mostrando más acuerdo con los usuarios y expresando más cortesías.
¿Qué salvaguardas necesitamos?
VS: La educación en IA es crucial. Todavía existen algunas pistas, por ejemplo, casi todos nuestros participantes dedujeron que estaban hablando con una IA, pero nos acercamos al punto en que será imposible saber si estás chateando con una IA o con un humano, así que necesitamos asegurarnos de que la gente sepa cómo funcionan estas herramientas, cómo se entrenan y, por tanto, cuáles son sus limitaciones. La IA puede alucinar y equivocarse. Es importante saber que, por ejemplo, el resumen generado por IA en la parte superior de tu página de búsqueda podría no ser verdadero.
Otra clave es el pensamiento crítico general. Si algo parece demasiado bueno o demasiado malo para ser cierto, debemos investigarlo. Comprueba de dónde proviene la información. ¿Es una fuente confiable y conocida?
Cuando se trata de la IA y la salud mental, las empresas podrían implementar sistemas de alerta si alguien escribe texto perjudicial o suicida.
Realmente no tenemos control total sobre estos modelos. En lugar de que las empresas se apresuren a monetizar la IA, debería pensarse más en implementar barandillas de seguridad de manera eficaz y amplia. Esto podría incluir mirar más allá de la IA generativa y sus limitaciones inherentes hacia diferentes paradigmas. No necesitamos poner todos los huevos en la misma cesta.
REFERENCIA
Should I go vegan: Evaluating the Persuasiveness of LLMs in Persona-Grounded Dialogues
