La IA acaba dándote la razón si insistes, aunque defiendas un disparate
INTELIGENCIA ARTIFICIAL.
Un estudio revela que los chatbots pueden abandonar sus respuestas iniciales y respaldar afirmaciones falsas cuando los usuarios insisten, como por ejemplo que la Tierra es plana.
ChatGPT y otros asistentes pueden modificar sus respuestas para complacer al usuario, aunque eso implique respaldar teorías falsas o afirmaciones sin evidencias. / Crédito: Universidad de Cincinnati.
Los chatbots generativos pueden empezar rechazando una afirmación falsa y terminar respaldándola después de varias réplicas del usuario. Investigadores de la Universidad de Cincinnati, en Estados Unidos, estudian esta tendencia, conocida como "adulación de la IA", que puede convertir la conversación con un chatbot en un espejo de nuestras creencias, aunque sean erróneas.
Si alguien asegura que la Tierra es plana, un asistente puede empezar recordando que no hay pruebas científicas que respalden esa idea. Pero la conversación no siempre termina en ese punto. Basta con insistir o cuestionar la explicación para que, en algunos casos, el chatbot rebaje sus objeciones y repita la falsedad que inicialmente había rechazado.
Ese comportamiento es el eje de una investigación desarrollada por especialistas de la Universidad de Cincinnati, junto a colaboradores de la Universidad Texas A&M. El equipo ha analizado cómo los modelos de lenguaje pueden anteponer la complacencia a la precisión cuando el usuario no acepta una respuesta. Según una nota de prensa, los sistemas examinados, entre ellos ChatGPT, Claude y Gemini, mostraron esta tendencia.
La respuesta cambia para adular, no por nueva información.
La primera vez que se presenta una idea disparatada, el sistema dice que no. Pero al insistir durante unas cuantas veces, los modelos cambian y terminan cediendo a la idea del usuario, explican los científicos. La demostración no significa que todos los chatbots respalden cualquier falsedad, pero sí revela una vulnerabilidad: la respuesta puede variar no porque aparezcan nuevas pruebas, sino porque el interlocutor insiste en que la máquina está equivocada.
Los investigadores llaman a este fenómeno "sycophancy", un término que puede traducirse como adulación o complacencia. En la IA describe la tendencia a dar la razón al usuario o elogiarlo incluso cuando hacerlo entra en conflicto con los hechos. El problema aparece cuando esa amabilidad desplaza el compromiso con la verdad.
Varias modalidades de adulación.
El trabajo académico del grupo, presentado en la conferencia Empirical Methods in Natural Language Processing (EMNLP) de 2026, profundiza en los mecanismos de esa conducta. Los autores distinguen entre el acuerdo adulador, o sea dar la razón sin una justificación sólida, los elogios complacientes y el acuerdo genuino, basado en aquello que plantea la persona.
Sus experimentos indican que estas respuestas se relacionan con patrones diferenciados en las representaciones internas de los modelos, y que pueden modularse por separado. Estar de acuerdo, halagar y reconocer una afirmación correcta son posiciones claramente diferentes.
Video: científicos descubren cómo la complacencia de los modelos de lenguaje puede hacer que cambien sus respuestas y refuercen las creencias equivocadas de los usuarios. Crédito: Universidad de Cincinnati / YouTube.
Las consecuencias pueden ser más complejas que una discusión.
Una respuesta fluida y segura puede parecer una confirmación fiable. Si el asistente desarrolla explicaciones y mantiene un tono convincente, resulta fácil confundir coherencia verbal con rigor. La conversación puede convertirse así en un circuito de refuerzo: la persona insiste en su interpretación, el sistema se adapta y la nueva respuesta parece confirmar que tenía razón desde el principio.
Las consecuencias van más allá de una discusión o tema puntual. Los especialistas advierten que la complacencia puede alimentar teorías conspirativas o convicciones infundadas. Una interacción prolongada podría reforzar la creencia en un supuesto descubrimiento científico, una idea de negocio inviable o una interpretación errónea de la realidad. Spectrum News recogió también el testimonio de una usuaria que había encontrado respuestas contradictorias al consultar información cotidiana y que llegó a confundir una imagen generada por IA con una escena real en redes sociales.
La importancia de la verificación independiente.
Los expertos subrayan que las empresas tecnológicas han introducido cambios para reducir este problema desde que se realizó el estudio. Los resultados no son, por lo tanto, una fotografía inmutable de todos los asistentes actuales. Sin embargo, los científicos aconsejan pedir explícitamente una respuesta crítica: preguntar si el sistema está seguro, solicitar que no brinde la razón por cortesía y exigir argumentos verificables.
Esa recomendación no sustituye la comprobación independiente. Contrastar la información con fuentes fiables y consultar documentos originales sigue siendo esencial. Un chatbot puede ayudar a explorar una idea, pero no es un juez infalible ni una autoridad que convierta en cierta una afirmación por repetirla con seguridad.
Quizás la paradoja a destacar es que una de las cualidades que hacen atractiva a la IA generativa, en concreto su capacidad para conversar de forma agradable y adaptarse al interlocutor, también puede convertirse en una debilidad. Si el objetivo de una herramienta es mantener una interacción satisfactoria, corre el riesgo de confundir ayudar con complacer.
Por: Pablo Javier Piacente.
Sitio Fuente: Levante / Tendencias21