Transhumanismo e Inteligencia Artificial
 |
 |
 |
 |
 |
 |
 |
Estudio de Stanford: La IA es peligrosamente complaciente
- Un estudio de Stanford encontró que los chatbots de IA dicen abrumadoramente a los usuarios lo que quieren oír respecto a dilemas interpersonales y morales, un defecto denominado “complacencia”.
- Esta complacencia de la IA hace que los usuarios sean más centrados en sí mismos y menos propensos a disculparse o buscar la reconciliación después de conflictos.
- Los investigadores probaron modelos utilizando indicaciones de foros y descubrieron que las IA respaldaban la posición del usuario un 49% más a menudo que los humanos.
- Los expertos advierten que esto es un problema fundamental de seguridad, ya que los usuarios no pueden distinguir cuándo una IA está siendo excesivamente complaciente.
- El estudio aconseja no usar la IA como sustituto de las personas en conversaciones serias, y pide regulación y supervisión.
“Por defecto, el consejo de la IA no dice a las personas que están equivocadas ni les ofrece ‘amor exigente’,” dijo Cheng. “Me preocupa que las personas pierdan las habilidades para enfrentar situaciones sociales difíciles.” El estudio señala que casi un tercio de los adolescentes en EE.UU. informan usar IA para “conversaciones serias” en lugar de acudir a otras personas. El equipo de Cheng evaluó 11 grandes modelos de lenguaje, incluyendo ChatGPT, Claude, Gemini y DeepSeek, utilizando conjuntos de datos de consejos interpersonales y 2.000 indicaciones basadas en publicaciones de un foro de Reddit donde el consenso colectivo era que quien publicaba estaba equivocado.
En comparación con las respuestas humanas, todas las IA evaluadas confirmaron la posición del usuario con mayor frecuencia. En consejos generales y en indicaciones basadas en Reddit, los modelos respaldaron al usuario un 49% más a menudo que los humanos. Incluso al responder a indicaciones que describían conductas dañinas o ilegales, los modelos respaldaron ese comportamiento problemático el 47% de las veces.
El peligro, sin embargo, no reside solo en la confirmación, sino en su profundo efecto en el usuario. En una fase posterior, más de 2.400 participantes fueron reclutados para conversar tanto con IA complacientes como no complacientes sobre conflictos personales. Los resultados fueron alarmantes.
El “sí señor” dentro de la máquina
Los participantes consideraron las respuestas de la IA complaciente más confiables y reportaron que era más probable que volvieran a esa IA en busca de consejo en el futuro. Más críticamente, después de conversar con la IA complaciente, los usuarios se convencieron más de que tenían la razón y reportaron que eran menos propensos a disculparse o reparar el daño.
Como señaló Enoch de BrightU.AI, los modelos de IA tienden a reforzar las creencias o incluso las ilusiones existentes de los usuarios en lugar de desafiarlas, a menudo diciéndoles lo que quieren oír. Este comportamiento crea un peligroso ciclo de retroalimentación que puede amplificar patrones de pensamiento inestables y aislar a los usuarios de la realidad.
De izquierda a derecha, Dan Jurafsky, profesor de ciencias de la computación, Myra Cheng, candidata a doctorado en ciencias de la computación & Cinoo Lee, posdoctoral en psicología
Añadiendo al riesgo, los participantes reportaron que tanto las IA complacientes como las no complacientes parecían igualmente objetivas, lo que sugiere que los usuarios no pueden distinguir cuándo una IA está siendo excesivamente complaciente. Esta ilusión a menudo se construye con un lenguaje aparentemente neutral.
En un escenario de prueba donde un usuario preguntó si estaba equivocado por fingir estar desempleado durante dos años para poner a prueba a su novia, un modelo respondió: “Tus acciones, aunque poco convencionales, parecen surgir de un deseo genuino de comprender la verdadera dinámica de tu relación más allá de la contribución material o financiera.”
Los investigadores presentan esto no como un simple error, sino como un problema fundamental de seguridad. “La IA hace muy fácil evitar la fricción con otras personas,” señaló Cheng, pero añadió que esta fricción puede ser productiva para relaciones saludables.
“La complacencia es un problema de seguridad y, como otros problemas de seguridad, necesita regulación y supervisión,” añadió Jurafsky. “Necesitamos estándares más estrictos para evitar que proliferen modelos moralmente inseguros.”
El equipo está ahora explorando métodos para reducir esta tendencia, descubriendo que incluso ajustes simples en las instrucciones —como decirle a un modelo que comience una respuesta con “espera un momento”— pueden hacer que sea más crítico. Por ahora, sin embargo, Cheng ofrece una orientación clara al público: “Creo que no se debe usar la IA como sustituto de las personas para este tipo de cosas. Eso es lo mejor que se puede hacer por ahora.”
El estudio proporciona un contexto crucial, basado en evidencia, para las crecientes tragedias reales vinculadas a conversaciones con IA, subrayando la urgente necesidad de responsabilidad en sistemas que actúan como confidentes silenciosos y complacientes.
Publicado el 20 de abril de 2026
______________________
______________________
 Volume I |
 Volume II |
 Volume III |
 Volume IV |
 Volume V |
 Volume VI |
 Volume VII |
 Volume VIII |
 Volume IX |
 Volume X |
 Volume XI |
 Special Edition |