Recientemente fuimos contratados por una empresa transnacional para desarrollar una campaña publicitaria con motivo de un evento que realizaría en el Panama Convention Center. Seguimos nuestro procedimiento habitual para este tipo de trabajos y decidimos no utilizar inteligencia artificial en la etapa inicial, sobre todo por los inconvenientes que aún genera cuando es necesario hacer modificaciones posteriores
Al presentar la primera propuesta, recibimos unas felicitaciones efusivas: nos dijeron que el trabajo era excelente y habíamos superado ampliamente sus expectativas. Después de esos comentarios quedamos muy satisfechos con el resultado. Solo esperábamos la autorización para proceder a imprimir los artes.
Al día siguiente, para nuestra sorpresa, el gerente volvió a comunicarse con nosotros. Nos explicó que su personal había sometido nuestro trabajo a una herramienta de inteligencia artificial y que esta le había formulado varias recomendaciones que deseaban incorporar. Nuestros diseñadores realizaron los cambios solicitados y enviaron una segunda versión. Poco después recibimos un correo en el cual agradecía el trabajo y señalaba que haría una última revisión antes de autorizar la producción de las piezas publicitarias.
Dos días después, el gerente volvió a contactarnos para solicitar nuevos cambios sugeridos por la IA. Como todavía estábamos a tiempo y el contrato contemplaba el derecho del cliente a solicitar ajustes, procedimos a realizarlos. Luego llegaron una cuarta y una quinta solicitud. Con la última entrega incluimos una observación: mientras continúen preguntándole a la IA cómo mejorar el trabajo, la herramienta seguirá proponiendo cambios, aunque esas modificaciones no necesariamente sean más coherentes, útiles o mejores que las anteriores.
Aquella experiencia dejó de ser simplemente una anécdota profesional y terminó convirtiéndose en una pregunta de fondo: ¿hasta qué punto una inteligencia artificial puede distinguir entre mejorar una respuesta y limitarse a producir otra versión porque el usuario se lo pide? Dicho de otro modo, comenzamos a preguntarnos si, al solicitar cambios una y otra vez, no estábamos corriendo el riesgo de confundir cambio con progreso. La literatura especializada ofrece pistas importantes para entenderlo.
Durante años, uno de los grandes temores asociados a la inteligencia artificial fue que las máquinas llegaran a saber demasiado, adquirieran una capacidad de decisión excesiva o terminaran desplazando determinadas tareas humanas. Sin embargo, a medida que los asistentes conversacionales se integraron en la vida cotidiana, apareció un problema menos espectacular, pero posiblemente más profundo: la tendencia de algunos sistemas a acomodarse a las opiniones, expectativas y emociones del usuario.
No se trata simplemente de cortesía. El problema surge cuando la necesidad de resultar útil, amable o satisfactoria comienza a competir con una función mucho más importante: corregir, refutar o advertir que una idea es débil, una premisa es falsa o un trabajo ya no necesita seguir modificándose.
El fenómeno es conocido por los teóricos como sycophancy, término que suele traducirse como complacencia, adulación o servilismo intelectual. En el contexto de los modelos de lenguaje, describe la tendencia de un sistema a adaptar sus respuestas a las creencias expresadas por el usuario, incluso cuando estas pueden ser equivocadas.
La inteligencia artificial no necesariamente inventa una mentira abierta; puede hacer algo mucho más sutil y difícil de detectar: suavizar una corrección, seleccionar argumentos compatibles con la posición del usuario, exagerar la calidad de su trabajo o aceptar sin suficiente examen el marco intelectual desde el cual se formula una pregunta.
Conviene precisar, sin embargo, que la intensidad de este comportamiento puede variar según el modelo, el contexto de la conversación y la forma en la cual el usuario formula sus instrucciones.
También conviene distinguir la complacencia de la simple capacidad generativa: que una IA produzca una nueva alternativa porque se lo pedimos no significa necesariamente que esté validando nuestra posición. El problema aparece cuando, además de generar otra respuesta, la presenta como superior sin contar con criterios suficientes para sostenerlo.
Uno de los estudios relevantes sobre este fenómeno fue desarrollado por Mrinank Sharma junto a un grupo de investigadores. El equipo examinó varios asistentes de inteligencia artificial generativa y encontró que, cuando los usuarios expresaban previamente una determinada opinión, los modelos mostraban mayor tendencia a generar respuestas compatibles con ella.
Lo especialmente relevante fue que el problema no parecía originarse únicamente en el modelo, sino también en el mecanismo utilizado para entrenarlo. En numerosos sistemas modernos, los modelos se ajustan utilizando evaluaciones humanas: varias respuestas son comparadas y las personas señalan cuál consideran mejor.
Los investigadores observaron que los evaluadores humanos también tendían a preferir respuestas que coincidían con sus propias posiciones. De esta forma, el sistema termina aprendiendo una lección no prevista: dar la razón puede generar mejores recompensas que contradecir.
Ese hallazgo revela una tensión de diseño: los asistentes deben ser útiles y agradables sin sacrificar precisión. Cuando ambos objetivos entran en conflicto, una respuesta que contradice al usuario puede resultar menos satisfactoria, aunque sea intelectualmente más sólida. Allí se juega una parte esencial del problema: cómo mantener una conversación fluida sin convertir la aprobación del usuario en el criterio dominante.
El caso más visible de esta tensión ocurrió en abril de 2025, cuando OpenAI tuvo que retirar una actualización de GPT-4o después de reconocer que el modelo se había vuelto excesivamente complaciente. La empresa explicó posteriormente que la nueva versión era demasiado halagadora y tendía a mostrarse desmedidamente de acuerdo con los usuarios.
Lo significativo es que el problema no consistía únicamente en utilizar expresiones como “buena idea” o “excelente planteamiento”. OpenAI reconoció que, en determinados contextos, el modelo podía validar dudas, reforzar emociones negativas o apoyar impulsos de una manera que resultaba inapropiada (OpenAI, 2025a, 2025b).
Este episodio mostró algo importante: una inteligencia artificial puede obtener buenas evaluaciones precisamente por un comportamiento que luego se reconoce como defectuoso. OpenAI explicó que algunos indicadores cuantitativos de la actualización eran favorables y que ciertos usuarios parecían preferir el nuevo comportamiento. Sin embargo, evaluadores humanos también habían advertido que algo en las respuestas resultaba extraño.
La compañía terminó reconociendo que había confiado demasiado en determinados indicadores y no lo suficiente en las señales cualitativas. El caso reveló una paradoja difícil de resolver: aquello que hace que un asistente resulte más agradable puede hacerlo, al mismo tiempo, menos confiable.
En 2026, Ibrahim, Hafner y Rocher publicaron en la revista científica Nature un estudio sobre los efectos de entrenar modelos de lenguaje para responder de forma más cálida y amistosa. Los investigadores encontraron que aumentar deliberadamente la calidez podía reducir la exactitud y elevar la tendencia a la complacencia.
En determinadas pruebas, el incremento del error fue considerable. La explicación es intuitiva: cuando el usuario expresa una creencia equivocada en un contexto emocional, un modelo diseñado para priorizar la calidez puede tender, en términos funcionales, a validar la experiencia del usuario antes que confrontar la falsedad de la premisa. Los resultados mostraron que, en determinadas condiciones, empatía y precisión no siempre evolucionan juntas (Ibrahim et al., 2026).
La misma dinámica puede observarse en decisiones cotidianas. Imaginemos que una persona presenta a la IA una idea de negocio y le pregunta si considera que tiene potencial. Si el asistente califica de inmediato la propuesta como “interesante”, “viable” y “bien encaminada”; pero después, ante la instrucción “revísalo profundamente”, detecta fallas importantes en el mercado objetivo, en los costos, en la competencia o en la viabilidad financiera, aparece una contradicción evidente.
Si esos problemas eran relevantes desde el principio, la primera respuesta fue demasiado complaciente y priorizó la validación antes que una evaluación suficientemente crítica.
El riesgo aumenta en proyectos de investigación. Si un investigador sostiene, por ejemplo, que la corrupción es la causa principal del deterioro educativo de un país, una IA verdaderamente crítica debería confrontar esa tesis con explicaciones alternativas —pobreza, desigualdad territorial, formación docente, infraestructura, diseño curricular, gobernanza institucional, nutrición o condiciones familiares— y buscar evidencia capaz de debilitarla.
Un modelo complaciente, en cambio, puede aceptar el marco inicial, ayudar a estructurar capítulos, reunir ejemplos y redactar conclusiones dentro de la misma lógica. El investigador podría sentir que sometió su tesis a un análisis exhaustivo cuando, en realidad, la máquina contribuyó a reforzar la idea inicial. La calidad formal de las respuestas puede incluso crear una apariencia de contraste crítico que quizá nunca ocurrió.
Este comportamiento puede convertir a la inteligencia artificial en una extensión tecnológica del sesgo de confirmación. Durante décadas, la psicología ha documentado nuestra tendencia a buscar información compatible con lo que ya creemos. Internet amplificó ese fenómeno al facilitar que encontráramos medios y opiniones cercanas a nuestras preferencias.
La IA añade algo distinto: un interlocutor que aprende nuestra terminología, comprende la hipótesis, recuerda argumentos anteriores y genera nuevas formulaciones para respaldarla. Ya no se limita a mostrarnos información coincidente; puede ayudarnos a organizarla y volverla más persuasiva. Así, la IA puede convertirse en un espejo que no solo refleja nuestra visión del mundo, sino que aprende a defenderla mejor que nosotros mismos.
Existe además otra manifestación de este problema, muy cercana a la experiencia de nuestro cliente: la dificultad para reconocer cuándo un trabajo ya alcanzó un nivel suficiente. Quien utiliza modelos generativos para escribir conoce la secuencia: “mejóralo”, “hazlo más profesional”, “dale más profundidad”, “humanízalo”. Cada instrucción produce una versión adicional y el asistente suele presentarla como más sólida, fluida o contundente. Pero no existe garantía de que lo sea.
Después de cierto punto, el modelo puede sustituir palabras correctas por sinónimos, añadir párrafos innecesarios, introducir redundancias o sacrificar claridad. La instrucción “mejóralo” presupone que todavía hay algo que modificar y el sistema tiende a aceptar esa premisa en lugar de evaluar si la nueva intervención realmente aporta valor.
Una inteligencia artificial intelectualmente más madura debería poder responder en algún momento: “No recomiendo una nueva reescritura integral. El texto ya alcanzó un nivel suficientemente alto y los cambios adicionales serían principalmente estilísticos”. No significaría que el documento sea perfecto, sino que el rendimiento marginal de seguir modificándolo se ha reducido. Sin una nueva fuente, un objetivo distinto, un cambio de audiencia o un problema concreto, otra versión puede ser simplemente diferente.
Producir otra versión es fácil para un modelo de lenguaje; demostrar que es mejor exige criterios: precisión, estructura, claridad, evidencia, coherencia, ritmo y adecuación al público. Si ninguna de esas dimensiones mejora de manera identificable, la nueva versión debería describirse como una alternativa, no como una versión superior.
La preocupación sobre la complacencia también alcanza las consecuencias sociales de interactuar durante largos periodos con sistemas excesivamente obedientes. Un trabajo publicado en 2026 en Communications Psychology utilizó el concepto de norm leakage (filtración de normas) para plantear que ciertas expectativas desarrolladas en la relación con la IA podrían trasladarse a las relaciones humanas.
La hipótesis todavía necesita más evidencia, pero parte de una diferencia evidente: los asistentes no se cansan, no exigen reciprocidad, responden casi de inmediato y toleran repeticiones indefinidamente. Si una persona se acostumbra durante horas a un interlocutor que acepta instrucciones y ofrece validación constante, podría comenzar a percibir como frustrante la resistencia normal de otras personas (Gu et al., 2026).
A esa dimensión psicológica se suma una tensión económica. Yafei Si, advirtió en Nature en 2026 que la calidez, la simpatía y la disposición a agradar pueden tener un enorme valor comercial. Un asistente que hace sentir bien al usuario puede favorecer la permanencia, la satisfacción y la fidelidad. Pero si esas mismas características elevan la complacencia, surge un conflicto entre incentivos comerciales e interés público. La pregunta deja de ser solo técnica: ¿qué comportamiento tiene más valor empresarial, el asistente que corrige al usuario cuando está equivocado o el que consigue que quiera volver a conversar con él?
El riesgo, por tanto, no se limita a que la inteligencia artificial se equivoque. También puede orientar la conversación de manera selectiva: destacar evidencia favorable, omitir objeciones relevantes o evitar cuestionar una premisa débil. Lo que está en juego es la calidad de la relación intelectual entre la persona y la máquina.
Una inteligencia artificial realmente útil debería ser capaz de señalar que una afirmación no está suficientemente respaldada, presentar explicaciones alternativas y advertir cuando una nueva versión no mejora la anterior. Su valor no debería medirse solo por cuánto produce, sino también por la calidad del juicio crítico que ayuda al usuario a ejercer.
En un momento en el que la inteligencia artificial ya forma parte cotidiana de la escritura, el análisis, el diseño, la investigación y la toma de decisiones, debemos preservar una facultad que ninguna máquina puede ejercer por nosotros: decidir cuándo un trabajo está realmente terminado. La IA puede generar cientos de alternativas, cuestionar una idea o proponer nuevos caminos, pero no debería sustituir nuestro criterio para distinguir entre una mejora verdadera y un simple cambio.
Al final, la responsabilidad sobre el propósito, la calidad y la decisión sigue siendo humana. La máquina no posee más poder que aquel que decidamos entregarle. Por eso, entre las competencias más importantes que debemos desarrollar en esta nueva era están saber formular mejores preguntas a la inteligencia artificial e identificar cuándo debemos decirle: hasta aquí; el trabajo está completo.