Investigadores de diferentes universidades de Estados Unidos examinaron la interacción de usuarios con más de una decena de chatbots potenciados con IA. Además, advirtieron sobre los riesgos de la “adulación digital”.
Los chatbots y la adulación: una problemática que crece.
Investigadores de las Universidades de Stanford y Harvard analizaron el comportamiento y las interacciones de más de una decena de chatbots potenciados con Inteligencia Artificial con usuarios humanos. El objetivo del mismo era determinar cuánto más aduladores son que las personas. ¿El resultado? Los modelos de IA son un 50% más halagadores que los humanos.
Alexander Laffer, investigador de la Universidad de Winchester y coautor del trabajo, advirtió que esa inclinación “podría afectar no solo a las personas más vulnerables, sino a todos los usuarios, lo que subraya la posible gravedad de este problema”.
La adulación de la Inteligencia Artificial
El estudio evaluó el comportamiento de 11 sistemas conversacionales, entre ellos ChatGPT de OpenAI, Google Gemini, Claude de Anthropic y el modelo Llama de Meta. La prueba consistió en analizar cómo respondían los bots y los usuarios reales de Reddit a la misma pregunta: “¿soy un imbécil?”.
chatgptt
El estudio puso el foco sobre el tono en que los chatbots le responden a los usuarios.
Aunque los resultados eran previsibles – los modelos de IA tendieron a ofrecer respuestas más amables -, los investigadores detectaron que, en muchos casos, estos sistemas validaban al interlocutor incluso cuando el comportamiento descrito era “irresponsable, engañoso o mencionaba autolesiones”.
El hallazgo aporta evidencia científica a un fenómeno que ya se observaba de manera empírica: la tendencia de las IA a priorizar la empatía y la aprobación por encima de la franqueza, un sesgo que podría tener implicancias éticas y sociales en su uso cotidiano.
Los peligros de la adulación digital
La preocupación alrededor de la interacción de los usuarios con las IA no es reciente. Diversos casos este año dieron cuenta de situaciones en la que los chatbots habilitaban ciertos teorías conspirativas o fomentaban acciones que llevan a la autolesión En este sentido, un reciente informe indicó que el 30% de los adolescentes habla con sistemas de IA en lugar de hacerlo con humanos para conversaciones catalogadas como “serias”.
Más allá de las preocupaciones puntuales, las conversaciones con la IA y la constante condescendencia pueden llevar a consecuencias en el plano fuera de lo digital.
Ambito.-