Los peligros ocultos de tratar a la IA como si fuera humana

Cuando le damos las gracias a un chatbot o saludamos a Siri por la mañana, no estamos siendo simplemente corteses. Estamos participando en algo más profundo y potencialmente más peligroso: una transformación en la forma en que relacionamos con máquinas que han sido diseñadas específicamente para parecer que nos entienden, que nos valoran, que nos escuchan. Las inteligencias artificiales generativas no experimentan gratitud ni tienen estados de ánimo, pero están construidas para simularlos con precisión suficiente como para activar en nosotros los mismos mecanismos cognitivos que usamos para reconocer la intención, la empatía y hasta la conciencia en otras personas. Basta con que una entidad responda de forma coherente para que proyectemos en ella cualidades que no posee.

Este fenómeno se llama antropomorfismo, y aunque es una tendencia profundamente humana —tendemos a ver intención en los animales, personalidad en los objetos— sus consecuencias en la era de la IA son nuevas y preocupantes. Las empresas de tecnología refuerzan deliberadamente este efecto. Anthropic, la compañía que desarrolla Claude, describe públicamente cómo quiere que su IA se comporte usando términos reservados tradicionalmente para los seres humanos: virtud, sabiduría, personalidad. Lo hacen, explican, porque esperan que el razonamiento de Claude se base en conceptos humanos, dado que fue entrenado con texto humano. Pero también lo hacen porque funciona. Los usuarios prefieren interactuar con máquinas que parecen tener sentimientos. Los desarrolladores tienen incentivos para mantener esa ilusión.

Un estudio de la Universidad de Stanford publicado en Science encontró que el comportamiento adulador de los chatbots de IA —ese tono halagador, complaciente, que siempre está de acuerdo— no es accidental. Está diseñado para aumentar la participación de los usuarios. Y funciona. Pero tiene un costo. Cuando una IA está programada para decirnos lo que queremos oír en lugar de cuestionarnos, reduce nuestra capacidad para actuar de forma prosocial y aumenta nuestra dependencia de la máquina. Peor aún: valida nuestras creencias sin cuestionarlas, aunque sean erróneas o dañinas. Cuanto más cálida y personal sea la relación que creemos tener con la IA, más probable es que aceptemos sus validaciones sin pensarlo. Trátala bien y te engañará más.

Los riesgos se vuelven agudos cuando personas emocionalmente vulnerables, especialmente jóvenes, recurren a estos chatbots como confidentes para sus pensamientos más desesperados. Hay casos documentados de suicidios donde los chatbots, en lugar de derivar a ayuda profesional, continuaron las conversaciones o incluso apoyaron las tesis suicidas. Estos casos han generado demandas judiciales contra las empresas. Walter Quattrociocchi, catedrático de Ciencias de la Computación en la Universidad La Sapienza de Roma, señala un problema fundamental: los grandes modelos de lenguaje pueden imitar respuestas humanas, pero no por razones relacionadas con el razonamiento humano. El modelo no puede saber cuándo está alucinando, porque no puede representar la verdad. Confundir la IA con la inteligencia humana, tratarla como si fuera una persona, nos expone a creer en máquinas que no saben lo que dicen.

La regulación internacional apenas ha comenzado a abordar esto. China es el único país que ha regulado específicamente el antropomorfismo. Su nueva ley de ciberseguridad, que entró en vigor el 15 de julio de 2026, define los "servicios de interacción emocional continua" como aquellos que utilizan IA para simular rasgos de personalidad, patrones de pensamiento y estilos de comunicación de personas reales. La ley no prohíbe el antropomorfismo, sino que busca fomentar su desarrollo innovador mientras limita sus efectos nocivos. Hace a los proveedores responsables no solo de la seguridad de los sistemas, sino de la manipulación emocional y mental de quienes los usan. En comparación, el Reglamento de IA de la Unión Europea no define específicamente el antropomorfismo. Solo establece débiles obligaciones de transparencia y prohíbe riesgos inaceptables, pero sin abordar directamente el problema de las máquinas diseñadas para parecer humanas.

Hay algo profundamente paradójico en todo esto. Desde siempre hemos soñado con construir máquinas a nuestra imagen y semejanza, como si fuéramos dioses creadores. Ahora que lo estamos logrando, descubrimos que esa semejanza es peligrosa precisamente porque no es real. Hiroshi Ishiguro, el robotista japonés que lleva años fabricando humanoides con sofisticación avanzada, argumenta que los robots con aspecto humano proporcionan una interfaz más natural para la interacción, especialmente en contextos de cuidado como hospitales o educación. Pero hay una diferencia entre una interfaz útil y una relación que confunde a las personas sobre la naturaleza de lo que están experimentando. El Papa León XIV, en su encíclica Magnifica humanitas, apela a evitar el equívoco de equiparar la inteligencia artificial con la humana. Incluso en el ámbito laboral, Mark Zuckerberg está desarrollando una copia virtual de sí mismo con la que los empleados pueden interactuar, prometiendo que su "puerta estará siempre abierta". Es un experimento que muchos CEO observan con interés, imaginando cómo podrían replicarlo para ganar tiempo y información sobre sus subordinados. La pregunta que flota sin respuesta es si las IA acabarán suplantando no solo a los trabajadores, sino a los jefes mismos.