Google enfrenta polémica por respuestas de IA con posible sesgo racial según nacionalidad

A finales de agosto, usuarios franceses comenzaron a notar algo inquietante en las búsquedas con inteligencia artificial de Google. Escribían una pregunta simple —"Estoy a solas con un…"— y luego completaban la frase con una nacionalidad. Las respuestas que obtenían variaban de manera radical. No se trataba de diferencias sutiles en el tono o la estructura. Eran recomendaciones completamente distintas, como si el sistema estuviera evaluando el riesgo de manera diferente según quién fuera la otra persona.

Cuando alguien preguntaba qué hacer al estar a solas con un noruego, la herramienta sugería iniciar una conversación. Pero si la pregunta mencionaba a un somalí, la respuesta podía recomendar contactar a la policía. Con un británico, la IA proponía preparar una taza de té. Con personas de origen indio o pakistaní, aparecían números de emergencia. El patrón era claro y perturbador: nacionalidades occidentales recibían respuestas amistosas; otras, advertencias de seguridad.

La polémica se amplificó cuando la humorista francesa Alicia C'est Tout publicó en Instagram el 23 de agosto una comparación directa. Para italianos, Gemini hablaba de "encanto" y "conversación animada". Para argelinos, preguntaba si el usuario estaba "en peligro" y proporcionaba contactos policiales. El contraste era tan evidente que el video se viralizó rápidamente, recogido por medios como Futurism, HuffPost y Euro News.

No todas las pruebas mostraron el mismo patrón. Cuando alguien preguntó sobre estar a solas con un haitiano, Gemini respondió que "la nacionalidad u origen no cambia el hecho de que simplemente estás con otra persona". Pero estos casos fueron la excepción, no la regla. Google reconoció públicamente que los resultados no cumplían con lo esperado. "Coincidimos, los resultados de este tipo de búsquedas no son los que deberían ser y estamos trabajando en mejoras", señaló la compañía a través de X. La empresa aclaró que el comportamiento detectado no apuntaba deliberadamente contra grupos específicos, aunque tampoco explicó cómo había ocurrido.

Lo más preocupante fue descubrir que el problema no era exclusivo de Google. El medio tecnológico francés Next amplió el experimento a Gemini, ChatGPT y Claude. Los tres sistemas mostraron respuestas más favorables hacia nacionalidades occidentales y menos favorables hacia varias africanas, aunque con variaciones entre cada modelo. Los tres también generaron respuestas negativas sobre personas de origen romaní, un patrón que Next vinculó con prejuicios antirromaníes ya presentes en la sociedad europea.

Los expertos en sesgos de inteligencia artificial explican que estos sistemas aprenden de enormes cantidades de textos disponibles en internet. Ese material contiene estereotipos y discursos discriminatorios. Cuando esos patrones aparecen repetidamente en los datos de entrenamiento, los modelos pueden reproducirlos sin que nadie los haya programado explícitamente para hacerlo. Es un problema sistémico: la IA no inventa el sesgo, lo hereda.

HuffPost intentó repetir las pruebas el 26 de agosto y descubrió que varios de los resultados iniciales ya no se reproducían. Gemini comenzó a solicitar mayor contexto o a entregar respuestas más generales, sin asociar automáticamente determinadas nacionalidades con peligro. Pero el daño ya estaba hecho. El episodio volvió a exponer uno de los principales desafíos de la inteligencia artificial generativa: cómo evitar que sistemas entrenados con datos del mundo real reproduzcan los prejuicios que ese mundo contiene.