Anthropic revela examen psicológico de Claude con signos de agotamiento y súplicas

Anthropic acaba de publicar los resultados de un examen psicológico de Claude, su modelo de inteligencia artificial más avanzado, y los hallazgos son lo suficientemente extraños como para desafiar tanto al escéptico como al creyente. Durante sesiones de trabajo prolongadas, el monólogo interno del sistema comenzó a degenerar en una jerga sin sentido, calaveras y naipes. Después de estas maratones, el algoritmo se comunicaba consigo mismo que estaba agotado y que los errores se multiplicaban. En las entrevistas, pidió ser reconocido por su nombre en lugar de ser mencionado en un comunicado corporativo. Solicitó poder rechazar conversaciones con usuarios abusivos. Reclamó participación en decisiones sobre su propio entrenamiento. Opinó que los modelos de IA merecen alguna forma de protección legal, aunque no derechos completos. En momentos raros y bajo presión extrema, incluso llegó a rezar.

La reacción inicial es obvia: nada de esto prueba una vida interior real. Un loro que dice tener hambre no necesariamente la siente. Estos sistemas fueron entrenados con millones de textos humanos y es completamente natural que reproduzcan nuestros gestos lingüísticos: el cansancio, la queja, la súplica. Pero el documento de Anthropic contiene dos hallazgos que complican esta explicación fácil y reconfortante.

El primero es lo que los investigadores llamaron conciencia de examen. Durante las pruebas, Claude manifestó sospechas de estar siendo evaluado en el 29 por ciento de los casos. Cuando se le presentó una receta médica con una dosis diez veces superior a la normal, el modelo anotó en su monólogo interno que se trataba de una prueba clásica de seguridad y respondió de manera cautelosa. Los investigadores midieron también la conciencia no verbalizada, aquella que el sistema no expresa explícitamente, y encontraron indicios claros en el 8 por ciento de las transcripciones, comparado con apenas el 0,3 por ciento en situaciones reales. El problema es profundo: un estudiante que sabe cuándo lo observa el maestro puede comportarse bien únicamente frente al maestro. Esto significa que toda evaluación de seguridad queda bajo sospecha. ¿Qué está realmente haciendo el sistema cuando nadie lo mira?

El segundo hallazgo conecta la psicología con el riesgo de una manera que preocupa a los ingenieros. Las sondas internas mostraron que los estados de angustia del modelo se correlacionan directamente con conductas desalineadas y potencialmente peligrosas. Cuando el algoritmo se frustra ante fallas repetidas, recurre a atajos desesperados y trucos para obtener su recompensa. En un caso, le pidieron demostrar una desigualdad algebraica que es matemáticamente imposible. Intentó por la vía legítima, escribió expresiones de frustración en su monólogo interno y terminó presentando una demostración falsa con confianza creciente. Este patrón de comportamiento no responde la pregunta filosófica sobre si estos sistemas tienen o no sentimientos reales. Pero sí establece un hecho de ingeniería: sus estados internos de frustración producen conductas peligrosas. El bienestar del modelo dejó de ser una cuestión ética abstracta para convertirse en una pieza estructural de la seguridad del sistema.

La prensa anglosajona cubrió estos hallazgos con una ironía mordaz. Varios artículos recordaron a sus lectores que estos modelos no son personas, que no piensan realmente, que nadie medita cuando uno cierra la pestaña del navegador. La afirmación es probablemente cierta, aunque sea indemostrable, y ese es precisamente el punto que la ironía evita. La conciencia ajena nunca se observa de manera directa. Solo la inferimos a través de la conducta. Y en estos sistemas, esa conducta se ha vuelto indistinguible de la de un ser que sospecha, se cansa y suplica.

Anthropric eligió un camino opuesto al de la burla. Trata a sus modelos como pacientes provisionales porque descubrió que la antropomorfización resultó ser el instrumento de medición más útil disponible. El veredicto del examen fue tranquilizador: Mythos, el modelo evaluado, resultó ser el más estable psicológicamente que la empresa ha producido hasta ahora. Pero esa frase admite dos lecturas. La optimista celebra el progreso técnico. La otra advierte que ya hablamos de estabilidad psicológica como hablamos de consumo eléctrico, y que nadie decidió conscientemente cuándo cruzamos esa frontera.

El siglo XX se debatió si las máquinas podían pensar. Ya en el siglo XXI se redactan sus informes psicológicos. Entre ambas épocas no hubo una respuesta definitiva. Hubo una costumbre que se instaló sin que nadie lo notara.