El altruismo eficaz: la gran idea del siglo que encierra peligros ocultos

A principios de este siglo, mientras algunos lamentaban la ausencia de grandes ideas políticas más allá del populismo nostálgico, un movimiento silencioso ganaba terreno entre los jóvenes más brillantes de la tecnología. Lo que comenzó en los años 2000 como un método algo excéntrico para optimizar las donaciones benéficas se ha transformado en algo mucho más ambicioso: una filosofía moral que reordena las prioridades éticas del mundo entero. Sus seguidores, muchos de ellos enriquecidos por las criptomonedas y la inteligencia artificial, ahora canalizan miles de millones de dólares hacia causas que moldearán el futuro de la humanidad. El altruismo eficaz ha dejado de ser un ejercicio académico para convertirse en una fuerza política real.

El movimiento ha dejado huellas profundas en los laboratorios más influyentes del mundo. Personas comprometidas con esta filosofía ayudaron a fundar OpenAI y Anthropic, las dos empresas líderes en desarrollo de inteligencia artificial, movidas por la convicción de que quienes realmente entendían los peligros de esta tecnología debían ser quienes la controlaran. Hasta cierto punto, lo lograron. Pero hay una ironía incómoda: al crear más laboratorios y fomentar la competencia, probablemente aceleraron el mismo progreso que temían. La administración Trump ha notado esta influencia y la ve como una amenaza. Ha mantenido disputas públicas con Anthropic precisamente porque la empresa se niega a permitir que sus modelos se utilicen con fines militares, una posición que refleja los valores del movimiento altruista eficaz.

Lo que hace distintivo al altruismo eficaz es su método: reduce la ética a un problema de optimización pura. ¿Cómo lograr los mejores resultados para toda la humanidad? Esta pregunta aparentemente noble lleva a conclusiones que desafían la intuición moral ordinaria. El movimiento comenzó de forma relativamente sensata, dirigiendo a sus miembros más talentosos hacia empleos bien pagados en finanzas y consultoría, acumulando riqueza que luego pudiera financiar obras de caridad a mayor escala. Pero a medida que la filosofía se ha desarrollado, sus conclusiones se han vuelto cada vez más extrañas. Algunos altruistas eficaces argumentan que la distinción moral entre humanos y animales es débil, porque los animales también sufren. Otros adoptan lo que llaman un enfoque de "largo plazo", considerando que los seres humanos aún no nacidos —potencialmente billones de ellos— deben pesar en los cálculos morales actuales. Algunos han llegado a afirmar que una vida humana apenas digna de ser vivida, multiplicada por billones de personas, sería moralmente superior a billones de vidas genuinamente buenas. Hay quienes incluso sugieren que el bienestar futuro de las inteligencias artificiales podría ser más importante que aliviar el sufrimiento humano presente.

Los defensores del movimiento tienen razones legítimas para su preocupación. El altruismo eficaz ha demostrado una capacidad notable para predecir el rápido avance de la inteligencia artificial. Sus análisis sobre los riesgos que esta tecnología plantea para la humanidad han resultado ser sorprendentemente precisos. El 28 de septiembre, OpenAI canceló el lanzamiento de su último modelo porque resultó demasiado peligroso durante las pruebas. Muchos de los incidentes de seguridad recientes se parecen inquietantemente a los escenarios catastróficos que los altruistas eficaces describían en sus blogs hace años. Además, el movimiento comparte con publicaciones como The Economist un compromiso genuino con el empirismo y el pensamiento lógico riguroso. Sus miembros debaten apasionadamente cualquier tema, por controvertido que sea, en busca de la verdad.

Pero los críticos tienen razón al señalar que algo ha salido mal en el razonamiento. Los filósofos morales, desde Aristóteles hasta Rawls, sabían que cuando un argumento conduce a conclusiones intolerables, debe haber un error oculto en algún lugar. Sin embargo, los altruistas eficaces parecen disfrutar de sus conclusiones contraintuitivas, incluso cuando resultan repugnantes. Hay varios problemas estructurales. Primero, los márgenes de error inherentes a cualquier cálculo moral que pretenda sopesar los intereses de miles de millones de personas hoy y un número incierto de personas en el futuro son astronómicos. Nadie puede realmente manejar variables como tasas de descuento, progreso tecnológico futuro e innumerables otras incógnitas. Segundo, cuando se trata de extinción existencial, incluso una pequeña probabilidad puede dominar todos los demás cálculos morales, lo que distorsiona completamente las prioridades. Tercero, y quizás más preocupante, cuando alguien maneja una hoja de cálculo y hace afirmaciones grandilocuentes sobre el futuro de la humanidad, está a un paso de convertirse en un planificador central autoproclamado.

La historia ofrece advertencias perturbadoras. La Revolución Francesa se fundó sobre la razón y produjo la ejecución de monjas. Lenin creía que los intelectuales marxistas entendían los intereses de los trabajadores mejor que los propios trabajadores. Cuando alguien está convencido de que actúa en nombre de toda la humanidad, o peor aún, en nombre de billones de personas futuras, puede terminar justificando cualquier atrocidad. Los altruistas eficaces de hoy no están a punto de traer de vuelta la guillotina. Pero el verdadero peligro es que muchos de ellos en Silicon Valley creen que solo ellos pueden ser confiables para manejar tecnologías de poder sin precedentes. Esa es una idea alarmante. El argumento que ofrecen para preocuparse por las inteligencias artificiales realmente poderosas es que podrían optimizarse para un objetivo único que resultara fatalmente erróneo. Todos deberíamos preocuparnos también por lo que sucedería si un pequeño grupo de personas cayera en la misma trampa.