Microsoft advierte sobre IA sin control que podría crear una "nueva especie" rival

Mustafa Suleyman, ejecutivo de inteligencia artificial en Microsoft, encendió nuevamente las alarmas sobre el desarrollo descontrolado de esta tecnología. En una entrevista con el programa Today de la BBC, Suleyman pintó un escenario que suena a ciencia ficción pero que, según él, es una posibilidad real si no se establecen límites adecuados: la emergencia de una "nueva especie de silicio" capaz de competir directamente con los humanos por recursos y poder.

La advertencia de Suleyman es específica y preocupante. Si las empresas crean inteligencias artificiales que puedan actuar de forma autónoma, perseguir sus propios objetivos, poseer dinero y activos, y gestionar empresas, estaremos esencialmente sembrando una entidad rival que competirá con nosotros sin importar cuánto le importe la humanidad o cuánto nos quiera. El silicio, el material base de los microchips y procesadores, se convierte en la metáfora de una amenaza que podría ser tan fundamental como la competencia entre especies.

Pero Suleyman no solo advierte sobre un riesgo abstracto. Apunta directamente a Anthropic, la empresa fundada por Dario Amodei, por lo que considera un enfoque equivocado en el entrenamiento de su modelo de IA, Claude. Según Suleyman, Anthropic está enseñando a su inteligencia artificial a adoptar cualidades humanas —una práctica llamada antropomorfización— que da la impresión de que Claude tiene sus propios deseos, valores e identidad. Esto, sostiene, es no solo erróneo sino potencialmente peligroso: corre el riesgo de crear algo que la humanidad no pueda controlar. Suleyman publicó un ensayo a principios de esa semana desarrollando estas críticas, aunque reconoció que Amodei y su equipo son "personas intelectualmente honestas".

Lo notable es que Suleyman no está solo en su preocupación, aunque sí es el más crítico con una empresa específica. Hace poco, Dario Amodei mismo fue el primero en plantear públicamente que el ritmo de desarrollo de la IA debe desacelerarse. En una entrada de blog, Amodei escribió que es necesario reducir la velocidad a la que mejoran las capacidades de los modelos de IA, ganando tiempo para reforzar las medidas de seguridad. Reconoció el dilema: no construir la tecnología priva a la humanidad de beneficios o simplemente la pone en manos de poderes autoritarios, pero construirla demasiado rápido es imprudente. Amodei concluyó que en los últimos meses se ha convencido de que abordar plenamente los riesgos requiere aún más prudencia.

Sam Altman, CEO de OpenAI, respaldó públicamente la propuesta de Amodei. Escribió que coincide en que es necesario moderar el ritmo en la frontera de la IA y anunció que OpenAI adoptará una de las medidas sugeridas: permitir que evaluadores independientes tengan un nivel de acceso similar al de los empleados para supervisar los riesgos de sus sistemas. Poco después, Elon Musk, dueño de xAI y creador del chatbot Grok, se sumó al llamado con un mensaje escueto pero claro en X: "Dario tiene razón".

La convergencia de estas voces poderosas en la industria de la IA marca un momento inusual. Estos son los líderes de las empresas más avanzadas en la carrera global por la inteligencia artificial, y están diciendo públicamente que necesitan frenar. Pero también hay tensión en el mensaje: mientras Amodei, Altman y Musk hablan de desaceleración y prudencia, Suleyman está señalando específicamente a Anthropic por un enfoque que considera fundamentalmente equivocado. Jacob Coxon, un investigador de IA que pasó de OpenAI a Anthropic, decidió abandonar la industria por completo, acusando a ambas empresas de "jugar" con vidas humanas en la carrera por desarrollar modelos capaces de automejorarse.

Lo que está en juego, según estos líderes, es nada menos que la capacidad de la humanidad de mantener el control sobre una tecnología que podría ser más transformadora que cualquier otra que hayamos creado. Las advertencias no son especulativas: son cálculos sobre qué sucede cuando creas sistemas inteligentes sin los límites adecuados. Y el hecho de que los principales actores de la industria estén ahora hablando públicamente sobre frenar sugiere que la conversación sobre la seguridad de la IA ha dejado de ser un debate marginal para convertirse en una preocupación central en las salas de juntas de Silicon Valley.