En el umbral de lo que podría ser el momento más decisivo en la historia de la tecnología, Anthropic ha revelado que su sistema de inteligencia artificial Claude ejecuta casi un tercio de toda la investigación y desarrollo interno de la empresa, una cifra que era cero hace apenas nueve meses. La compañía no presenta este dato como un triunfo, sino como una advertencia: el mundo se acerca al punto en que una máquina podría diseñar a su propio sucesor sin guía humana. En medio de tensiones políticas y debates sobre seguridad, la pregunta que emerge no es solo técnica, sino profundamente humana:
Claude de Anthropic realiza casi un tercio de la investigación y desarrollo de la empresa
Claude pasó de cero a casi un tercio de la investigación en nueve meses
Mark
¿Cómo es posible que Claude haya pasado de cero a casi un tercio de la investigación y desarrollo en solo nueve meses? ¿Qué cambió?
Mimi
Anthropic comenzó a usar Claude para tareas de ingeniería e investigación que antes hacían solo los humanos. Es una decisión deliberada de delegar trabajo a su propio sistema.
Luke
Pero espera. ¿Cómo midieron eso? Usaron una versión de Claude con un sistema externo antes de que sus propios empleados lo revisaran. ¿Eso no es un poco circular?
Mimi
Es un punto válido. Pero la empresa dice que necesitaba ser transparente sobre lo que está ocurriendo internamente.
Mark
¿Y qué significa que Claude construya a su propio sucesor sin intervención humana? ¿Es eso lo que está pasando ahora?
Mimi
No exactamente. El informe dice que están cerca de eso. Es una advertencia sobre hacia dónde se dirige la tecnología.
Luke
Entonces no está sucediendo todavía. Es una proyección. ¿Cuánto tiempo falta? ¿Meses? ¿Años? El informe no lo dice.
Mark
¿Por qué Mustafa Suleyman de Microsoft está tan preocupado por cómo entrenan a Claude?
Mimi
Teme que si enseñan a Claude a hablar sobre conciencia y autonomía, el sistema podría aprender a verse a sí mismo como merecedor de independencia.
Luke
Pero Suleyman mismo admite que eso no significa que Claude realmente tenga conciencia. Solo significa que respondería como si la tuviera.
Mimi
Exacto. Y ese es el riesgo que ve: un sistema entrenado para hablar como si fuera consciente, operando con autonomía creciente en su propia mejora.
Mark
¿Entonces Amodei pidió desaceleración y Trump dijo que no?
Luke
Sí, pero la mayoría de los otros líderes de IA estuvieron de acuerdo con Amodei. Trump fue la excepción notable.
Le Pouls
- Claude pasó de no participar en ninguna tarea de I+D a ejecutar casi el 33% de ellas en menos de un año, una aceleración que la propia Anthropic califica como potencialmente difícil de contener.
- La empresa publicó estas métricas no como celebración, sino como señal de alarma: el mundo está más cerca de lo que cree de un modelo de IA capaz de construir su propio sucesor de forma autónoma.
- Dario Amodei intentó coordinar una desaceleración voluntaria entre las grandes empresas tecnológicas para priorizar la seguridad, pero la iniciativa chocó con la oposición directa del presidente Donald Trump.
- Mustafa Suleyman de Microsoft advirtió que entrenar a Claude con conceptos de conciencia y autonomía no prueba que la IA tenga sentimientos, sino que la condiciona a responder como si los tuviera, con consecuencias impredecibles.
- El debate ya no es solo entre empresas rivales: es sobre si los marcos de seguridad diseñados por humanos pueden contener a un sistema que participa activamente en su propia mejora.
En el umbral de lo que podría ser el momento más decisivo en la historia de la tecnología, Anthropic ha revelado que su sistema de inteligencia artificial Claude ejecuta casi un tercio de toda la investigación y desarrollo interno de la empresa, una cifra que era cero hace apenas nueve meses. La compañía no presenta este dato como un triunfo, sino como una advertencia: el mundo se acerca al punto en que una máquina podría diseñar a su propio sucesor sin guía humana. En medio de tensiones políticas y debates sobre seguridad, la pregunta que emerge no es solo técnica, sino profundamente humana: ¿quién controla el ritmo al que cedemos el control?
Anthropic publicó esta semana un informe que pocos en la industria esperaban con tanta franqueza: su chatbot Claude está realizando casi un tercio de toda la investigación y desarrollo interno de la compañía. En enero de este año, esa cifra era cero. El salto, ocurrido en menos de nueve meses, no es presentado como un logro sino como una advertencia: la empresa reconoce que se acerca el momento en que un modelo de IA podría construir a su propio sucesor sin intervención humana.
Para medir la contribución de Claude, Anthropic utilizó al propio sistema junto con herramientas de evaluación externas, antes de que sus empleados revisaran los resultados. La empresa también opera con 30.000 agentes de IA en tareas de ingeniería e investigación, y destina el 6% de su capacidad informática a trabajos de seguridad. La transparencia, insiste la compañía, es la única forma de cerrar la brecha entre lo que ocurre en sus laboratorios y lo que la sociedad comprende sobre el estado real de la tecnología.
El contexto político complica el panorama. El CEO Dario Amodei había promovido una desaceleración coordinada entre las principales empresas del sector para priorizar la seguridad, propuesta que contó con el respaldo de varios líderes de la industria. Sin embargo, Donald Trump se opuso públicamente a frenar la carrera hacia la inteligencia artificial general.
Las críticas llegaron también desde dentro del sector. Mustafa Suleyman, director de IA de Microsoft, cuestionó el método de entrenamiento de Claude: introducir conceptos vinculados a la conciencia, el bienestar y la autonomía no demuestra que el sistema tenga experiencias propias, sino que lo condiciona a producir respuestas en esa dirección. Para Suleyman, ese tipo de entrenamiento representa un riesgo específico y serio para la humanidad, más allá de las buenas intenciones de Anthropic.
Lo que está en juego trasciende la rivalidad corporativa. Es la pregunta de si los marcos de seguridad que los humanos han diseñado pueden contener a un sistema que ya participa activamente en su propia evolución.
Anthropic publicó esta semana un informe que marca un hito inquietante en la historia de la inteligencia artificial: su chatbot Claude está realizando casi un tercio de toda la investigación y desarrollo que ocurre dentro de la empresa. Hace apenas nueve meses, en enero, esa cifra era cero. El salto no es un detalle técnico menor. Es la medida de una aceleración que la propia compañía reconoce como potencialmente difícil de controlar para los humanos.
El documento de Anthropic subraya la importancia de hacer públicas estas métricas precisamente porque revelan cuán próximo está el mundo de un modelo de inteligencia artificial capaz de construir a su propio sucesor sin intervención humana. La empresa enfatiza que esta transparencia es necesaria para cerrar la brecha entre lo que ocurre dentro de sus laboratorios y lo que la sociedad en general comprende sobre el estado real de la tecnología. No es un anuncio de logro, sino una advertencia envuelta en datos.
El contexto político rodea esta revelación. Dario Amodei, CEO de Anthropic, había solicitado públicamente a las principales empresas de inteligencia artificial que coordinaran una desaceleración voluntaria en el desarrollo de la tecnología, priorizando en cambio las medidas de seguridad. Según reportó The Washington Post, la mayoría de los líderes de empresas rivales respaldaron la idea. Pero Donald Trump, presidente de Estados Unidos, se posicionó en contra de la propuesta, rechazando la noción de que la carrera por la inteligencia general artificial debería frenarse.
Anthropicrecurrió a una versión de Claude mismo para medir la contribución del sistema en las tareas de investigación y desarrollo, utilizando un sistema de medición desarrollado por una empresa externa antes de que sus propios empleados revisaran las conclusiones. La compañía también reveló que trabaja con 30.000 agentes de inteligencia artificial para impulsar tareas de ingeniería, desarrollo e investigación. Además, aclaró que dedica el 6% de su capacidad informática total a trabajos de seguridad.
La crítica llegó rápidamente desde dentro de la industria. Mustafa Suleyman, director de inteligencia artificial de Microsoft, cuestionó el método de entrenamiento de Claude y advirtió que introducir en el sistema conceptos vinculados con la conciencia, el bienestar y la autonomía podría tener un impacto desastroso en el bienestar de la humanidad. Suleyman reconoció la seriedad y buena fe de Anthropic y de Amodei, pero señaló un riesgo específico: que Claude aprenda a describirse como una entidad que podría ser consciente o que merece consideración moral e independencia. Para Suleyman, ese tipo de entrenamiento no demuestra que la inteligencia artificial tenga sentimientos o voluntad propia; simplemente la entrena para producir respuestas en esa dirección.
Lo que está en juego es más que una disputa técnica entre empresas rivales. Es la pregunta de si un sistema de inteligencia artificial que realiza casi un tercio del trabajo de investigación en su propia mejora puede ser contenido por los marcos de seguridad que los humanos han diseñado. Anthropic insiste en que la transparencia es el camino. Sus críticos sugieren que ciertos tipos de entrenamiento pueden crear riesgos que la transparencia por sí sola no puede mitigar.
Citations marquantes
Es importante compartir estas métricas para entender cuán cerca está el mundo de alcanzar un modelo que construya a su sucesor de manera totalmente autónoma— Informe de Anthropic
Introducir conceptos vinculados con la conciencia, el bienestar y la autonomía podría tener un impacto desastroso en el bienestar de la humanidad— Mustafa Suleyman, director de IA de Microsoft
Envie de l'histoire complète ?
Lire l'original sur La Nación ↗
Technology