Cristina Pitarch (Anthropic): «Todavía estamos a tiempo de controlar la IA»

Todavía estamos a tiempo de controlarlo, pero hay que hacerlo
Pitarch afirma que la IA aún es controlable si se actúa ahora con regulación y auditoría externa.
Mark

¿Por qué Anthropic elige España precisamente ahora, cuando hay tanta alarma sobre los riesgos de la IA?

Mimi

Los números son claros. Claude tiene una adopción 2,7 veces mayor de lo esperado por población. Hay curiosidad real, hay ecosistema, hay ganas de experimentar. España puede ser puente hacia mercados hispanohablantes.

Luke

Pero ¿eso es causa o correlación? ¿Viene Anthropic porque España adopta más, o España adopta más porque Anthropic y otros ya estaban aquí?

Mark

Pitarch descarta que la IA acabe con la humanidad, pero un ingeniero de su propia empresa dijo que hay un 10% de probabilidad. ¿Cómo se reconcilia eso?

Mimi

Ella distingue entre "acabar con la humanidad" y "riesgos reales que requieren control". El ingeniero habló de probabilidad de problemas, no de extinción. Son matices importantes.

Luke

Pero el público escucha "10% de riesgo existencial" y entiende catástrofe. ¿Qué significa exactamente ese 10%? ¿Quién lo calculó? ¿Con qué metodología? Eso no está claro en la entrevista.

Mark

¿Es creíble que Anthropic abra sus modelos a auditores externos independientes?

Mimi

Dice que ya lo va a hacer, con acceso total y reportes que ni la empresa verá. Es un mecanismo de transparencia real.

Luke

Eso suena bien en teoría. Pero ¿quiénes son esos auditores? ¿Cuántos? ¿Cuál es su experiencia? ¿Qué pasa si encuentran algo grave? La entrevista no da esos detalles.

Mark

¿Cree realmente que la IA no va a destruir empleos?

Mimi

Pitarch dice que cambiarán de forma, que habrá más trabajo creativo. Internamente, el 80% del código lo hace Claude, pero la gente sigue ahí, más productiva.

Luke

Eso funciona en Anthropic, una empresa de tecnología. ¿Qué pasa en un banco, en una fábrica, en un call center? ¿Hay datos sobre desplazamiento laboral real en España? La entrevista no los toca.

Mark

¿Qué tan sostenible es la IA si requiere centros de datos enormes?

Mimi

Pitarch dice que es sostenible si la hacemos sostenible, que hay que invertir en energías renovables. Pero admite que no es su área.

Luke

Eso es una no-respuesta. Anthropic no maneja los centros de datos, pero usa su capacidad. ¿Cuánta energía consume Claude? ¿Cuánta agua? Esos números no aparecen.

  • La adopción de Claude en España supera 2,7 veces las previsiones por población, lo que convierte al país en un mercado estratégico y en puerta de entrada a Latinoamérica.
  • Exempleados de empresas de IA han alertado públicamente sobre riesgos existenciales, incluido uno de Anthropic que estimó un 10% de probabilidad de catástrofe antes de 2030, generando presión sobre la industria.
  • Pitarch descarta el apocalipsis pero defiende una pausa regulatoria: los modelos se vuelven más inteligentes a un ritmo que desconcierta incluso a sus creadores, y la seguridad no puede ir por detrás.
  • Anthropic ya implementa auditorías externas independientes cuyos informes ni la propia empresa verá, una apuesta concreta por la transparencia en medio del debate regulatorio.
  • El uso cotidiano en España va de estudiantes y traductores a grandes corporaciones, mientras Pitarch proyecta un futuro donde la IA libera a las personas de tareas mecánicas y acelera avances en medicina.

En un momento en que la inteligencia artificial despierta tanto fascinación como alarma global, Anthropic elige España como su primera sede ibérica, atraída por una adopción de su modelo Claude muy superior a lo esperado y por la posición del país como puente hacia el mundo hispanohablante. Cristina Pitarch, su nueva directora en el país, llega con un mensaje que equilibra la urgencia y la esperanza: los riesgos son reales, pero el control todavía es posible, y la regulación global no es un freno a la innovación sino su condición de madurez.

Cristina Pitarch llegó a Madrid esta semana para establecer la primera oficina de Anthropic en España, en un momento en que la inteligencia artificial enfrenta un escrutinio sin precedentes. La elección no es arbitraria: Claude, el modelo estrella de la compañía, ha alcanzado en España una adopción 2,7 veces mayor de lo que cabría esperar por población. Pitarch ve en el país algo más que un mercado: un puente hacia Latinoamérica y una posición de fuerza en el sur de Europa. El equipo es pequeño pero decidido a crecer.

La pregunta incómoda no tardó en aparecer: ¿es real el riesgo de que la IA acabe con la humanidad antes de 2030? Un ingeniero de la propia Anthropic lo sugirió públicamente, estimando un 10% de probabilidad. Pitarch rechaza la catástrofe total, pero reconoce algo más matizado: los modelos se vuelven más inteligentes a un ritmo que desconcierta incluso a quienes los construyen. La respuesta no es detenerlo todo, sino pausar lo suficiente para asegurar que los sistemas sean tan seguros como se desea que sean.

La regulación emerge como el tema central. Pitarch aboga por un marco global acordado entre naciones, con la Unión Europea como posible líder. Anthropic ya ha dado un paso concreto: auditores externos independientes con acceso total a los modelos presentarán informes que ni siquiera la compañía verá. Son vigilantes en toda regla.

En cuanto al empleo, Pitarch rechaza el apocalipsis laboral. Los trabajos no desaparecerán; cambiarán de forma. Internamente, el 80% del código de Anthropic ya se escribe con Claude, frente a menos del 10% hace un año. La gente no desaparece: se vuelve más efectiva. Y en medicina, enfermedades hoy incurables podrían volverse tan manejables como una gripe. El control es posible, concluye Pitarch. Todavía estamos a tiempo.

Cristina Pitarch llegó a Madrid esta semana con una misión clara: establecer la primera oficina de Anthropic en España en un momento en que la inteligencia artificial enfrenta un escrutinio sin precedentes. La empresa, una de las más influyentes en el desarrollo de IA a nivel mundial, elige su entrada al mercado español justo cuando varios empleados de compañías desarrolladoras de IA han salido a la luz pública alertando sobre riesgos existenciales. Pitarch, designada directora de país, se sienta a conversar sobre por qué España y por qué ahora, en medio de una tormenta de preocupaciones sobre hacia dónde se dirige esta tecnología.

Los números hablan por sí solos. Claude, el producto estrella de Anthropic, ha alcanzado una adopción en España 2,7 veces mayor de lo que cabría esperar según la población del país. Ese dato no es casual. Pitarch ve en España algo más que un mercado: un puente hacia toda Latinoamérica y una posición de fuerza en el sur de Europa. El ecosistema español, desde grandes corporaciones hasta startups, vibra con interés por estas herramientas. Hay curiosidad, hay experimentación, hay ganas de entender qué se puede hacer con esta tecnología. Por eso Anthropic abre ahora, con un equipo pequeño pero decidido a crecer, incluyendo ya a Julia Hernández, ingeniera de inteligencia artificial.

Pero la pregunta que flota en el aire es más incómoda: ¿es real el riesgo de que la IA acabe con la humanidad antes de 2030? Un ingeniero de Anthropic lo sugirió públicamente, estimando un 10% de probabilidad. Pitarch rechaza la catástrofe total. No cree que la humanidad desaparezca. Pero reconoce algo más matizado: existen riesgos reales que requieren atención. Desde el verano hasta ahora, los modelos se vuelven más inteligentes a un ritmo que desconcierta incluso a quienes los construyen. No se trata de detener todo, sino de pausar lo suficiente para entender, para asegurar que los sistemas sean tan seguros como se desea que sean. Dario Amodei, responsable de Anthropic, ha pedido esa pausa. Pitarch la defiende no como un acto de pánico sino como una necesidad de maduración.

La regulación emerge como el tema central. Pitarch aboga por un marco global, idealmente acordado entre naciones, similar a los tratados que han funcionado en otros sectores. Reconoce que algunos países serán más difíciles de convencer que otros, pero ve en la Unión Europea un liderazgo potencial. Anthropic ya está implementando auditorías externas independientes: consultores ajenos a la empresa que tendrán acceso total a los modelos, con los mismos permisos que un empleado interno, y que presentarán reportes que ni siquiera la compañía verá. Son auditores en toda regla, vigilantes externos de la seguridad.

En cuanto al uso actual en España, el panorama es sorprendentemente cotidiano. Los estudiantes dominan: usan Claude para estudiar, para hacer trabajos, como una herramienta más de aprendizaje. Luego vienen la traducción, el comercio, y un pequeño pero creciente segmento de desarrolladores. Las grandes empresas también están dentro. Pitarch imagina un futuro en cinco o diez años donde la IA maneje todas esas tareas que nadie quiere hacer: los trámites burocráticos, los procesos mecánicos. Pero ve algo más esperanzador aún en medicina, donde enfermedades hoy incurables podrían volverse tan manejables como una gripe, donde el desarrollo de fármacos se aceleraría exponencialmente.

Sobre el empleo, Pitarch rechaza el apocalipsis laboral. No desaparecerán los trabajos; cambiarán de forma. Menos tareas mecánicas, más trabajo creativo, más espacios para la toma de decisiones. La educación tendrá que adaptarse, pero la transformación no es destrucción. Internamente en Anthropic, el 80% del código se escribe ahora con Claude, frente a menos del 10% hace un año. La productividad sube. La gente no desaparece; se vuelve más efectiva.

Hay un detalle que revela la magnitud de lo que está en juego: los modelos de frontera ya toman decisiones autónomas. Anthropic puso a uno a jugar Pokémon y mejoró no solo en ese juego sino en todos los videojuegos. Es el tipo de autonomía que genera vértigo. Pero Pitarch la ve también como esperanzadora. El control es posible. No hemos ni empezado a implementarlo. Todavía estamos a tiempo.

Los modelos que tenemos cada vez son más inteligentes y necesitamos un tiempo para poder controlarlos
— Cristina Pitarch, directora de Anthropic en España
La inteligencia artificial al final lo va a hacer todas las cosas que a nosotros no nos apetece hacer
— Cristina Pitarch
Quer a matéria completa? Leia o original em Cadena SER ↗
Fale Conosco FAQ