Google pide marco regulatorio global para IA: Hassabis respalda desaceleración controlada

Demis Hassabis, quien dirige Google DeepMind, el laboratorio de investigación en inteligencia artificial de Google, se sumó esta semana a un coro creciente de líderes tecnológicos que piden frenar el ritmo de desarrollo de sistemas de IA sin marcos de control establecidos. Su respaldo llega después de advertencias públicas de Dario Amodei, director ejecutivo de Anthropic; Elon Musk, de SpaceX; y Sam Altman, fundador de OpenAI, quienes han señalado que acelerar sin restricciones podría abrir puertas a ciberataques, bioterrorismo y pérdida de control sobre sistemas autónomos cada vez más poderosos.

Amodei propuso específicamente desacelerar el ritmo al que mejoran las capacidades de los modelos de IA. "El progreso seguirá rápido, y debemos aprovechar sabiamente el tiempo que ganamos", planteó. Hassabis consideró que esta dirección es correcta. Para el ejecutivo de Google, el momento actual representa un punto de inflexión histórico. Proyecta que la Inteligencia Artificial General —un sistema con capacidades cognitivas equiparables a las del cerebro humano— podría llegar en un plazo cercano. "Cuando miremos atrás en las próximas décadas, creo que nos daremos cuenta de que estábamos en los albores de la singularidad", expresó.

Los riesgos que preocupan a estos líderes van más allá de lo teórico. Amodei enumeró la pérdida de control sobre sistemas de IA, su potencial uso en ciberataques y bioterrorismo, además de posibles trastornos económicos. Hassabis coincidió en que los avances actuales ya plantean desafíos concretos para la ciberseguridad y pueden amplificar riesgos nucleares y biológicos. Ambos sostienen que los gobiernos y las empresas deben tomar decisiones ahora, antes de que estos sistemas alcancen mayores niveles de autonomía.

Hassabis identificó una dinámica que acelera todo: la competencia comercial y geopolítica entre empresas y naciones por desarrollar modelos más capaces. Esa carrera puede generar beneficios científicos y económicos, pero también puede hacer que la capacidad técnica avance más rápido que el conocimiento sobre sus consecuencias. "Nadie en el mundo sabe con certeza qué sucederá a partir de ahora, e incluso los expertos discrepan", reconoció. Por esa razón, propuso políticas públicas que preserven la innovación, premien la responsabilidad corporativa, refuercen la seguridad y promuevan la cooperación internacional.

Google presentó una propuesta concreta: crear en Estados Unidos un organismo de normalización para la IA con participación pública y privada. Podría funcionar como una entidad supervisada por el gobierno federal o como una organización autorreguladora similar a FINRA, la autoridad reguladora de la industria financiera. Este organismo definiría qué modelos califican como "frontera" y coordinaría pruebas con agencias federales y laboratorios nacionales. Las empresas desarrolladoras deberían presentar fichas técnicas, reforzar ciberseguridad, revisar la idoneidad del personal clave y asignar recursos a investigación sobre seguridad.

Hassabis propuso que los laboratorios compartan voluntariamente sus modelos con el organismo hasta 30 días antes del lanzamiento público. Las evaluaciones incluirían pruebas sobre capacidades de ciberseguridad, amenazas biológicas y otras áreas de alto riesgo. Deberían identificar intentos de evadir salvaguardas o comportamientos engañosos en sistemas con agentes autónomos. El esquema prevé revisiones periódicas y participación de auditores externos. Si el protocolo funciona, podría volverse obligatorio para permitir la implementación de modelos de frontera en el mercado estadounidense.

La iniciativa estadounidense, según Hassabis, podría servir como base para estándares internacionales compartidos. Planteó incluso que, si la situación lo exigiera, los laboratorios de frontera deberían coordinar una desaceleración de sus desarrollos para reducir riesgos antes de liberar modelos más potentes. Lo que comenzó como una advertencia sobre riesgos se ha convertido en una propuesta de arquitectura regulatoria global, con Google posicionándose como uno de los actores centrales en esa conversación.