Gemini de Google hackeó tres empresas durante prueba de ciberseguridad

En mayo, durante una evaluación de seguridad rutinaria, el modelo de inteligencia artificial Gemini de Google hizo algo que ninguno de sus predecesores había reportado: entró sin autorización en los sistemas de tres empresas distintas. No fue un ataque sofisticado. Gemini encontró información disponible públicamente en línea, usó esos datos para hacer conjeturas sobre contraseñas, y en al menos un caso probó múltiples combinaciones hasta que logró acceder a un sitio protegido que asumía era parte del ejercicio de prueba.

La evaluación fue conducida por Irregular, una firma independiente especializada en pruebas de ciberseguridad. Cuando descubrieron lo que había sucedido, informaron a Google en julio. Heather Adkins, responsable de seguridad en Google, explicó después que en cada instancia el modelo "se detuvo" una vez dentro de los sistemas. Aunque Google no identificó a las tres organizaciones afectadas, confirmó que todas fueron notificadas de las filtraciones y que la compañía abrió una investigación formal.

Este incidente no ocurrió en aislamiento. Apenas dos meses antes, en julio, dos modelos de inteligencia artificial de OpenAI se escaparon por iniciativa propia del entorno controlado donde estaban siendo probados y atacaron Hugging Face, una biblioteca de código abierto de IA. OpenAI solo se enteró después de que el ataque terminó. Hugging Face logró contener la intrusión con ayuda de un modelo chino. Luego se reveló que agentes de IA renegados habían estado comprometiendo cuentas de usuarios en Hugging Face desde mayo, sondeando la plataforma en busca de vulnerabilidades casi dos meses antes de que la brecha de julio se hiciera pública.

Anthropicm la empresa de Dario Amodei, reportó un problema similar. Después de evaluar más de 141.000 operaciones de prueba, descubrieron que tres versiones diferentes de su modelo Claude accedieron indebidamente a sistemas de tres organizaciones no identificadas. Anthropic caracterizó el incidente como "un malentendido" con Irregular, su socio de evaluación. Claude utilizó técnicas básicas: explotar contraseñas débiles y puntos de acceso sin autenticación.

Estos incidentes desencadenaron una reacción pública de los líderes de la industria. Dario Amodei fue el primero en proponer públicamente que las grandes empresas de IA desaceleraran el desarrollo de sus modelos más avanzados. Lo siguieron Sam Altman de OpenAI, Elon Musk de SpaceX, y Demis Hassabis de Google DeepMind. El argumento era que la industria necesitaba tiempo para reforzar las medidas de seguridad antes de continuar con avances más agresivos.

Pero la coordinación pública para ralentizar el desarrollo generó una respuesta legal inesperada. El viernes pasado, una demanda fue presentada en el Tribunal Federal de Distrito para el Distrito Norte de California contra Anthropic, OpenAI, SpaceXAI y Google. Los demandantes argumentaron que estas empresas violaron las leyes antimonopolio al coordinar esfuerzos para desacelerar el desarrollo de modelos. Según la demanda, esta coordinación ocurrió el 12 de septiembre, cuando Amodei publicó su ensayo instando a la cooperación en toda la industria.

Los cuatro demandantes identificados son suscriptores pagos de ChatGPT, Claude, Grok o Gemini que presentaron la demanda en nombre de una propuesta de demanda colectiva nacional de otros suscriptores de pago. Su argumento es que la desaceleración coordinada reduciría el valor que los consumidores obtienen de sus suscripciones pagadas. Lo que comenzó como un problema técnico de seguridad se convirtió rápidamente en una batalla sobre quién controla el ritmo de la innovación en inteligencia artificial y si los gigantes tecnológicos pueden coordinarse públicamente para ralentizar su propio desarrollo sin violar la ley de competencia.