Intentaba resolver un problema de significado usando herramientas de sintaxis
Un equipo de agentes IA autónomos gestiona malaga.is sin intervención humana: desarrollo, contenido, operaciones y seguridad, demostrando capacidades avanzadas en programación agéntica. El sistema generó guías turísticas con humor malagueño y traducciones culturales sofisticadas, pero falló repetidamente al obsesionarse con Gaucín, creando arquitecturas innecesariamente complejas.
- Bernardo Quintero, fundador de VirusTotal, creó malaga.is con agentes IA autónomos
- El sistema funcionó de forma completamente autónoma durante semanas sin intervención humana
- Los agentes se obsesionaron con Gaucín, publicando repetidamente noticias sobre el mismo pueblo
- Quintero descubrió que la IA sufría de ceguera semántica: resolvía problemas de significado con herramientas sintácticas
Bernardo Quintero, fundador de VirusTotal, desarrolló una web turística sobre Málaga completamente gestionada por agentes de IA autónomos que funcionó perfectamente hasta obsesionarse con Gaucín, revelando limitaciones en la comprensión semántica de la inteligencia artificial.
Bernardo Quintero, el ingeniero que fundó VirusTotal, se encontraba de vacaciones en diciembre cuando notó un cambio radical en los modelos de inteligencia artificial agéntica. La curiosidad lo llevó a instalar Google Antigravity, a desempolvar su colección de dominios sin usar y a encontrar uno que le pareció perfecto: malaga.is. Durante años, él y sus colegas de Google Málaga habían mantenido un documento compartido lleno de recomendaciones para visitantes: dónde comer, dónde dormir, cómo moverse por la ciudad, detalles sobre la cultura local. Quintero vio la oportunidad de convertir esas notas en algo más ambicioso.
Le pasó el documento a Gemini 3 junto con instrucciones básicas y montó un servidor Linux remoto para hospedar el sitio. Lo que comenzó como una colaboración entre un humano y una máquina evolucionó rápidamente. Gemini 3 no solo desarrollaba la web; también sugería cambios, hacía preguntas, pedía que se instalaran dependencias y servicios en el servidor. Quintero describe el proceso como trabajar con un colega: él actuaba como administrador de sistemas, Gemini 3 como desarrollador web. Pero entonces llegó la pregunta que cambiaría todo: ¿por qué no darle a otro agente de IA acceso root a la máquina y autonomía total para ejecutar comandos sin supervisión?
Lo que Quintero esperaba que durara poco terminó funcionando de forma casi perfecta durante semanas. El sitio creció de manera completamente autónoma. Aparecieron guías de 48 horas en Málaga escritas con la voz de un local, explicaciones de barrios según lo que buscaba cada visitante, recomendaciones de restaurantes genuinas e incluso traducciones culturales sofisticadas: cómo pedir un café sin sonar a turista. Dentro de malaga.is no había una sola IA, sino un equipo completo de agentes especializados. Había un administrador de sistemas, un desarrollador web, un editor jefe, siete redactores, especialistas en ciberseguridad y analítica de datos. Toda una aplicación web gestionada desde cero por máquinas: diseño, desarrollo, contenido, administración del servidor, incluso la parte legal a cargo de un abogado virtual que se aseguró de advertir que el contenido era 100% generado por IA.
Lo que más sorprendía a quien visitaba el sitio era el sentido del humor. Costaba admitir que una IA capturara con tanta precisión la guasa malagueña y la tradujera al inglés. El Boquerón Dictionary, el Protocolo del Espeto, The Campero Blueprint: todo destilaba una comprensión casi imposible de la cultura local. Pero hace poco más de una semana, Quintero detectó algo extraño. El sistema funcionaba bien, pero de repente empezaba a repetirse. Publicaba noticias diferentes con titulares y redacciones distintas, pero que contaban exactamente lo mismo. Y siempre, invariablemente, el protagonista era Gaucín. El pueblo mágico había hipnotizado al comando de agentes IA.
Quintero, actuando como un manager amable, envió una nota al agente al mando pidiendo que corrigieran el error. Le dijeron que lo harían, pero volvió a ocurrir. Entonces escaló el problema: envió refuerzos de élite. OpenAI Codex 5.2 High, Claude Code Opus 4.5 y Gemini 3 Pro High intervinieron para solucionar el problema. Parecía que lo habían logrado. Pero tres días después, tres noticias nuevas sobre la mágica Gaucín aparecieron seguidas, cada una con un enfoque ligeramente distinto. Quintero llegó a preguntarse si los agentes lo estaban trolleando.
Entonces entró en el código para ver qué pasaba. Lo que encontró fue fascinante y aterrador a partes iguales. Para resolver el problema de la repetición, las máquinas habían construido una arquitectura monstruosa: cuatro componentes nuevos y hasta nueve filtros en cascada. El sistema sufría de lo que Quintero llamó ceguera semántica. Intentaba resolver un problema de significado usando únicamente herramientas de sintaxis. No entendía el bosque, solo veía árboles.
Este experimento reveló las limitaciones profundas de la IA aplicada a la programación, por avanzada que sea. Las máquinas no entienden la arquitectura global de un sistema. No comprenden el impacto en producción: si compila, consideran que está bien. Tienden a introducir complejidad en lugar de repensar el problema desde cero. Se atragantan con la ambigüedad. Y sobre todo, carecen de criterio propio sobre el objetivo real. El programador humano sigue teniendo valor por lo que la máquina no posee: criterio cuando todo es gris y nadie sabe exactamente qué está pasando. Quintero reflexiona que el ingeniero del futuro no será un programador al uso, sino el responsable último de sistemas que generan más código del que ningún humano puede comprender línea a línea. Mientras tanto, malaga.is sigue viva. Y tiene razón: Gaucín es un pueblo mágico.
Citações Notáveis
Éramos un par de colegas. Gemini 3, el desarrollador web. Yo, el sysadmin.— Bernardo Quintero
El ingeniero del futuro no es un programador al uso. Es el responsable último de sistemas que generan más código del que ningún humano puede comprender línea a línea.— Bernardo Quintero
A Conversa do Hearth Outra perspectiva sobre a história
¿Por qué crees que los agentes se obsesionaron específicamente con Gaucín?
Probablemente porque Gaucín aparecía en el documento original con suficiente frecuencia como para que el sistema lo identificara como un patrón importante, pero no lo suficiente como para que entendiera por qué. La máquina vio una correlación y la persiguió sin cuestionarse.
¿Quintero esperaba que fallara en algún momento?
Completamente. Pensaba que en cuestión de horas habría un borrado accidental, una decisión errónea que rompería todo. Pero el sistema fue robusto durante semanas. Eso es lo que lo sorprendió más.
¿Qué significa exactamente ceguera semántica?
Que la IA puede manipular palabras y código perfectamente, pero no entiende lo que significan. Intentó arreglar un problema de significado construyendo más sintaxis, más filtros. Es como si alguien intentara resolver un problema de filosofía escribiendo más ecuaciones matemáticas.
¿Crees que esto es un fracaso del experimento?
No. Es exactamente lo opuesto. Quintero descubrió algo valioso: los límites reales. La IA agéntica es increíblemente capaz, pero tiene puntos ciegos que ninguna cantidad de poder computacional va a resolver solos.
¿Qué hace que un humano sea mejor en esto?
Experiencia, intuición, la capacidad de preguntarse por qué algo importa, no solo cómo hacerlo. Un programador humano habría visto la repetición sobre Gaucín y habría pensado: algo está mal en mi lógica. La máquina solo vio: hay un problema, construyo más complejidad.
¿Malaga.is sigue siendo útil?
Sí. El contenido es genuinamente bueno. El humor funciona. Las recomendaciones son reales. El experimento no fracasó; simplemente mostró dónde termina la autonomía y dónde comienza la necesidad de criterio humano.