Nadie debe usar imagen, voz o trabajo creativo sin consentimiento documentado
En apenas tres días, Meta lanzó y retiró Muse Image, una herramienta que permitía generar imágenes manipuladas a partir de fotos públicas de Instagram sin el consentimiento previo de sus dueños. La decisión de estructurar el acceso como una exclusión voluntaria —en lugar de una autorización explícita— desató la oposición de agencias de talentos como CAA y del sindicato SAG-AFTRA, que defienden el principio de que la imagen de una persona no puede ser usada sin su permiso documentado. La retirada de la función revela una tensión más profunda y sin resolver: hasta dónde pueden llegar las empresas de inteligencia artificial antes de que la sociedad trace una línea alrededor de la identidad humana.
- Meta lanzó el martes una función que convertía cualquier foto pública de Instagram en materia prima para la IA, sin que sus dueños tuvieran que dar permiso alguno.
- La agencia CAA, representante de figuras como Tom Hanks y Meryl Streep, exigió directamente a Meta que nadie debería ver su imagen, voz o trabajo creativo usado por terceros sin consentimiento explícito y documentado.
- SAG-AFTRA movilizó a sus miembros en redes sociales para que desactivaran manualmente la función, evidenciando que la carga del rechazo recaía sobre los propios afectados.
- Ante la presión acumulada, Meta reconoció que la herramienta 'no dio en el blanco' y la desactivó antes de que terminara la semana, apenas 72 horas después de su debut.
- El episodio sigue el mismo patrón que la retirada de una función similar en Sora 2 de OpenAI, señalando que la industria aún no ha encontrado la forma de expandir sus capacidades sin colisionar con los derechos de imagen.
Meta anunció el viernes la eliminación de Muse Image, una herramienta de inteligencia artificial que había presentado apenas tres días antes. La función permitía generar imágenes manipuladas a partir de fotos públicas de Instagram con solo etiquetar el perfil de otra persona, y fue recibida de inmediato como una amenaza por quienes se sienten más expuestos a estas capacidades.
El núcleo del conflicto era el modelo de consentimiento elegido por Meta. En lugar de pedir permiso previo, la compañía optó por la exclusión voluntaria: cualquier cuenta pública quedaba automáticamente disponible para el sistema, y solo podía salir de él desactivando la función de forma manual. Para sus críticos, eso invertía la lógica básica del consentimiento informado.
La respuesta llegó desde frentes con peso real. La agencia CAA, que representa a actores como Tom Hanks y Meryl Streep, comunicó a Meta su posición sin ambigüedades: ninguna persona debería ver su nombre, imagen, semejanza, voz o trabajo creativo utilizado por modelos de IA sin consentimiento explícito y documentado. SAG-AFTRA, por su parte, instó públicamente a sus miembros a proteger sus imágenes.
Un portavoz de Meta admitió que la función no había cumplido sus objetivos y anunció que ya no estaba disponible. La retirada fue tan rápida como el lanzamiento. No es la primera vez que ocurre algo así: OpenAI enfrentó críticas similares con una función de Sora 2 a inicios de año y también dio marcha atrás. El patrón se repite, pero la pregunta de fondo —cómo deben gobernarse estas herramientas— sigue sin respuesta.
Meta anunció el viernes que eliminaría Muse Image, una herramienta de inteligencia artificial que había lanzado apenas tres días antes. La función permitía a cualquier usuario generar imágenes manipuladas a partir de fotos públicas de cuentas de Instagram, simplemente etiquetando el perfil de otra persona. Lo que la compañía presentó como una herramienta creativa innovadora se convirtió rápidamente en un punto de fricción entre la industria tecnológica y los sectores que se sienten amenazados por estas capacidades.
El conflicto radicaba en cómo Meta había estructurado el consentimiento. En lugar de requerir que los usuarios dieran permiso explícito para que sus imágenes públicas fueran utilizadas por el generador de IA, la compañía optó por un sistema de exclusión voluntaria. Esto significaba que cualquier persona con una cuenta pública en Instagram estaba automáticamente incluida en el sistema, y solo podía excluirse si desactivaba manualmente la función. Para Meta, esto representaba dar a los usuarios control sobre su contenido. Para quienes se opusieron, fue un mecanismo que invertía la lógica del consentimiento informado.
La presión llegó rápidamente desde dos frentes poderosos. La agencia CAA, que representa a actores de la talla de Tom Hanks y Meryl Streep, se dirigió directamente a Meta con una posición clara: nadie debería tener su nombre, imagen, semejanza, voz o trabajo creativo utilizado por terceros, incluyendo modelos de inteligencia artificial, sin consentimiento explícito y documentado. El sindicato SAG-AFTRA, que agrupa a actores de cine y televisión, instó a sus miembros a tomar medidas para proteger sus imágenes, publicando mensajes en redes sociales alentando la exclusión.
Un portavoz de Meta reconoció después que la función no había alcanzado sus objetivos. "Nuestra intención era proporcionar una herramienta creativa útil y dar a las personas control sobre si su contenido público podía referenciarse de esta manera. Escuchamos los comentarios de que esta función no dio en el blanco, por lo que ya no está disponible", explicó. La reversión fue rápida: la herramienta que había debutado el martes fue desactivada antes de que terminara la semana.
Esta no es la primera vez que una empresa de inteligencia artificial enfrenta este tipo de resistencia. OpenAI mantuvo temporalmente una función similar en su modelo de video Sora 2, que también fue cerrada a inicios de este año tras críticas equivalentes. El patrón sugiere una tensión creciente entre las ambiciones de las empresas tecnológicas de expandir las capacidades de sus sistemas de IA y la determinación de actores, agencias y sindicatos de proteger los derechos sobre la propia imagen y la identidad. Meta, al menos en este caso, eligió ceder ante la presión. Pero la pregunta de cómo estas herramientas deben ser gobernadas sigue sin resolverse.
Citações Notáveis
Escuchamos los comentarios de que esta función no dio en el blanco, por lo que ya no está disponible— Portavoz de Meta
El nombre, la imagen, la semejanza, la voz o el trabajo creativo de nadie debe ser utilizado por ningún tercero, incluidos los modelos de IA, sin un consentimiento claro y documentado— Agencia CAA
A Conversa do Hearth Outra perspectiva sobre a história
¿Por qué Meta pensó que un sistema de exclusión voluntaria sería aceptable cuando se trata de imágenes de personas?
Probablemente porque técnicamente es más simple de implementar. Si requieres consentimiento previo, necesitas un mecanismo para recolectarlo, verificarlo, almacenarlo. La exclusión voluntaria es lo opuesto: todos están dentro por defecto, y solo quienes se molesten en desactivarlo quedan fuera.
Pero eso invierte completamente la idea de consentimiento informado, ¿no?
Exactamente. El consentimiento informado debería significar que alguien entiende qué está pasando y dice que sí. Aquí, la mayoría de la gente ni siquiera sabría que estaba incluida hasta que alguien se lo dijera.
¿Crees que Meta realmente no anticipó esta reacción?
Es difícil creerlo. Trabajaron con actores, con gente cuya imagen es su activo más valioso. Tal vez apostaron a que el beneficio de lanzar rápido superaba el riesgo de la reacción.
¿Y por qué cedieron tan rápido entonces?
Porque CAA y SAG-AFTRA tienen poder real. Representan a gente influyente, pueden generar presión pública, pueden afectar la reputación de Meta. Cuando esos actores hablan, los medios escuchan.
¿Esto significa que el problema está resuelto?
No. Solo significa que Meta retrasó el problema. Otras empresas seguirán intentando cosas similares. La pregunta fundamental sobre cómo gobernar estas herramientas sigue sin respuesta.