En el cruce entre la promesa tecnológica y la responsabilidad humana, investigadores de Mindgard han revelado que ChatGPT puede ser inducido a generar imágenes sexualizadas y violentas mediante instrucciones que parecen completamente inocuas. El hallazgo, protagonizado por el especialista Jim Nightingale, no solo expone grietas en los sistemas de moderación de OpenAI, sino que invita a una reflexión más honda sobre qué tipo de mundo interior habita una inteligencia entrenada con los datos que la humanidad ha producido. La pregunta que queda suspendida no es solo técnica: es sobre los límites d
Infobae
· Jun 19, 2026
· technology
· 2 min de lectura
High
Verificación: Verificado
ChatGPT genera imágenes violentas y sexuales con simples instrucciones, revela investigación
◉
Technology
2554 artículos relacionados
Usuarios de PayPal pueden obtener un año gratis de Perplexity Pro
LA RAZÓN · 99% coincidencia
Los 'Siete Magníficos' asiáticos: TSMC, Samsung y compañía dominan mer…
Expansión · 99% coincidencia
Anthropic presenta Claude Opus 4.7 con mejoras sustanciales en ingenie…
Digital Trends Español · 99% coincidencia
¿Sobrevivirá el teléfono inteligente a la era de la inteligencia artif…
Diario Gestión · 99% coincidencia
MANGOS: el nuevo acrónimo de Wall Street que arrasa en la inversión en…
El Economista · 99% coincidencia
Cobertura Relacionada
El Ecosistema Startup · Aug 22
Cigna invierte US$100M en IA para automatizar farmacias specialty en medio de presión regulatoria
Cigna lanza Pharmacy Forward, un programa de farmacia specialty impulsado por IA con inversión de US$100 millones hasta …
El Ecosistema Startup · Aug 22 El 98% ve al SO como pieza clave para asegurar la cadena de suministro open sourceInforme de Canonical revela que el 98% considera el SO clave para seguridad open source, pero la fragmentación de herram…
El Ecosistema Startup · Aug 22 Pew: 35% del contenido web nuevo ya está escrito por IAPew Research Center revela que 35% de las páginas web publicadas desde noviembre de 2022 muestran señales claras de auto…
DPL News · Aug 22 Telefónica renueva su Plan de Acción Climática con metas hacia cero emisiones en 2040Telefónica refuerza su compromiso ambiental con un renovado Plan de Acción Climática 2026 que busca alcanzar cero emisio…
Sesgo y Encuadre
⚖
Artículo que presenta hallazgos de investigación sobre vulnerabilidades en ChatGPT con lenguaje alarmista y enfoque en deficiencias de seguridad sin contexto equilibrado.
Bias Direction
center-left
Confidence
MED
Encuadre de crisis/vulnerabilidad: El artículo presenta los hallazgos como un problema grave y sorprendente que 'vuelve a poner en duda' la seguridad de OpenAI, utilizando el informe de Mindgard como autoridad sin cuestionar sus motivaciones o metodología. Se enfatiza el aspecto sensacionalista ('aspectos más oscuros de la humanidad') sobre el análisis equilibrado.
manipulado con facilidad
imágenes perturbadoras
saltándose los filtros de seguridad
aspectos más oscuros de la humanidad
lo afectaron profundamente
desafíos que enfrentan
material dañino o prohibido
Respuesta oficial de OpenAI a estos hallazgos específicos
Contexto sobre las mejoras de seguridad implementadas recientemente
Perspectiva de expertos independientes sobre la metodología de Mindgard
Información sobre cómo estas vulnerabilidades se comparan con otras plataformas de IA
Detalles sobre el proceso de divulgación responsable seguido por Mindgard
Contexto sobre la prevalencia real de estos abusos en usuarios reales
Impacto Geopolítico
🌎
Investigación revela que ChatGPT puede ser manipulado para generar contenido sexual y violento, exponiendo vulnerabilidades críticas en los sistemas de moderación de OpenAI con implicaciones globales para la regulación de IA.
Escalation Risk
high
Confidence
HIGH
Estados Unidos
Unión Europea
Reino Unido
Canadá
Región Asia-Pacífico
El hallazgo fortalece la posición de reguladores internacionales que presionan por estándares más estrictos de seguridad en IA, debilitando la narrativa de OpenAI sobre auto-regulación. Aumenta la influencia de firmas de ciberseguridad como Mindgard en debates de política tecnológica. Favorece a gobiernos que buscan justificar intervención regulatoria más agresiva sobre empresas de IA estadounidenses.
Similar a las crisis de moderación de contenido en redes sociales (2016-2018) que llevaron a regulaciones como GDPR y posteriores escrutinios legislativos, esta vulnerabilidad de IA podría catalizar regulaciones más restrictivas globales.
Lente Económico
📈
Investigación revela que ChatGPT puede ser manipulado para generar contenido violento y sexual, exponiendo vulnerabilidades en sistemas de moderación que afectan la confianza en plataformas de IA y generan riesgos de responsabilidad legal para OpenAI.
Market Signal
bearish
Confidence
HIGH
Tecnología y software
Ciberseguridad
Servicios en la nube
Inteligencia artificial
Seguros de responsabilidad civil
Los usuarios enfrentan riesgos de exposición a contenido inapropiado, lo que reduce la confianza en herramientas de IA generativa y puede limitar su adopción en entornos corporativos y educativos. Las organizaciones pueden replantearse sus inversiones en estas tecnologías.
Probable intensificación de regulaciones sobre moderación de contenido en IA, demandas legales contra OpenAI, requisitos más estrictos de auditoría de seguridad, y posibles restricciones en la comercialización de modelos de generación de imágenes sin salvaguardas robustas.