Agricultor brasileño arrestado tras confesar planes de asesinato a ChatGPT

Un agricultor de 36 años fue arrestado en la zona rural de São Gabriel da Palha el 19 de junio después de pasar casi dos meses intercambiando mensajes con ChatGPT en los que, según la policía, describía planes para matar a su hijo de 8 años, atacar a otras personas y luego quitarse la vida. Los mensajes que llevaron a su detención fueron reportados por OpenAI al FBI, que a su vez notificó a las autoridades brasileñas. Es uno de los pocos casos conocidos en el mundo donde una empresa de inteligencia artificial ha denunciado a un usuario a la policía por amenazas potenciales.

Durante esas conversaciones con el chatbot, el hombre escribió frases como "Le ofrecí 50.000 para que me matara a mí y a mi hijo, pero no quiso porque se trataba de un niño" y "Quería saber de dónde viene este deseo de matar gente. Me gusta la sensación de ver sufrir a otra persona". Los investigadores también encontraron mensajes donde mencionaba planes de atacar escuelas, iglesias y agentes de policía. En uno de ellos escribió: "Si voy a un punto de venta de drogas y mato a unos cuatro delincuentes, me haría famoso en la ciudad. Después, solo tendría que matar a uno o dos policías y podría morir en paz". Según la policía, el hombre también investigó sustancias tóxicas, incluida la ricina, e intentó eludir las medidas de seguridad de ChatGPT reformulando sus preguntas.

Brenno Andrade, jefe de la comisaría de delitos cibernéticos de Espírito Santo, explicó que priorizaron el caso por su gravedad y porque el sospechoso supuestamente planeaba matar a su hijo antes del 20 de junio. Los investigadores creen que el resentimiento por los pagos de manutención que realizaba pudo haber sido uno de los motivos del presunto complot. El hombre tenía poco o ningún contacto con su hijo más allá de esas obligaciones económicas. Cuando la policía llegó a su propiedad, encontró cuatro botellas con sustancias no identificadas y una cuerda amarrada con un nudo, lo que los agentes interpretaron como posibles indicios de intenciones suicidas.

El hombre fue puesto en libertad el 13 de agosto después de pasar 54 días bajo custodia, debido a retrasos en la investigación. No se han presentado cargos formales, pero la investigación continúa. Está sujeto a medidas de precaución que incluyen vigilancia electrónica y la prohibición de contactar con su hijo o con la madre del niño. Su abogado defensor, Pedro Paulo Pessi, argumenta que su cliente simplemente estaba "diciendo tonterías" a un chatbot y que no cometió ningún delito. Según la defensa, no se tomó ninguna medida concreta para llevar a cabo los planes descritos en las conversaciones.

Este caso expone un dilema legal sin precedentes en Brasil. Según el derecho penal brasileño, normalmente un delito se considera cometido únicamente durante la fase de ejecución, no durante la planificación o preparación. Los investigadores están examinando el teléfono móvil del sospechoso y esperan los resultados de pruebas forenses para determinar si tomó medidas concretas, incluyendo si contactó con un sicario como supuestamente afirmó en las conversaciones con ChatGPT. Andrade señaló que "todo lo que la plataforma nos proporcionó fue corroborado cuando la policía llegó al lugar de los hechos".

Sin embargo, existe un problema probatorio significativo. OpenAI proporcionó detalles del usuario y de los mensajes que envió, pero no las respuestas que el chatbot dio. La abogada penalista Maíra Fernandes advierte que esto crea un vacío importante porque el contexto completo de la conversación es fundamental. "No puede ser un pequeño fragmento, no puede ser una versión editada. Tiene que ser la conversación completa", afirmó. Ver la conversación completa podría ayudar a determinar si el chatbot simplemente reaccionó a lo que dijo el usuario o si influyó activamente en la dirección de la conversación.

OpenAI se negó a explicar por qué no compartió las respuestas de ChatGPT, limitándose a decir que puede notificar a las autoridades cuando detecta un "riesgo creíble e inminente de daño a terceros". Andrade indicó que este era el primer caso de alerta generada por inteligencia artificial que recibía Espírito Santo y solo el tercero en Brasil. Fernandes advierte sobre el peligro de normalizar investigaciones basándose únicamente en evaluaciones de IA, pero también reconoce que cuando una conversación indica una amenaza concreta con una víctima identificable, medios disponibles y riesgo inminente, surge un deber ético y legal de actuar. El desafío, según ella, consiste en "evitar tanto la omisión como la vigilancia excesiva".