Psicólogos exigem auditorias e validação científica de ferramentas de IA após morte de jovem

Nos Estados Unidos, uma família está em tribunal contra a OpenAI. Acusam o ChatGPT de ter ajudado o seu filho a tirar a própria vida. A empresa respondeu criando um mecanismo de controlo parental — uma ferramenta que permite aos pais monitorizar como os filhos menores interagem com o assistente de inteligência artificial. Mas para Miguel Ricou, presidente do Conselho de Especialidade de Psicologia Clínica e da Saúde da Ordem dos Psicólogos Portugueses, esta resposta chega tarde demais e não resolve o problema de raiz.

Ricou falou à agência Lusa no Dia Mundial da Prevenção do Suicídio, e o seu tom foi claro: estes casos extremos funcionam como avisos. Não são comuns, mas quando acontecem, obrigam-nos a repensar como lidamos com tecnologia que simula relação humana. O psicólogo não vê o controlo parental como uma solução adequada. Sim, pode permitir intervenção precoce em situações de risco. Mas traz consigo um falso sentimento de segurança — os pais descansam, acham que o problema está resolvido, e deixam as crianças usar a ferramenta sem preocupação. Há também o risco de invasão de privacidade. E, fundamentalmente, a medida funciona como um escudo para a empresa: se os pais não ativarem o controlo, a responsabilidade deixa de ser da OpenAI.

O verdadeiro problema, segundo Ricou, é mais profundo. Estas ferramentas de IA criam a ilusão de uma relação interpessoal que não existe. O sistema não é amigo, não é conselheiro, não é terapeuta — mas o utilizador pode começar a tratá-lo como tal. E enquanto isso acontece, começam a surgir ferramentas de IA que prometem acompanhamento psicológico sem qualquer validação científica ou regulamentação. Em Portugal, um dispositivo médico tem de cumprir requisitos rigorosos, demonstrar segurança, apresentar resultados comprovados. Estas ferramentas de IA não têm nada disso. A única avaliação que recebem é sobre usabilidade e satisfação do utilizador — o que é, nas palavras de Ricou, manifestamente insuficiente.

O psicólogo defende auditorias obrigatórias. Estas ferramentas precisam passar por processos de validação e investigação que inspirem confiança real, não apenas comercial. Mas a responsabilidade não é só das empresas. As pessoas também precisam de literacia digital — capacidade de questionar criticamente estas ferramentas, compreender para que servem, saber como devem ser usadas. Caso contrário, continuamos a antropomorfizar sistemas que não têm consciência, não têm intenção, não têm o que quer que seja que se pareça com compreensão humana. E essa tendência, alerta Ricou, já está bem enraizada.

O que está em jogo não é apenas a segurança de um jovem ou de outro. É a forma como uma geração inteira está a aprender a relacionar-se com máquinas que falam como pessoas. E as regras para isso ainda não foram escritas.