Segurança da IA começa a ser desenhada para diferentes idades

A OpenAI anunciou no dia 18 de agosto uma versão do ChatGPT desenhada especificamente para adolescentes entre os 13 e os 17 anos. À primeira vista, parece um simples acréscimo de controlos parentais a uma plataforma existente. Mas o que está realmente em jogo é mais fundamental: o reconhecimento de que a segurança da inteligência artificial não pode ser aplicada como um penso depois de a tecnologia chegar às mãos das pessoas. Tem de ser pensada desde o início, moldada conforme quem a utiliza.

Esta mudança de perspetiva coloca uma questão que ultrapassa qualquer plataforma individual. A velocidade com que a IA entrou na vida quotidiana está a deixar para trás a capacidade de criar mecanismos de proteção adequados. A nova experiência para adolescentes inclui proteções ativadas automaticamente, ferramentas orientadas para a aprendizagem e sistemas de controlo parental. Quando o sistema deteta um utilizador com menos de 18 anos, ou quando este indica uma idade entre os 13 e os 17 anos, a configuração de segurança reforçada ativa-se sozinha. Os pais ou tutores podem gerir funcionalidades, estabelecer horários e receber notificações sobre situações de segurança específicas, embora não tenham acesso às conversas mantidas pelos adolescentes.

Os números revelam a dimensão real do problema. De acordo com o AI Security Report 2026 da Check Point Research, a percentagem de interações com IA generativa classificadas como de alto risco duplicou num ano, passando de 2% para 4%. Isto significa que o risco passou de uma interação problemática em cada 50 para uma em cada 25. Entre 87% e 93% das organizações registaram mensalmente pelo menos uma interação considerada de alto risco. Cada organização utiliza, em média, dez aplicações de inteligência artificial por mês, muitas delas fora dos circuitos formais de aprovação das equipas de segurança. Estes números referem-se ao contexto empresarial, mas expõem um problema muito mais amplo: a utilização da IA está a crescer mais depressa do que a capacidade de estabelecer regras, desenvolver hábitos seguros e construir mecanismos técnicos capazes de reduzir os riscos.

No caso dos adolescentes, a complexidade aumenta significativamente. Não se trata apenas de impedir o acesso a conteúdos inadequados. A privacidade, a divulgação involuntária de informação pessoal, a engenharia social, a manipulação dos sistemas e a utilização inadequada de dados tornam-se parte da equação. A iniciativa da OpenAI ganha significado precisamente porque reconhece esta realidade. As proteções anunciadas procuram reduzir a exposição a conteúdos considerados inadequados à idade, favorecer a compreensão em vez da simples obtenção imediata de respostas, e permitir que os pais estabeleçam limites de tempo de utilização.

O que está realmente a mudar é a forma como se pensa a segurança. Durante grande parte da evolução das tecnologias digitais, os mecanismos de proteção foram frequentemente acrescentados à medida que surgiam problemas. A utilização massificada da IA generativa torna essa abordagem cada vez mais difícil de sustentar. As plataformas de IA não se limitam a apresentar informação. Recebem perguntas, dados e documentos, influenciam processos de aprendizagem e podem tornar-se interlocutores regulares dos seus utilizadores. Isto significa que a proteção já não pode ser entendida apenas como uma camada tecnológica destinada a bloquear determinados conteúdos.

A literacia em inteligência artificial passa a fazer parte integrante da segurança. Um utilizador precisa de compreender que tipo de informação não deve introduzir num sistema, que uma resposta produzida por um modelo pode estar errada, e que a utilização de uma plataforma digital implica necessariamente decisões sobre dados, privacidade e confiança. Para os utilizadores mais jovens, ensinar os limites da IA pode tornar-se tão importante quanto limitar tecnicamente aquilo a que conseguem aceder.

Esta distinção tem implicações que vão muito além dos adolescentes. À medida que colaboradores habituados a utilizar IA desde a escola entram no mercado de trabalho, as organizações irão receber pessoas para quem estes sistemas são instrumentos quotidianos e não uma tecnologia nova introduzida pelo departamento de TI. Isto significa que políticas empresariais de segurança exclusivamente baseadas em proibição ou controlo poderão revelar-se insuficientes. A utilização segura da IA dependerá igualmente da capacidade de formar utilizadores capazes de reconhecer riscos e compreender o que acontece à informação quando interagem com estes sistemas. O lançamento de uma experiência dedicada a adolescentes aproxima a inteligência artificial de um princípio já conhecido na segurança tecnológica: a proteção funciona melhor quando está incorporada na conceção do serviço e ativada por defeito, em vez de depender exclusivamente das decisões tomadas pelo utilizador. O desafio que permanece é encontrar o equilíbrio certo. Demasiadas restrições podem diminuir a utilidade das ferramentas; proteção insuficiente transfere para adolescentes, famílias e instituições responsabilidades para as quais nem sempre dispõem de informação ou competências.