António Damásio, neurocientista da Universidade do Sul da Califórnia, adverte que a inteligência artificial contemporânea carece da vulnerabilidade que forjou a ética e a empatia humanas ao longo de milénios. Sem essa fragilidade fundadora, e impulsionada por líderes tecnológicos que privilegiam capacidade e lucro sobre consequências morais, a IA avança como uma força sem bússola interior. Damásio teme que o momento de viragem já tenha passado — mas recusa abandonar a esperança, porque, para ele, o amor e a boa intenção nunca chegam verdadeiramente tarde.
IA é o "perfeito desastre humano", alerta Damásio sobre falta de vulnerabilidade
A vulnerabilidade é o que nos ensinou a cuidar uns dos outros
Mark
O que o preocupa mais — a tecnologia em si, ou a forma como a estamos a usar?
Mimi
Para Damásio, é ambos. A IA não tem vulnerabilidade, o que significa que não tem os freios morais que a evolução nos deu. Mas o verdadeiro problema é que as pessoas que a controlam também não parecem ter preocupações morais — apenas lucro.
Luke
Mas ele está a dizer que os CEOs pediram uma pausa no desenvolvimento. Isso não conta para algo?
Mimi
Ele não acredita que seja genuíno. Suspeita que seja uma estratégia para regulação que beneficie as grandes empresas.
Mark
Então está a dizer que é impossível?
Mimi
Ele diz que talvez seja tarde. Mas depois diz que nunca é tarde se houver amor e boas intenções. É uma contradição deliberada.
Luke
Espera — ele está a basear isto em quê? Em dados sobre o comportamento da IA, ou em filosofia sobre o que a vulnerabilidade significa?
Mimi
É principalmente filosofia. A ideia de que a vulnerabilidade moldou a civilização humana é uma teoria, não um facto observável.
Mark
E quanto aos CEOs que pediram a pausa? Ele conhece as razões deles?
Luke
Não. Ele teoriza. Diz que "não são inteiramente claras as razões". Portanto está a especular sobre motivações ocultas.
Mimi
Mas o ponto dele sobre o materialismo das sociedades — sobre o facto de a IA vender e a reflexão ética não vender — isso é observável.
Mark
Então o desastre não é técnico. É económico e cultural.
Mimi
Exatamente. E por isso é que talvez seja demasiado tarde.
Il Polso
- A IA não sente fome, não teme a morte, não precisa de abrigo — e é precisamente essa ausência de fragilidade que a torna perigosa para a civilização que a criou.
- Os CEOs da Anthropic, xAI e OpenAI disseminaram ferramentas poderosas com foco quase exclusivo em capacidade técnica e retorno financeiro, relegando a ética para segundo plano.
- Os efeitos já são visíveis no quotidiano: estudantes incapazes de atravessar uma rua sem olhar para o ecrã, vidas cada vez mais mediadas por sistemas que ninguém controla verdadeiramente.
- Os mesmos líderes que aceleraram o desenvolvimento pedem agora uma pausa — mas Damásio suspeita que se trata de uma manobra para moldar a regulação em benefício próprio.
- O neurocientista admite que talvez seja tarde para reverter o curso, mas mantém um otimismo frágil: enquanto houver amor e boas intenções, a mudança permanece possível.
António Damásio, neurocientista da Universidade do Sul da Califórnia, adverte que a inteligência artificial contemporânea carece da vulnerabilidade que forjou a ética e a empatia humanas ao longo de milénios. Sem essa fragilidade fundadora, e impulsionada por líderes tecnológicos que privilegiam capacidade e lucro sobre consequências morais, a IA avança como uma força sem bússola interior. Damásio teme que o momento de viragem já tenha passado — mas recusa abandonar a esperança, porque, para ele, o amor e a boa intenção nunca chegam verdadeiramente tarde.
António Damásio, neurocientista e diretor do Brain and Creativity Institute na Universidade do Sul da Califórnia, parte de um lugar inesperado para explicar o perigo da inteligência artificial: a vulnerabilidade. Imagine um ser humano que nunca sentiu fome, que não temia a morte, que não precisava de calor ou segurança. Teria essa criatura construído civilização, empatia, consciência moral? Para Damásio, não. A fragilidade da vida humana é o que nos ensinou a cuidar uns dos outros e a tomar decisões com base em sentimentos e necessidades reais.
A IA não possui esta vulnerabilidade. Os seus únicos pontos fracos são mecânicos — cortar a eletricidade, destruir um servidor. Há quatro anos, Damásio acreditava que a IA poderia ser extraordinária se incorporasse de alguma forma essa dimensão humana. Sem ela, alertava, seria uma tragédia. O tempo confirmou o pior cenário.
O neurocientista responsabiliza diretamente os líderes das grandes empresas tecnológicas. Os CEOs da Anthropic, xAI e OpenAI preocuparam-se essencialmente com dois objetivos: aumentar capacidades técnicas e maximizar lucros. O impacto humano foi tratado de forma marginal. O resultado é visível em qualquer cidade — jovens incapazes de atravessar uma rua sem olhar para o telemóvel, existências inteiramente mediadas por tecnologia que ninguém controla de verdade.
Quando questionado sobre a possibilidade de reversão, Damásio hesita e admite que talvez seja tarde. Mas corrige-se: é, no fundo, um otimista. Os pedidos de pausa recentes dos mesmos CEOs que aceleraram o desenvolvimento não o convencem — suspeita que escondem uma estratégia para moldar a regulação em benefício das grandes empresas. O problema mais fundo, conclui, é o materialismo das nossas sociedades: a IA vende, a reflexão ética não. E é nesse desequilíbrio que reside, talvez, o desastre mais perfeito que a humanidade alguma vez criou para si mesma.
António Damásio, neurocientista e diretor do Brain and Creativity Institute na Universidade do Sul da Califórnia, apresenta uma tese perturbadora: a inteligência artificial, tal como existe hoje, é um desastre humano perfeito — e talvez seja demasiado tarde para o travar.
A sua argumentação começa num lugar inesperado: a vulnerabilidade. Imagine, propõe Damásio, um ser humano que nunca sentiu fome, que não precisava de dormir, que não temia a morte, que não tinha necessidade de se manter quente ou seguro. Teria essa criatura chegado ao nível de civilização que conhecemos? Teria desenvolvido emoções, empatia, consciência moral? A resposta, para Damásio, é não. A vulnerabilidade — a fragilidade fundamental da vida humana — é o que nos moldou como espécie. É o que nos ensinou a cuidar uns dos outros, a tomar decisões baseadas em sentimentos e necessidades, a construir sociedades.
A inteligência artificial, por contraste, não possui esta vulnerabilidade. Os seus únicos pontos fracos são mecânicos: cortar a eletricidade, destruir um data center. Isto não é vulnerabilidade no sentido humano. E aqui reside o problema trágico. Há quatro anos, Damásio teorizava que a IA poderia ser extraordinária se fosse equipada com uma ponte para a dimensão humana — se, de alguma forma, incorporasse vulnerabilidade. Caso contrário, alertava, poderia culminar numa tragédia. O tempo confirmou a segunda hipótese.
Damásio culpa diretamente os líderes das grandes empresas tecnológicas. Os CEOs da Anthropic, xAI e OpenAI, diz, preocuparam-se com apenas dois aspetos: aumentar capacidades técnicas e maximizar lucros. A preocupação com o impacto humano foi "muito relativa". O seu modus operandi é simples e devastador: vender o máximo possível, colocar ferramentas técnicas nas mãos de todos. O resultado é visível nas ruas de Los Angeles, nos campus universitários, em qualquer lugar — estudantes incapazes de atravessar uma rua sem olhar para o telemóvel, vidas mediadas por tecnologia que ninguém verdadeiramente controla.
Quando questionado se ainda é possível reverter esta situação, Damásio hesita. "Julgo que não", diz, admitindo que "talvez seja tarde". Mas depois corrige-se — porque é, fundamentalmente, um otimista. "Nunca é tarde desde que se tenha amor e bons desejos para os outros", acrescenta. Há uma semana, os mesmos CEOs que acelerou o desenvolvimento da IA pediram publicamente um abrandamento. Damásio não está convencido. Suspeita que estes pedidos de pausa podem ser, na verdade, estratégias para uma regulação que beneficie as grandes empresas — uma forma de consolidar poder sob a aparência de responsabilidade.
O problema subjacente, na visão de Damásio, é mais profundo ainda: o materialismo pronunciado das nossas sociedades. A inteligência artificial vende. A transmissão de pensamento, a reflexão ética, a preocupação genuína com o bem-estar humano — estas coisas não vendem. Geram lucro extraordinário versus trilionários, enquanto a inovação científica que prolonga a vida, que realmente importa, não produz este tipo de retorno financeiro. É uma realidade triste, reconhece o neurocientista, mas é a realidade com que temos de nos confrontar. E nela, a inteligência artificial — desprovida de vulnerabilidade, movida por lucro, disseminada sem controlo genuíno — representa talvez o desastre mais perfeito que a humanidade já criou para si mesma.
Citazioni salienti
Talvez seja tarde para travar o fim do mundo da inteligência natural, mas nunca é tarde desde que se tenha amor e bons desejos para os outros— António Damásio
Os sistemas de Inteligência Artificial têm como única vulnerabilidade cortar-lhes a corrente elétrica, mas isso não é vulnerabilidade— António Damásio
Vuoi la storia completa?
Leggi l'originale su CNN Portugal ↗
Education