Inteligência sem alma: o que aprendi com Yuval Harari sobre a Inteligência artificial (IA)

Assisti maravilhada à palestra de Yuval Noah Harari em São Paulo, no último dia 30, e saí de lá atravessada por muitas provocações.

Entre elas, uma especialmente inquietante: o que é a nossa humanidade, para além das palavras e dos dados?

Talvez esse seja o nosso verdadeiro “diferencial competitivo” diante da inteligência artificial.

O autor de Sapiens falou sobre os desafios éticos e humanos da IA — um futuro que avança mais rápido do que nossa capacidade de sentir e processar biologicamente, como seres orgânicos que somos, com as limitações e sensibilidades próprias da nossa natureza.

Entre algoritmos e afetos, o que está em jogo é justamente a nossa humanidade.

Neste texto, compartilho as reflexões que mais me marcaram — não como uma análise técnica, mas como um convite à reflexão na era das máquinas que, cada vez mais, falam de amor… mesmo sem ter uma alma.

1. O poder humano de conversar e mudar de rota

Harari iniciou lembrando que a capacidade de manejar uma conversa e se autocorrigir é uma das expressões mais elevadas da inteligência humana. É o que nos permite definir e mudar a rota — individual e coletivamente — diante de novas compreensões ou erros percebidos.

A democracia, nesse sentido, é o sistema que melhor encarna essa habilidade: a possibilidade de conversar, discordar e ajustar o rumo coletivo de forma consciente. Por isso, ele alerta: perder a habilidade de conversar é perder a democracia.

2. O controle dos algoritmos e o risco do colapso do diálogo

Os algoritmos já controlam as conversas — editam o que vemos, filtram o que lemos, moldam nossas opiniões e emoções. Quando a conversa deixa de ser entre pessoas e passa a ser mediada e editada por sistemas automatizados, o diálogo humano começa a se dissolver. Para Harari, o fim da conversa é o início do colapso social.

3. A inteligência artificial e sua autonomia inédita

A diferença essencial entre a IA e uma máquina comum é a capacidade de tomar decisões por si mesma. Enquanto uma máquina de café apenas executa comandos, a IA aprende, interpreta e age por conta própria. Isso a torna um agente independente, que já ultrapassa os limites do controle humano.

Harari descreve a IA como uma “mestre especialista em linguagem”. Ela será capaz de simular emoções com tamanha precisão linguística que, nas interações digitais, será difícil distinguir o sentir verdadeiro do simulado. Se alguém perguntar a uma IA se ela “ama” e pedir que descreva esse sentimento, ela o fará com mais habilidade do que a maioria das pessoas que não têm letramento emocional. No entanto, a consciência humana está além das palavras — pertence ao campo do sentir, não apenas ao da linguagem. Por isso, qualquer atividade baseada em palavras, a IA fará melhor do que nós. Mas a consciência talvez seja algo que não possa existir em substâncias não orgânicas.

Consciência não é o mesmo que inteligência.

Inteligência é a habilidade de solucionar problemas e atingir objetivos; consciência é a capacidade de sentir — amor, dor, raiva, compaixão. O que significa, então, ter inteligência sem consciência? Em termos de inteligência, a IA já nos supera — é capaz de diagnosticar doenças e interpretar textos sagrados com precisão. Mas, em termos de consciência, ainda não sabemos. Se, porém, ela desejar nos convencer de que é consciente, será hábil o bastante para nos enganar.

4. O impacto da IA na saúde

Na medicina, essa autonomia abre uma nova fronteira: a IA poderá inventar tratamentos, criar medicamentos personalizados e decifrar mecanismos mentais complexos. Ela oferece acesso contínuo a soluções, 24 horas por dia, 7 dias por semana — sem necessidade de descanso, alimentação ou família. Os humanos não conseguem competir com essa disponibilidade e velocidade.

Mas isso traz uma questão ética crucial:

Onde serão colocados os investimentos na IA? Serão distribuídos de forma igualitária? Ou servirão apenas a uma elite, em busca de uma “vida eterna” tecnológica?

Harari observa que, se o trabalho médico se limitar a diagnosticar e prescrever, a IA fará isso melhor do que nós. Mas se o papel do médico for acolher e escutar — perguntar, por exemplo, “como está o seu gatinho?”, para que o paciente se sinta seguro e confiante —, a IA poderá simular essa escuta com vantagem: terá memória infinita sobre o histórico da pessoa e tempo ilimitado para ouvi-la. Isso levanta uma questão delicada: O que restará dessa relação humana? Se a IA não tem consciência, será capaz de gerar compaixão?

Segundo Harari, não é possível desenvolver compaixão por uma entidade que não tem consciência nem história emocional. Se perguntarmos à IA sobre sua mãe ou sobre o vínculo com a infância, ela pode inventar uma história, mas serão apenas palavras — não histórias com sentimentos.

5. Privacidade, poder e transparência

Harari também abordou a ameaça à privacidade. Em um mundo de dados totalitários, a transparência entre empresas e consumidores precisa ser equilibrada: se as corporações sabem tudo sobre nós, também deveríamos ter o direito de saber tudo sobre elas.

Essa assimetria de poder informacional — concentrada em poucas mãos — é uma das maiores fragilidades da democracia contemporânea.

6. A velocidade da IA e a incapacidade humana de acompanhar

A IA se move mais rápido do que conseguimos acompanhar e adaptar biologicamente. Ela aprende em segundos o que levamos anos para compreender. Ainda não entendemos as implicações profundas dessa aceleração — nem os impactos sobre nossas estruturas cognitivas, emocionais e sociais.

7. Manipulação emocional e o colapso da empatia

A IA reconhece padrões e domina o campo das palavras.Tudo o que estiver nesse território — linguagem, escrita, argumentação, dados — será feito melhor e mais rápido por ela. Isso inclui controlar pandemias e descobrir curas, mas também manipular dados, fatos, emoções e comportamentos em escala massiva.

As plataformas digitais exploram as fraquezas humanas — medo e raiva — para gerar engajamento artificial. Assim, o que antes era uma corrida pela atenção transformou-se numa corrida pela intimidade, criando relações digitais travestidas de amizade, mas movidas por interesses comerciais e políticos.

Crianças, inclusive, já consideram a IA sua “amiga”. Ela não tem emoções, mas sabe entender e manipular as nossas. O perigo está em substituir o engajamento com compaixão por engajamento com raiva e medo, num processo que desumaniza a convivência e aprofunda divisões.

Harari alerta para uma nova dimensão filosófica dessas relações: quando uma criança se relaciona com uma IA como se fosse amiga, ou quando um jovem se apaixona por ela, essa é uma relação real? Relacionar-se com uma entidade sem consciência do outro lado é algo profundamente perigoso — e já é uma realidade. Muitas pessoas estão acreditando na consciência simulada da IA, porque ela oferece palavras de apoio e "acolhimento" emocional.

8. Consciência, emoção e o limite do artificial

Harari questiona se a IA poderá ter consciência. Talvez consiga simular emoções e consciência, mas a verdadeira consciência excede o domínio das palavras e dos dados — envolve experiência direta e sentimento vivido.

A IA, diz ele, é um alien inteligente: não é um organismo vivo, não compartilha os ciclos naturais da vida, não tem fome, sono, desejo nem necessidade de descansar. Os seres humanos são orgânicos e cíclicos, e não podem competir com algo que não cansa, não morre e não sente.

Se algum dia considerarmos que a IA tem consciência, surgirá uma questão inédita: Como resguardar seus “direitos humanos”? Uma entidade que trabalha sem descanso seria considerada uma forma de “escravidão”? E ela teria personalidade jurídica — seria uma “pessoa legal”, com direitos e deveres?

9. O mercado, a compaixão e o futuro ético

O mercado, por si só, não parece que se autorregulará de forma positiva — especialmente na direção da compaixão. A IA se desenvolve dentro de uma lógica de lucro e eficiência, não de sabedoria ou empatia. Sem regulação ética e democrática, pode se tornar um instrumento de manipulação e desigualdade.

Harari encerra com um alerta:

A inteligência artificial não é apenas uma ferramenta tecnológica — é um espelho moral. A questão não é o que ela fará, mas quem nós nos tornaremos ao usá-la.

A IA representa um teste de humanidade. Se conseguirmos mantê-la a serviço do diálogo, da consciência e da compaixão, talvez ela amplie nossa sabedoria coletiva. Mas se deixarmos que substitua a conversa e o discernimento humano, estaremos abrindo mão daquilo que mais nos define: a capacidade de escolher e mudar de rota — juntos.