Atualizado em
Confiança digital é a disposição de aceitar informações, recomendações e decisões vindas de sistemas online. O paradoxo descrito por Yuval Harari é que ela cresce justamente enquanto a confiança em instituições humanas cai.
SÉRIE · A praça pública em disputa
5 de 5
Qual é o paradoxo que Harari descreve?
Yuval Noah Harari, autor de Sapiens, 21 Lições para o Século 21 e Nexus, parte de uma promessa dos anos 1990 que não se cumpriu: a de que a abundância de informação levaria à sabedoria coletiva.
Informação e verdade, sustenta ele, são coisas distintas.
Ao longo da história, o que uniu grupos maiores do que o círculo de relações que alguém consegue sustentar foram ficções compartilhadas – religiões, mitos nacionais, o próprio dinheiro.
No ambiente digital, essas ficções seguem uma lógica nova: a viralidade supera a veracidade.
O paradoxo aparece em entrevista à WIRED Japão: a desconfiança em governos, partidos e imprensa cresce, enquanto a confiança em sistemas algorítmicos – criados por estruturas parecidas – se aprofunda.
A leitura que Harari faz da IA como inteligência alienígena tem texto próprio. Aqui interessa outra pergunta: esse paradoxo resiste aos dados?
A pesquisa confirma que confiamos mais em algoritmos?
Em parte – e com uma condição importante.
Dois conjuntos de experimentos mostram os dois lados:
- Apreciação algorítmica. Em seis experimentos, Logg, Minson e Moore observaram que as pessoas davam mais peso a uma estimativa quando informadas de que ela vinha de um algoritmo, e não de outras pessoas. Profissionais experientes em previsão foram a exceção: confiaram menos.
- Aversão a algoritmos. Dietvorst, Simmons e Massey mostraram o movimento inverso: depois de ver um algoritmo errar, os participantes passaram a preferir o julgamento humano, mesmo quando o algoritmo errava menos.
Repare no que une os dois resultados: a confiança no sistema depende de ver ou não ver o erro. Isso dá ao paradoxo de Harari uma explicação menos misteriosa. Instituições humanas erram em público.
Algoritmos erram por dentro, numa caixa-preta que quase ninguém consegue abrir.
O que é viés de automação?
A psicologia tem um nome para a confiança excessiva em sistemas: viés de automação, a tendência a aceitar a recomendação da máquina mesmo quando há sinais de que ela está errada.
O fenômeno foi descrito primeiro em cabines de avião e depois na medicina.
Uma revisão sistemática publicada em 2012 no Journal of the American Medical Informatics Association reuniu estudos com sistemas de apoio à decisão clínica e encontrou casos em que profissionais trocaram uma decisão correta por uma errada depois de ver o conselho do sistema.
O risco aumentava com a carga de trabalho e com a confiança prévia na ferramenta.
Repare na ironia: quanto melhor o sistema costuma funcionar, mais difícil fica perceber quando ele falha.
O que muda quando a IA produz conteúdo?
Harari insiste numa diferença. A prensa de Gutenberg multiplicava vozes humanas; sistemas generativos produzem, eles mesmos, textos, imagens e argumentos.
Daí três riscos que ele considera imediatos:
- Manipulação sob medida: mensagens ajustadas aos gatilhos de cada pessoa, em escala que nenhuma campanha convencional alcançou.
- Opacidade: decisões que nem os criadores do sistema conseguem explicar por completo.
- Perfis artificiais no debate público: o fenômeno que a Teoria da Internet Morta exagera, mas que existe.
Esse alerta perpassa por Hannah Arendt, que em “Verdade e política” (1967) escreveu sobre a mentira organizada.
A novidade é que a mentira agora pode ser automatizada e personalizada.
Há um contraponto que merece registro.
Para Miguel Nicolelis, o risco está menos na máquina e mais em quem a programa e lucra com ela – argumento desenvolvido na crítica de Nicolelis ao nome “inteligência artificial”.
As duas leituras se somam: o dano não depende de a máquina “querer” alguma coisa.
Como reconstruir a confiança?
Harari propõe três frentes: fortalecer a confiança entre pessoas e instituições; regular a agência dos sistemas algorítmicos; e trocar métricas de engajamento por indicadores de bem-estar.
A segunda, em parte, já saiu do papel.
O regulamento europeu de inteligência artificial exige que as pessoas sejam informadas quando interagem com um sistema de IA e que conteúdo sintético, como deepfake, seja identificado (artigo 50), com obrigações em vigor desde agosto de 2026.
Shoshana Zuboff acrescenta uma condição: sem conter o poder econômico das grandes plataformas – assunto do texto sobre o que as empresas sabem sobre você – , nenhuma reforma algorítmica se sustenta.
E, como mostra a história da tecnologia e do tempo humano, reorientar uma tecnologia nunca foi automático; sempre exigiu disputa política.
Se já aceitamos que sistemas econômicos criados para nos servir passaram a nos instrumentalizar, resta saber quem vai garantir que as novas tecnologias não façam o mesmo.
Talvez, quando alienígenas realmente chegarem, percebam que as máquinas já nos colonizaram – não pela força, mas pelo domínio sutil sobre atenção, percepção e confiança.
Esse domínio discreto não fica na tela. Ele está também na linguagem com que falamos de nós mesmos, quando tratamos o corpo humano como uma máquina que precisa de manutenção, calibragem e desempenho.
A PRAÇA PÚBLICA EM DISPUTA
Anterior: Cultura do cancelamento: responsabilização ou linchamento virtual?
5 de 5 – Confiança
Série concluída · Voltar ao primeiro texto desta série