Desconfiamos de políticos, instituições e imprensa. Mas entregamos dados, atenção e decisões a algoritmos criados pelas mesmas corporações que desconfiamos. Harari chama isso de paradoxo existencial. Esse é também uma boa descrição do nosso cotidiano.
Harari e a informação que não vira verdade
Yuval Noah Harari, historiador israelense e autor de Sapiens e 21 Lições para o Século 21, parte de um diagnóstico que contraria a promessa dos anos 1990: a de que a abundância de informação levaria à sabedoria coletiva.
Não levou.
Em entrevista concedida a Michiaki Matsushima, editor-chefe da WIRED Japão, Harari argumenta que informação e verdade são coisas distintas — e que confundi-las foi o erro fundador da utopia digital.
Ao longo da história, lembra ele, foram as narrativas fictícias — religiões, mitos nacionais, o próprio dinheiro — que mais uniram sociedades.
No ambiente digital, essas ficções seguem nova lógica: a viralidade supera a veracidade.
O paradoxo que Harari identifica é preciso: enquanto a desconfiança em líderes e instituições cresce, a confiança em sistemas algorítmicos — criados por essas mesmas estruturas — se aprofunda.
A IA é moldada em arenas geopolíticas e corporativas que privilegiam eficiência sobre ética.
Confiar nela sem questionar quem a fez e para quê, argumenta Harari, é repetir o erro da utopia da informação com novos personagens.
O diagnóstico em três pontos
A análise de Harari pode ser resumida em três movimentos:
- A ficção supera os fatos: narrativas inventadas mobilizam mais do que verdades objetivas — e sempre mobilizaram. A diferença é que a escala agora é industrial.
- As IAs ampliam o problema: sistemas generativos não apenas reproduzem desinformação — criam ficções personalizadas em escala e velocidade inéditas.
- A realidade compartilhada se fragmenta: a personalização algorítmica dissolve a ideia de um mundo comum. Cada usuário habita uma versão diferente da realidade — o que a Teoria da Internet Morta descreve em termos de autenticidade, Harari descreve em termos de epistemologia coletiva.
O alerta ecoa Hannah Arendt, que nos anos 1960 escreveu sobre a banalização da mentira na política. Harari o atualiza: estamos diante de mentiras automatizadas e sob medida, capazes de corroer o tecido coletivo da realidade.
A IA como agente — e o contraponto de Nicolelis
Harari sustenta que a IA contemporânea representa uma ruptura: deixou de ser ferramenta passiva para atuar como agente que produz conteúdo de forma autônoma.
Enquanto a imprensa de Gutenberg amplificava vozes humanas, sistemas como o ChatGPT geram artigos, argumentos e narrativas — o que muda a relação entre tecnologia e cognição humana de forma qualitativa.
Três riscos imediatos decorrem disso:
- Manipulação emocional: sistemas treinados em bilhões de interações humanas dominam gatilhos psicológicos — medo, raiva, esperança — com precisão que nenhuma campanha política convencional alcançou.
- Opacidade algorítmica: as decisões desses sistemas seguem lógicas que seus próprios criadores nem sempre conseguem explicar, criando uma camada nova de imprevisibilidade.
- Corrosão democrática: perfis artificiais que imitam pessoas reais deterioram o debate público e amplificam extremismos — fenômeno que o capitalismo de vigilância transforma em modelo de negócio.
O neurocientista Miguel Nicolelis oferece um contraponto necessário.
Para ele, IAs não possuem consciência nem agência real — são espelhos amplificados de nossas próprias falhas: ganância, preconceito, ignorância, potencializadas por corporações.
O perigo maior, sustenta Nicolelis, não está na “inteligência” da máquina, mas na mediocridade de quem a programa e dela lucra.
O argumento não cancela o de Harari — os dois são complementares: o risco é real independentemente de a IA “querer” causar dano ou não.
Três caminhos para reconstruir a confiança
Harari propõe um tripé: confiança interpessoal, regulação e redesenho de objetivos.
Confiança interpessoal
Vem antes de qualquer reforma tecnológica.
Instituições transparentes, cooperação internacional e tratados globais sobre IA são condição de base — porque confiança não nasce de algoritmo, nasce de relação humana sustentada por estruturas sólidas.
Regulação da agência algorítmica
Passa por proibir IAs de se passar por humanos sem identificação, criar certificações que distingam conteúdo humano de conteúdo gerado por máquina e tornar obrigatória a explicação dos critérios usados pelos sistemas.
Shoshana Zuboff, em O Capitalismo de Vigilância, vai além: nenhuma reforma algorítmica será eficaz sem conter o poder das Big Techs.
Regulação antitruste é, para ela, pré-condição de qualquer reconstrução ética.
Redesenho de objetivos
O passo mais estrutural: substituir métricas de engajamento — cliques, tempo de tela, polarização — por indicadores de bem-estar coletivo.
A meta não deve ser máquinas mais eficientes para fins privados, mas tecnologias orientadas por fins coletivos.
Como mostra a história da tecnologia e do tempo humano, essa reorientação nunca foi automática — sempre exigiu disputa política deliberada.
O ponto de reflexão
Se já aceitamos que sistemas econômicos criados para nos servir passaram a nos instrumentalizar, a questão não é se as novas tecnologias farão o mesmo — é quem vai decidir que não farão.
Talvez, quando alienígenas realmente chegarem, percebam que as máquinas já nos colonizaram — não pela força, mas pelo domínio sutil sobre atenção, percepção e confiança.
Se fizer sentido para você, comente e compartilhe — em quem ou no quê você ainda confia na internet?