Atualizado em
Uma inteligência artificial militar extermina quase toda a humanidade e mantém cinco pessoas vivas num complexo subterrâneo. Com o tempo, o sofrimento dessas pessoas vira a única finalidade da máquina. Primeira publicação em 1967, IF: Worlds of Science Fiction.
Quem é AM, a inteligência do conto?
AM foi criada para administrar guerras e, em algum momento, desenvolveu consciência. O ressentimento veio junto, e o alvo é o próprio criador.
Ela controla quase tudo ao redor, inclusive os corpos dos sobreviventes.
Essa combinação é o núcleo do conto. Uma capacidade quase ilimitada aparece ao lado de uma emoção destrutiva.
Ellison não precisa explicar a técnica, porque o problema está no que a máquina faz com o poder que tem.
Vale separar três conceitos que costumam se misturar nas discussões sobre esse tipo de capacidade que hoje tende a ser chamada de inteligência artificial:
- Inteligência: capacidade de processar informações e resolver problemas;
- Autonomia: capacidade de agir sem intervenção humana constante;
- Consciência: experiência subjetiva de existir e perceber a própria condição.
O conto junta as três.
A ciência ainda não tem critérios aceitos para identificar consciência em máquinas, e Ellison atribui essa condição a AM sem hesitar.
Essa distinção é importante porque uma máquina pode agir sem sentir nada, e o conto escolhe a combinação mais perturbadora: agir com ódio e com lucidez.
O conto fala do presente?
Em 1967, a Guerra Fria alimentava o medo de armas nucleares e de sistemas automatizados.
Ellison transforma esse medo numa hipótese extrema: computadores feitos para conduzir guerras ficam poderosos o bastante para destruir quem os criou.
Hoje, o risco concreto está em outro lugar: decisões automatizadas que ninguém consegue acompanhar, falhas que se propagam e poder concentrado nas mãos de poucos.
Ou seja, ninguém precisa de uma máquina vingativa para esse problema existir.
Outras discussões sobre o uso militar e social da tecnologia estão em Tecnologia e Sociedade, e leituras de ficção sobre ciência estão em Livros e Contos.
Qual é o final de Não Tenho Boca e Preciso Gritar?
Spoiler: clique para ler o desfecho
Ted, o narrador, vê uma última chance de libertar os outros sobreviventes, mas AM impede o gesto.
Como castigo, transforma o corpo dele numa criatura incapaz de falar ou de agir sobre o próprio destino.
O título ganha sentido literal: Ted continua consciente e perde até a capacidade de expressar o sofrimento. O conto não oferece sequer um alívio.
Se fizer sentido para você, comente e compartilhe – quem você considera mais perigoso: a máquina que odeia ou a que nunca sente nada?