Atualizado em
Autor: Isaac Asimov – Publicação: 1950
Regras claras parecem seguras. Dão impressão de ordem, previsibilidade e controle. Em Eu, Robô, Isaac Asimov parte exatamente dessa promessa: robôs programados por leis capazes de impedir danos, organizar obediência e limitar riscos. A força do livro está em mostrar que regra nenhuma atravessa o mundo real sem atrito.
Uma curiosidade antes de começar: Asimov detestava o título. Ele queria chamar a coletânea de Mind and Iron, e a editora impôs I, Robot, que já era o nome de um conto de Eando Binder publicado em 1939. Asimov protestou e perdeu. O título que ele não queria virou uma das marcas mais conhecidas da ficção científica.
O que acontece em Eu, Robô?
Não é um romance, e saber disso antes ajuda muito. Eu, Robô é uma coletânea de contos escritos ao longo dos anos 1940, costurados depois por uma moldura: uma repórter entrevista a doutora Susan Calvin, robopsicóloga da empresa U.S. Robots, às vésperas da aposentadoria dela. Cada história é uma lembrança que Calvin narra.
Essa estrutura é o trunfo do livro. Em vez de um enredo único, você acompanha uma engenheira relendo a própria carreira e, junto com ela, a evolução de uma tecnologia ao longo de décadas. Susan Calvin é seca, impaciente, brilhante e praticamente sem vida social, e é de longe o melhor personagem que Asimov criou.
Cada conto funciona como um teste de estresse. Uma situação específica, um robô se comportando de forma inexplicável, e alguém tendo que descobrir qual detalhe das Três Leis produziu aquele resultado. É ficção científica em forma de romance policial, com a lei no lugar do suspeito.
Quais são as Três Leis da Robótica?
As Três Leis são famosas porque parecem simples, elegantes e hierárquicas:
- Um robô não pode ferir um ser humano nem, por inação, permitir que um ser humano sofra dano.
- Um robô deve obedecer às ordens dos seres humanos, exceto quando isso conflitar com a Primeira Lei.
- Um robô deve proteger sua própria existência, desde que isso não conflite com as duas anteriores.
A arquitetura parece impecável. Há prioridade, limite e salvaguarda.
As três apareceram juntas pela primeira vez em Runaround, conto de 1942, e há uma disputa simpática sobre a autoria: Asimov sempre creditou a formulação ao editor John W. Campbell, numa conversa de dezembro de 1940, e Campbell rebatia dizendo que Asimov já tinha as leis na cabeça e só precisava enunciá-las. Um amigo dos dois sugeriu que fora uma parceria simbiótica, e Asimov adotou essa versão com entusiasmo.
O detalhe importante é que Asimov escreve contra a tranquilidade que as Leis inspiram. A beleza da arquitetura é o ponto de partida. O interesse real começa quando ela cede.
As Três Leis funcionam na prática?
Aqui está o que torna Eu, Robô mais do que entretenimento.
As histórias colocam as Três Leis diante de situações que a formulação não previa. O que conta como ferir um humano? Uma ordem continua legítima quando produz consequência indireta perigosa? A inação também é dano? Como agir quando obedecer a uma regra ameaça outra?
Esses casos são decisivos porque a dificuldade ética raramente aparece no cenário limpo. Ela aparece na exceção que o regulamento não antecipou, e é ali que o sistema revela o que tem dentro. Sistemas normativos vivem bem em exemplo simples, e o atrito começa no contato com informação incompleta, objetivos concorrentes e consequência imprevista.
O livro expõe com clareza uma armadilha específica, que é o literalismo. Um sistema pode cumprir exatamente o que foi definido e produzir um resultado contrário ao que se queria proteger.
A regra foi obedecida, o procedimento foi seguido, o sistema funcionou, e ainda assim algo saiu errado. Quem já trabalhou com protocolo reconhece a cena: obedecer de forma estreita, sem considerar o contexto que dava sentido à norma, é uma forma eficiente de causar dano com a papelada em ordem.
É exatamente o problema que a ética kantiana enfrenta quando uma regra universal encontra o caso concreto, discutido em Imperativo Categórico: o que ainda pode valer para todos?.
Sistemas podem otimizar uma métrica e destruir a finalidade que justificava o procedimento. Podem seguir a instrução e produzir injustiça. Podem agir de modo tecnicamente correto e socialmente absurdo. Quando isso acontece, dizer que estava na regra não resolve nada, e costuma ser o esconderijo preferido da irresponsabilidade institucional.
Por que obedecer às regras não basta?
O elo de Eu, Robô com a ética do projeto está aqui: regras são necessárias e não substituem governança.
Governança é o que permite acompanhar, revisar, contestar e corrigir um sistema depois que ele começa a operar. É o que impede a regra de virar dogma técnico, e é justamente o que falta nas histórias de Asimov. As Três Leis são fixas, imutáveis, sem canal de revisão.
Quando falham, não há instância para recorrer. Um projeto responsável precisa incluir:
- Mecanismo para pausar o sistema.
- Canal para contestar uma decisão.
- Auditoria que avalie resultados concretos, para além da conformidade.
- Revisão da regra quando a exceção começa a virar rotina.
Isso vale para robô de ficção e para sistema real. Muitas tecnologias atuais operam por regras, modelos e classificações sem que ninguém consiga explicar o resultado. Avaliam risco, selecionam candidatos, recomendam conteúdo, organizam prioridade. E a vida concreta raramente cabe no formulário. O critério ético precisa ir além de perguntar se a regra foi seguida, e incluir se a regra ainda protege aquilo que deveria proteger.
Quando a resposta for não, insistir no procedimento é negligência com documentação.
Dentro do ensaio sobre ética do projeto e responsabilidade tecnológica, este livro ocupa o ponto do meio. Em Frankenstein, o criador abandona a criação. Aqui, o criador tenta controlar tudo por meio de regras. Em O Jogo do Exterminador, o sistema esconde a decisão atrás de uma interface.
Nos três, alguém confunde funcionamento com responsabilidade.
Vale a pena ler Eu, Robô?
Vale, e é uma leitura mais leve do que a reputação de clássico sugere.
- São nove contos curtos. Dá para ler um por noite sem perder o fio, porque a moldura com Susan Calvin costura tudo.
- A prosa é funcional. Asimov escreve para ser claro, sem nenhum interesse em estilo. Quem procura literatura densa vai achar seco. Quem procura ideia bem construída vai se divertir.
- Envelheceu de forma engraçada. Há robôs gigantes movidos a válvula e naves com régua de cálculo, e no meio disso um raciocínio sobre alinhamento de sistemas que continua atual.
- Esqueça o filme de 2004. Ele não adapta o livro. Pegou o título, as Leis e o nome de Susan Calvin, e inventou o resto.
O verbete de Isaac Asimov dá a dimensão de uma obra que passa de quatrocentos livros, e a ficha das Três Leis acompanha como elas foram sendo corrigidas por ele mesmo ao longo de quarenta anos, até virarem quatro.
Se fizer sentido para você, comente e compartilhe – Asimov desenhou regras perfeitas para mostrar que regras perfeitas não existem. Muitos anos de ficção científica depois, a mesma lição continua sendo aprendida.