Atualizado em
A ficção científica é lembrada por inventar mundos, e os três livros reunidos aqui interessam pelo que dizem sobre o presente: o que acontece quando alguém cria algo, coloca no mundo e não fica para ver o resultado?
Frankenstein, de Mary Shelley. Eu, Robô, de Isaac Asimov. O Jogo do Exterminador, de Orson Scott Card. Três obras escritas em épocas diferentes, com cenários que não se parecem, tratando no fundo da mesma coisa: o que acontece depois que a tecnologia funciona.
Cada uma mostra uma forma de ruptura entre quem cria e o que é criado, pelo abandono, pela confiança cega em regras e pela delegação de decisões graves. Nos três casos, as consequências recaem sobre quem não participou da decisão.
O que Frankenstein ensina sobre criar sem cuidar?
De todos os protagonistas da ficção científica, Victor Frankenstein talvez seja o que mais provoca irritação na releitura. Na primeira leitura ele parece um cientista ambicioso que falha. Na segunda fica claro que ele falha por escolha, e que cada decisão tomada piora a situação.
Mary Shelley construiu um protagonista capaz de criar vida e incapaz de sustentar o que criou. A criatura abre os olhos e ele sai do quarto. Dali em diante, a violência, as mortes e a destruição nascem desse gesto inaugural de abandono.
A falha que ela captura é específica: o abandono pós-criação. Um projeto técnico não termina quando funciona, e a partir daquele momento surgem obrigações que Victor ignora inteiras:
- Acompanhar efeitos que não estavam no plano.
- Rever decisões à luz do que realmente aconteceu.
- Escutar quem foi afetado.
- Aceitar formas de controle externo sobre o que se criou.
A solidão metodológica dele, criar sem testemunha, sem contraponto e sem escuta, é o que transforma uma descoberta em catástrofe.
A leitura completa do romance desenvolve esse argumento, e o fato de que o monstro continua atual mostra o quanto o padrão de abandono envelhece devagar.
Quais são os casos difíceis em Eu, Robô?
Asimov faz o movimento oposto ao de Shelley. No lugar de um criador que abandona, apresenta um sistema que tenta controlar tudo e falha por excesso de confiança na própria arquitetura.
As Três Leis da Robótica parecem elegantes, hierárquicas, racionais e completas. A ordem de prioridade dá a impressão de resolver conflitos antes que apareçam. Os contos funcionam como testes de estresse dessa elegância: em cada situação, as leis encontram conflitos que a definição não previa, entre ordens contraditórias, danos indiretos e interpretações que cabem na letra e violam o espírito.
A falha que Asimov demonstra é o literalismo, a crença de que regras claras substituem julgamento. Cumprir a letra de uma norma pode produzir um resultado que ninguém planejou, e nenhuma lei adicional resolve isso, porque o problema mora na premissa de que regras bastam.
Sistemas responsáveis precisam de algo além de conformidade:
- Governança que permita pausa e revisão.
- Canais de contestação para quem é afetado.
- Auditoria que distinga conformidade de resultado justo.
- Reconhecimento de que a exceção pode virar padrão.
Regras são necessárias, e quem as vende como solução total está embrulhando um problema ético em papel de engenharia.
A leitura completa do livro desenvolve o argumento conto a conto, com a história de como as Três Leis foram formuladas e de quem levou o crédito.
Como a simulação molda decisões em O Jogo do Exterminador?
Card desloca a questão para um território mais sutil, que é a distância entre quem age e o que a ação produz.
Ender Wiggin é treinado desde criança num ambiente que trata decisões de guerra como jogo, com telas, simulações, pontuações e rankings. A interface faz tudo parecer exercício, e quando a consequência real aparece ela já aconteceu, porque o sistema foi desenhado para que o operador não percebesse o peso do que estava fazendo.
A falha exposta é a delegação moral via interface. Quando decisões graves viram processo, métrica ou gamificação, a responsabilidade parece se diluir, e na prática ela se desloca para quem desenhou o ambiente: quem definiu as regras, escolheu os incentivos e decidiu o que conta como vitória.
O mecanismo reaparece em contextos bem menos extremos que a guerra:
- Plataformas que transformam engajamento em métrica e tratam consequência social como externalidade.
- Sistemas de avaliação que reduzem desempenho a número e descartam o que não cabe na pontuação.
- Algoritmos de moderação que decidem visibilidade sem que ninguém assine a decisão.
Sistemas podem treinar eficiência e reduzir empatia ao mesmo tempo, premiando frieza, acelerando decisões e tornando mais fácil fazer algo grave sem sentir o peso.
A leitura completa do romance explora a mecânica, e registra o destino curioso de um livro sobre distância moral que virou leitura obrigatória numa força armada.
Como essas obras tratam o que vem depois de criar?
Os três livros tratam de mundos diferentes e convergem num ponto: o teste ético de um projeto começa depois que ele funciona.
Victor Frankenstein abandona. Asimov confia em regras. Card esconde a decisão atrás da interface. Em cada caso alguém tenta separar criação e consequência, como se bastasse inventar, programar ou lançar, e o resto fosse detalhe operacional.
Isso vale muito além da ficção. Vale para sistemas de inteligência artificial, plataformas digitais, modelos de avaliação, processos de seleção e qualquer tecnologia que organize decisões sobre a vida de outras pessoas. A pergunta que atravessa as três obras é sempre a mesma: quem fica para responder pelos efeitos daquilo que criou?
É a mesma exigência que o imperativo categórico faz quando pergunta se a regra que você adotou valeria para todo mundo, inclusive para quem vai sofrer o efeito dela.
Vale a pena ler essas obras?
A ordem cronológica é a pior escolha aqui. Vale começar pelo mais leve e terminar pelo mais exigente:
- Comece por Eu, Robô. São nove contos curtos, prosa funcional e um enigma por capítulo. Dá para ler um por noite.
- Siga para O Jogo do Exterminador. Leitura rápida, e o final é dos mais conhecidos da ficção científica, então evite sinopses e resenhas antes.
- Termine com Frankenstein. É o mais exigente, com abertura em cartas e digressão romântica, e o mais recompensador. Depois dos outros dois, o confronto entre Victor e a criatura lê-se como um debate de governança com duzentos anos de antecedência.
Frankenstein está em domínio público e é um dos livros mais baixados do Project Gutenberg. A ficha das Três Leis acompanha como Asimov foi corrigindo a própria criação ao longo de quarenta anos.
Outros eixos da mesma inquietação aparecem nos ensaios sobre métricas, burocracia e o direito de não caber no padrão e sobre identidade e substituição na ficção científica.
Se fizer sentido para você, comente e compartilhe – criar é a parte fácil. Sustentar o que se cria é o teste que a ficção repete e a realidade confirma.