Frases sobre inteligência artificial circulam por toda parte, mas muitas chegam sem contexto e algumas sequer foram ditas por quem aparece na imagem. Estas dez têm origem verificável e servem como ponto de partida para entender debates reais sobre inteligência, controle, trabalho, poder e tecnologia.
A internet já fazia isso muito antes da atual febre da inteligência artificial.
Einstein talvez seja a maior vítima histórica de frases boas demais para não serem atribuídas a alguém famoso. Turing, Hawking, Hinton e outros nomes ligados à ciência e a tecnologia também entram para o mesmo clube.
Uma frase aparece em uma imagem, é repetida milhares de vezes e, quando alguém finalmente pergunta “onde ele disse isso?”, começa a arqueologia digital.
Por isso, esta lista segue três regras:
- a frase precisa ter autoria verificável;
- é preciso conseguir chegar a uma fonte identificável;
- e a citação precisa ajudar a entender alguma coisa, não apenas ficar bonita em um slide.
As traduções são livres, preservando o sentido das fontes originais.
Quando começamos a perguntar se máquinas poderiam pensar
1. Ada Lovelace: uma máquina pode criar?
“A Máquina Analítica não tem pretensão alguma de originar qualquer coisa.”
Ada Lovelace escreveu isso em 1843, mais de um século antes do surgimento da inteligência artificial como área de pesquisa.
Para ela, a máquina poderia executar aquilo que soubéssemos ordenar. Alan Turing retomaria justamente essa objeção décadas depois.
Hoje, a pergunta ganhou outro tamanho.
Quando uma IA produz uma imagem, um texto ou uma música que não foi programada palavra por palavra, ela está criando? Ou está realizando uma recombinação extraordinariamente sofisticada daquilo que recebeu?
A discussão mudou. A pergunta de Lovelace, nem tanto.
Fonte: notas de Ada Lovelace sobre a Máquina Analítica, reproduzidas pelo National Institute of Standards and Technology (NIST)
2. Alan Turing: a pergunta que começou tudo
“Máquinas podem pensar?”
É com essa pergunta que Alan Turing abre, em 1950, o artigo Computing Machinery and Intelligence.
Curiosamente, ele praticamente a abandona logo depois.
“Máquina” e “pensar” eram termos difíceis demais de definir.
Em vez de tentar resolvê-los no dicionário, Turing propôs observar o comportamento da máquina no chamado jogo da imitação, origem do que depois ficou conhecido como Teste de Turing.
A inteligência artificial generativa tornou a questão ainda mais interessante. Hoje, uma máquina pode conversar de maneira extremamente convincente.
Mas conversar bem significa pensar?
É justamente essa mudança discutida em O teste de Turing envelheceu?
Fonte: TURING, Alan M. Computing Machinery and Intelligence. Mind, 1950
3. John Searle: produzir linguagem é compreender?
“A sintaxe, por si só, não é suficiente nem constitutiva da semântica.”
O argumento de John Searle ficou famoso por meio do experimento mental do Quarto Chinês.
Imagine alguém que não entende chinês, mas recebe instruções detalhadas para manipular símbolos dessa língua. Seguindo corretamente as regras, essa pessoa poderia produzir respostas convincentes sem compreender uma única palavra.
Para Searle, esse é o problema: manipular símbolos corretamente não demonstra, por si só, compreensão.
A provocação envelheceu muito bem. Modelos de linguagem conseguem produzir textos impressionantes. A questão filosófica continua sendo o que exatamente essa capacidade demonstra.
Fonte: argumento desenvolvido por Searle e sistematizado na Stanford Encyclopedia of Philosophy
O que estamos tentando construir?
4. Andrew Ng: IA como infraestrutura
“A inteligência artificial é a nova eletricidade.”
Andrew Ng popularizou a comparação para defender que a IA não seria apenas mais um produto tecnológico.
Assim como a eletricidade passou a atravessar praticamente todos os setores da economia, sistemas de inteligência artificial poderiam ser incorporados à indústria, saúde, comércio, transporte, comunicação e inúmeros serviços.
A comparação ajuda a perceber outra característica das tecnologias de uso geral: depois de algum tempo, elas quase desaparecem dentro do cotidiano.
Pouca gente pensa na eletricidade quando entra em um elevador. Algo semelhante já ocorre com sistemas de recomendação, reconhecimento, previsão e classificação.
Fonte: palestra de Andrew Ng no Stanford MSx Future Forum, em 2017
5. Fei-Fei Li: tecnologia não nasce no vazio
“A tecnologia não existe no vácuo.”
A frase de Fei-Fei Li parece óbvia até lembrarmos quantas vezes a tecnologia é apresentada como se simplesmente aparecesse.
Sistemas de inteligência artificial são construídos por pessoas, treinados com dados produzidos em sociedades reais, financiados por organizações e implantados dentro de relações econômicas e políticas.
Por isso, Li defende uma abordagem de IA centrada no ser humano, envolvendo não apenas engenheiros, mas cientistas sociais, especialistas em ética e as próprias comunidades afetadas.
A pergunta deixa de ser apenas “o que conseguimos construir?” e passa a incluir outra:
Para quem estamos construindo?
Fonte: Stanford Institute for Human-Centered Artificial Intelligence
E se perdermos o controle?
6. Geoffrey Hinton: e se construirmos algo mais inteligente?
“Talvez tenhamos, pela primeira vez, coisas mais inteligentes do que nós.”
A frase vem de Geoffrey Hinton, um dos pesquisadores fundamentais para o desenvolvimento das redes neurais modernas.
É justamente por isso que seu alerta chamou tanta atenção.
Hinton não passou a considerar a inteligência artificial inútil ou necessariamente destrutiva.
Sua preocupação está na velocidade do desenvolvimento e na possibilidade de criarmos sistemas cuja capacidade ultrapasse a nossa antes que saibamos como controlá-los adequadamente.
Em entrevista ao 60 Minutes, foi além: afirmou acreditar que esses sistemas já apresentam formas de compreensão e que poderão superar seres humanos em diferentes capacidades.
Fonte: entrevista de Geoffrey Hinton ao programa 60 Minutes, da CBS
7. Norbert Wiener: cuidado com aquilo que você pede
“É melhor termos certeza de que o objetivo colocado na máquina é realmente o objetivo que desejamos.”
Parece uma frase escrita durante as atuais discussões sobre alinhamento de inteligência artificial.
Mas Norbert Wiener publicou essa advertência em 1960.
O fundador da cibernética percebeu cedo um problema fundamental: uma máquina pode executar de forma muito eficiente um objetivo que formulamos muito mal.
É a versão tecnológica do velho problema do rei Midas. Conseguir exatamente aquilo que se pediu nem sempre significa conseguir aquilo que se queria.
Antes de comemorar que uma máquina alcançou sua meta, portanto, talvez seja interessante perguntar:
quem escolheu a meta?
Fonte: Norbert Wiener, “Some Moral and Technical Consequences of Automation”, publicado em 1960
Afinal, isso é mesmo inteligência artificial?
8. Miguel Nicolelis e Kate Crawford: nem inteligente, nem artificial?
“A inteligência artificial não é nem inteligente nem artificial.”
A frase aparece associada tanto ao neurocientista brasileiro Miguel Nicolelis quanto à pesquisadora Kate Crawford. E o curioso é que os dois chegam a ela por caminhos próximos, mas não idênticos.
Nicolelis tem repetido publicamente a formulação há anos. Para ele, chamar esses sistemas de “inteligentes” já contém um problema conceitual
Sua argumentação parte da neurociência: inteligência seria uma propriedade emergente de organismos vivos, desenvolvida na interação com o ambiente e com outros organismos.
Algoritmos podem reconhecer padrões, prever resultados e realizar tarefas complexas, mas isso não significaria que possuam inteligência no mesmo sentido.
E por que não seriam artificiais?
Nicolelis chama atenção para aquilo que desaparece quando olhamos apenas para a tela.
Sistemas de IA são criados, treinados e mantidos por seres humanos. Há programadores, classificadores de dados, moderadores, avaliadores e inúmeros trabalhadores distribuídos pela cadeia tecnológica.
Em entrevista à Folha de S.Paulo, em 2023, ele resumiu:
“A inteligência artificial não é nem inteligente nem artificial.”
Na mesma entrevista, Nicolelis afirmou que já utilizava a formulação havia anos.
Fonte: entrevista de Miguel Nicolelis à Folha de S.Paulo, publicada em 8 de julho de 2023
Mas ele não é o único a usar a frase
Dois anos antes dessa entrevista, Kate Crawford havia usado exatamente a mesma formulação em Atlas of AI, publicado em 2021:
“AI is neither artificial nor intelligent.”
No caso de Crawford, o foco está sobretudo na materialidade da tecnologia.
A inteligência artificial parece abstrata porque encontramos seus resultados em uma tela. Mas, para funcionar, ela depende de:
- minerais;
- centros de dados;
- eletricidade;
- água;
- infraestrutura;
- trabalhadores;
- enormes bases de dados.
Por isso, Crawford argumenta que a IA é profundamente material e depende de estruturas econômicas, sociais e políticas.
As duas críticas se encontram em um ponto importante: o nome “inteligência artificial” pode fazer a tecnologia parecer mais autônoma do que realmente é.
Mas há uma diferença de ênfase.
Nicolelis questiona principalmente a palavra “inteligência”, a partir de uma concepção neurobiológica do fenômeno.
Crawford amplia o problema para a palavra “artificial”, mostrando quanto de natureza, trabalho humano e infraestrutura física existe por trás daquilo que chamamos simplesmente de IA.
Quem formulou a frase primeiro?
Não há base suficiente para atribuir com segurança sua criação a um dos dois. Crawford a publicou explicitamente em 2021; Nicolelis afirma que já a utilizava havia anos.
Nesse caso, talvez a parte mais interessante não seja descobrir quem chegou primeiro.
É perceber que um neurocientista brasileiro e uma pesquisadora das relações entre tecnologia, poder e sociedade chegaram à mesma provocação por caminhos diferentes.
Fonte: CRAWFORD, Kate. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press, 2021
9. Cathy O’Neil: algoritmo não é sinônimo de neutralidade
“Algoritmos são opiniões incorporadas em código.”
A formulação de Cathy O’Neil é especialmente útil porque desmonta a aparência de neutralidade matemática.
Alguém precisa decidir o que um sistema deverá otimizar.
Um algoritmo pode procurar:
- aumentar o tempo de permanência em uma plataforma;
- identificar o candidato considerado “melhor” para uma vaga;
- calcular risco de inadimplência;
- selecionar o conteúdo com maior chance de gerar interação.
Em cada caso existe uma escolha anterior à matemática: o que será considerado sucesso?
O algoritmo pode calcular muito bem. Isso não significa que tenha escolhido sozinho o que merece ser calculado.
Essa discussão se aproxima diretamente da pergunta de outro texto do blog: Artefatos têm política?
Fonte: palestra de Cathy O’Neil no TED2017, The era of blind faith in big data must end
10. Joy Buolamwini: importa quem está atrás do código
“Importa quem codifica, como codificamos e por que codificamos.”
Joy Buolamwini chegou a essa discussão investigando sistemas de reconhecimento facial que apresentavam desempenhos muito diferentes para diferentes grupos de pessoas.
A experiência ajuda a desmontar outra fantasia tecnológica: retirar uma pessoa da decisão não elimina automaticamente as escolhas humanas da decisão.
Dados foram escolhidos. Categorias foram definidas. Critérios foram estabelecidos. Alguém decidiu o que seria um resultado aceitável.
Buolamwini resume o problema em três perguntas simples:
- quem está construindo o sistema?
- como ele está sendo construído?
- por quê ele está sendo construído?
Perguntas pequenas. Consequências nem um pouco pequenas.
Fonte: palestra How I’m fighting bias in algorithms, apresentada por Joy Buolamwini no TED
O que essas 10 frases dizem sobre inteligência artificial?
Colocadas em sequência, elas contam quase uma pequena história da inteligência artificial.
Primeiro veio a pergunta sobre o que uma máquina consegue fazer.
Depois, passamos a perguntar se aquilo que ela faz pode ser chamado de pensamento ou compreensão.
Agora, o número de perguntas aumentou:
- quem define os objetivos?
- de onde vêm os dados?
- quem constrói os sistemas?
- quais recursos tornam a IA possível?
- quem recebe seus benefícios?
- quem assume seus riscos?
- e o que acontece se construirmos sistemas que já não compreendemos completamente?
Talvez seja por isso que frases sobre inteligência artificial façam tanto sucesso. Elas conseguem comprimir discussões enormes em poucas palavras.
Só há um problema: às vezes comprimimos tanto que a fonte e o contexto desaparecem junto.
Gostou de alguma frase? Use à vontade. Só não mate a referência no caminho.