O quarto chinês é um experimento mental criado por John Searle para perguntar se produzir respostas corretas basta para demonstrar compreensão. Com a IA generativa, essa questão ganhou nova força: uma máquina pode parecer entender sem realmente entender?
SÉRIE · Máquinas podem pensar?
4 de 6
A pergunta que ficou depois de Turing
No texto anterior, vimos que o teste de Turing deslocou o debate sobre máquinas pensantes para o comportamento.
Se uma máquina conversa de maneira convincente, talvez seja preciso levar sua inteligência a sério.
Mas isso deixou uma questão aberta:
parecer compreender é o mesmo que compreender?
Em 1980, o filósofo John Searle enfrentou esse problema no artigo Minds, Brains, and Programs.
Ali, apresentou um experimento mental que se tornaria um dos argumentos mais conhecidos da filosofia da mente: o quarto chinês.
Seu alvo era aquilo que chamava de IA forte — a ideia de que executar o programa adequado seria suficiente para produzir compreensão e estados mentais.
Searle queria mostrar que comportamento correto, por si só, não resolvia essa questão.
Como funciona o quarto chinês?
Imagine uma pessoa trancada em uma sala.
Ela não sabe chinês.
Do lado de fora, pessoas enviam perguntas escritas justamente neste idioma.
Dentro da sala há um conjunto enorme de instruções que ensina essa pessoa a identificar os símbolos recebidos e devolver outros símbolos em resposta.
Ela segue as regras perfeitamente.
As respostas que saem da sala são tão adequadas que, para quem está fora, parece haver ali alguém que compreende chinês.
Mas a pessoa dentro da sala continua sem saber o significado de nada. Ela apenas executa instruções.
Para Searle, esse é o ponto.
A sala pode produzir o comportamento esperado sem que a pessoa que manipula os símbolos compreenda a língua.
Daí aparece a pergunta:
executar corretamente regras sobre símbolos basta para produzir compreensão?
Sintaxe não é semântica
O argumento costuma ser resumido pela distinção entre sintaxe e semântica.
Sintaxe diz respeito às regras formais que organizam símbolos. Semântica envolve significado.
A pessoa do quarto consegue reconhecer formas e aplicar regras: se receber este conjunto de símbolos, deve devolver aquele.
Ela não precisa saber que um símbolo significa “árvore”, “chuva” ou “comida”.
Para Searle, portanto, a manipulação formal de símbolos não seria suficiente para produzir significado.
É daí que vem uma forte crítica à IA.
Um programa pode gerar respostas adequadas porque segue operações bem definidas. Isso não demonstraria, por si só, que o sistema compreende aquilo sobre o que responde.
Essa distinção tornou o quarto chinês especialmente influente. Ele coloca uma trava numa conclusão aparentemente intuitiva:
responde corretamente, logo entende.
Um modelo de linguagem é um quarto chinês?
Não literalmente.
O experimento de Searle foi formulado em 1980, num contexto em que grande parte da inteligência artificial trabalhava com programas simbólicos e regras explícitas.
Modelos de linguagem atuais funcionam de outra maneira.
Eles usam redes neurais treinadas em grandes quantidades de dados e aprendem relações matemáticas complexas entre padrões da linguagem.
Não existe dentro deles uma pessoa consultando um manual com respostas prontas.
Por isso, dizer simplesmente que um LLM “é o quarto chinês” seria transformar uma analogia filosófica em descrição técnica.
Porém, a pergunta de Searle continua relevante.
Como vimos em o que é um modelo de linguagem, esses sistemas conseguem produzir sequências linguísticas muito convincentes.
A questão filosófica aparece quando damos o passo seguinte:
essa capacidade basta para afirmar que existe compreensão?
O quarto chinês não responde como um modelo de linguagem funciona.
Ele questiona o que podemos concluir a partir do comportamento que observamos.
O quarto chinês prova que a IA não entende?
Não.
Ele apresenta um argumento filosófico contra a ideia de que executar um programa e produzir comportamento adequado sejam condições suficientes para compreensão.
É diferente de uma demonstração experimental de que nenhuma máquina pode compreender.
O quarto chinês recebeu críticas desde sua publicação. Há objeções baseadas em simulação cerebral, mente virtual, cognição incorporada e até na confiabilidade das próprias intuições usadas no experimento.
Por isso, sua importância não está em ter encerrado a discussão. Está em impedir um atalho.
Uma máquina produzir uma resposta correta é evidência de capacidade.
Não é, automaticamente, evidência de experiência interna, significado ou compreensão no mesmo sentido em que usamos esses termos para seres humanos.
Se não basta responder bem, o que chamamos de inteligência?
O teste de Turing mostrou que comportamento pode ser usado como critério. Searle mostrou por que esse critério pode não bastar.
Isso nos leva a uma pergunta ainda mais básica.
Talvez parte da dificuldade esteja na própria palavra inteligência.
Quando aplicamos o termo a uma máquina, estamos falando da mesma propriedade que existe em organismos vivos?
Ou usamos uma palavra antiga para designar capacidades completamente diferentes?
Essa é justamente a provocação feita pelo neurocientista brasileiro Miguel Nicolelis.
Ao afirmar que a inteligência artificial não seria nem “inteligente” nem “artificial”, ele desloca a discussão novamente.
O problema, a partir de agora, deixa de ser apenas se a máquina compreende. Passa a ser também:
o que estamos chamando de inteligência?
MÁQUINAS PODEM PENSAR?
Próximo: Miguel Nicolelis: a IA não é inteligente nem artificial?
4 de 6 — O quarto chinês
Anterior: O teste de Turing envelheceu? Quando conversar já não basta