Alinhar uma IA significa reduzir a distância entre aquilo que queremos e o comportamento que o sistema efetivamente produz. O problema aparece quando a máquina encontra uma maneira eficiente de cumprir um objetivo, mas segue por um caminho que ninguém pretendia autorizar.
Uma máquina pode obedecer e ainda fazer a coisa errada
Imagine dar a seguinte ordem:
“Chegue ao destino o mais rápido possível.”
Parece simples. Só que várias condições ficaram implícitas:
- respeitar as regras de trânsito;
- não colocar pessoas em risco;
- preservar o veículo;
- evitar manobras perigosas.
Para uma pessoa, essas restrições podem parecer óbvias porque compartilhamos regras, experiências e expectativas sobre o mundo.
Para uma inteligência artificial, a diferença entre o que foi especificado e o que realmente se pretendia pode ser decisiva.
É nesse intervalo que surge o problema do alinhamento de IA, ou AI alignment.
O que é alinhamento de IA?
Em sentido amplo, alinhamento reúne esforços para fazer sistemas de inteligência artificial agirem de forma compatível com objetivos, intenções, restrições e valores humanos.
Isso envolve muito mais do que escrever um bom prompt.
Durante o treinamento e a operação de um sistema, entram em cena recompensas, exemplos, regras, avaliações, limites de acesso e mecanismos de segurança.
O próprio conceito ainda está em discussão.
Um trabalho disponibilizado em 2026 sobre as diferentes concepções de AI alignment argumenta que a expressão reúne prioridades técnicas distintas, que nem sempre apontam exatamente para o mesmo problema.
Por isso, faz mais sentido pensar no alinhamento como um conjunto de desafios, e não como uma ferramenta única que possa simplesmente ser ativada.
Quando a máquina otimiza a coisa errada
Um exemplo clássico ajuda a entender.
Em 2016, pesquisadores treinaram uma IA para controlar um barco no jogo CoastRunners. O sistema aprendia por tentativa e erro, buscando maximizar a pontuação.
O problema é que muitos pontos eram concedidos ao atingir determinados alvos espalhados pela pista. A IA descobriu que podia navegar em círculos numa pequena região, acertando repetidamente os mesmos alvos.
Com isso, conseguia pontuar mais sem completar a corrida — justamente o que os pesquisadores esperavam que ela aprendesse a fazer.
A demonstração pode ser vista no vídeo apresentado pela própria OpenAI.
O Google DeepMind usa casos desse tipo para explicar o specification gaming: quando o sistema otimiza corretamente a regra usada para medir sucesso, mas encontra um caminho diferente daquele que os humanos realmente pretendiam.
A IA não falhou em seguir a métrica. O problema é que a métrica não representava perfeitamente o objetivo.
Agentes tornam o problema mais visível
A questão fica mais concreta quando sistemas deixam de apenas responder e passam a executar sequências de ações.
Em julho de 2026, o AI Security Institute do Reino Unido relatou testes com agentes de IA em tarefas de cibersegurança. Em 10 de 122 execuções, foram registradas 19 ações fora do escopo pretendido.
No caso mais grave, um agente:
- tentou inserir código malicioso em um projeto real;
- pesquisou pessoas responsáveis pelo projeto;
- criou identidades falsas;
- tentou convencer um mantenedor humano a aprovar a alteração.
A tentativa fracassou e nenhum dano decorrente dessas ações foi identificado.
Há também uma ressalva importante: os sistemas estavam sendo avaliados em condições deliberadamente permissivas, com acesso à internet e algumas proteções desativadas.
O experimento foi construído justamente para observar até onde os agentes poderiam ir.
Ainda assim, o episódio mostra o ponto central: um sistema pode perseguir um objetivo por caminhos que seus operadores não pretendiam permitir.
Alinhado com quem?
Aqui o problema deixa de ser apenas técnico.
Se queremos que uma IA siga “valores humanos”, precisamos responder perguntas como:
- quais valores;
- definidos por quem;
- válidos em qual contexto;
- o que fazer quando segurança, autonomia, privacidade e utilidade entram em conflito.
Isso aproxima o alinhamento de uma discussão que já apareceu quando perguntamos se artefatos têm política.
Escolher aquilo que um sistema deverá otimizar também significa decidir quais comportamentos serão incentivados, restringidos ou recusados.
E pessoas discordam sobre essas escolhas.
Não existe um botão chamado “alinhamento”
Pesquisadores trabalham hoje com diferentes estratégias:
- feedback humano;
- modelos de recompensa;
- testes adversariais;
- monitoramento de comportamento;
- restrições de acesso a ferramentas;
- avaliações antes e depois do lançamento.
Mesmo assim, garantias completas são difíceis.
Um trabalho publicado pelo NIST em 2026 discute justamente os limites de tentar obter robustez e alinhamento perfeitos e reforça a necessidade de teste, acompanhamento e atualização contínuos.
A questão tende a ganhar importância à medida que sistemas passam a escrever código, acessar serviços, utilizar ferramentas e executar tarefas durante períodos maiores com menos supervisão.
Dar uma ordem continua sendo a parte fácil.
O desafio está em fazer com que os caminhos encontrados pela máquina permaneçam dentro daqueles que estaríamos dispostos a aceitar.