Atualizado em
Identidade de agentes de IA permite reconhecer qual sistema está executando uma ação, em nome de quem ele atua e quais permissões possui. A questão se torna essencial quando agentes deixam de apenas responder e passam a acessar serviços e executar tarefas.
SÉRIE · Da instrução à ação
6 de 6
O que é identidade de um agente de IA?
Identidade de agente não significa dar nome, personalidade ou consciência a uma inteligência artificial.
Significa permitir que outros sistemas reconheçam tecnicamente qual agente está tentando executar determinada ação.
No texto anterior sobre agentes de IA, vimos que um agente pode receber um objetivo, escolher etapas, utilizar ferramentas e agir em nome do usuário.
Quando isso acontece, surge um problema novo.
Se um sistema consulta documentos, envia mensagens ou acessa serviços, como distinguir uma ação realizada diretamente pela pessoa daquela executada por um agente autorizado por ela?
A Microsoft define identidades de agentes como identidades específicas para sistemas de IA, permitindo identificá-los e autenticá-los separadamente de usuários humanos e aplicações tradicionais.
Identidade não é a mesma coisa que autorização
Essa distinção é fundamental.
Identidade responde: quem está agindo?
Autorização responde: o que esse agente pode fazer?
Imagine um agente encarregado de organizar uma viagem.
Sua identidade pode informar ao sistema:
este é o agente de viagens autorizado por determinado usuário.
Mas isso não significa que ele possa fazer qualquer coisa.
A autorização pode permitir:
- consultar voos;
- verificar a agenda;
- criar um compromisso;
- comprar uma passagem até determinado valor.
E exigir nova confirmação para qualquer gasto acima desse limite.
A OpenID Foundation vem trabalhando em mecanismos de autorização voltados a agentes, inclusive situações em que uma ação depende de consentimento, aprovação ou outra condição antes de ser executada.
Identificar o agente é apenas o primeiro passo.
É preciso controlar seu poder.
Por que o agente não deve usar simplesmente a identidade do usuário?
Porque agir em nome de alguém não é a mesma coisa que ser essa pessoa.
Imagine um agente autorizado apenas a consultar sua agenda para encontrar horários livres.
Se ele usar exatamente as mesmas credenciais da sua conta, o sistema pode enxergá-lo como se fosse você – inclusive com permissões para criar, alterar ou excluir compromissos.
Isso gera dois problemas.
Primeiro, perde-se a distinção entre ação humana e ação automatizada. Em um registro de acesso, pode ficar difícil saber se foi você quem executou determinada operação ou se foi um agente.
Segundo, o agente pode receber mais acesso do que deveria.
Uma identidade própria permite algo mais controlado:
este agente pode consultar o calendário, mas não apagar eventos.
este outro pode ler documentos de uma pasta específica, mas não modificá-los.
É aí que entra o princípio do menor privilégio: cada agente recebe apenas as permissões necessárias para cumprir sua função.
Como autenticação e autorização entram nessa história?
Identidade sozinha não resolve o problema.
Um sistema também precisa verificar se aquela identidade é legítima – autenticação – e decidir quais ações ela pode executar – autorização.
Esse problema já chegou às discussões de padronização da internet.
Um Internet-Draft sobre autenticação e autorização de agentes de IA propõe utilizar e adaptar mecanismos existentes, como OAuth 2.0 e padrões de identidade de cargas de trabalho, para interações envolvendo agentes.
É importante a ressalva:
Internet-Draft não é padrão aprovado.
São documentos de trabalho usados no processo do IETF e podem mudar, ser substituídos ou nunca se transformar em padrão.
O interesse desses documentos está menos em prever qual protocolo vencerá e mais em mostrar que o problema já está sendo tratado como infraestrutura.
E se um agente chamar outro agente?
A questão passa a ser até onde a autorização original pode viajar.
Imagine esta sequência:
você → agente de viagens → agente de busca → serviço de reservas
Você autorizou o primeiro agente a organizar uma viagem. Isso não significa automaticamente que qualquer outro agente chamado por ele deva receber as mesmas permissões.
O agente de busca pode precisar apenas consultar opções. Já o serviço de reservas pode precisar confirmar uma compra. São níveis de acesso diferentes.
Esse repasse controlado de permissões é chamado de delegação.
O problema aparece quando a cadeia cresce: cada novo agente precisa saber quem autorizou a tarefa, o que pode fazer e quais limites deve preservar.
Em resumo, a cadeia precisa continuar respondendo:
quem pediu → quem delegou → quem executou → com qual permissão
Quando agir nos leva a uma pergunta mais antiga
Ao longo desta série, vimos a IA sair da instrução simples e chegar a sistemas capazes de usar ferramentas, escolher etapas e agir em nome de alguém.
É justamente por isso que identidade, autenticação e autorização passam a importar: quando um sistema pode fazer algo, precisamos saber quem está agindo, em nome de quem e com quais limites.
Mas essa mudança também reabre uma pergunta muito mais antiga.
Quando uma máquina executa ações, responde de forma convincente e parece agir por conta própria, em que momento começamos a atribuir a ela algo parecido com intenção, autonomia ou até pensamento?
Essa dúvida não nasceu com os agentes de IA.
Muito antes dos computadores, autômatos já provocavam fascínio porque pareciam ultrapassar a condição de simples mecanismo.
É por aí que começa a próxima série: [MÁQUINAS PODEM PENSAR?]
Na próxima série, vamos voltar aos autômatos e às primeiras “máquinas pensantes” para entender por que a ideia de uma máquina capaz de imitar a vida é muito mais antiga do que a inteligência artificial.
DA INSTRUÇÃO À AÇÃO
Anterior: O que são agentes de IA e como eles funcionam?
6 de 6 – Identidade de agentes de IA
Série concluída · Voltar ao primeiro texto desta série