Agentes de IA e identidades não humanas: desafios de governação

Cibersegurança · 2 min

Artigos de Pedro Vaz

Os agentes de IA começam a executar tarefas com autonomia limitada. A questão crítica é como controlar identidade, permissões e supervisão sem travar a inovação.

TL;DR

• Agentes de IA introduzem novas identidades operacionais nas organizações.
• A governação deve abranger identidade, permissões e rastreabilidade.
• O princípio do menor privilégio continua a ser essencial.
• A supervisão humana deve ser ajustada ao risco de cada ação.
• A revogação e a auditoria são fundamentais para manter o controlo.

A nova pergunta: quem autorizou o agente?

Durante anos, as aplicações de inteligência artificial limitaram-se sobretudo a analisar informação ou apoiar decisões humanas. Com o surgimento dos agentes de IA, essa realidade começa a mudar: estes sistemas podem executar ações sobre aplicações empresariais, interagir com outros serviços e desencadear processos de forma autónoma dentro dos limites definidos. Essa evolução introduz um novo desafio: como governar identidades que já não correspondem a utilizadores humanos.

Identidades não humanas exigem controlo próprio

Um agente de IA não deve ser tratado como uma simples extensão do utilizador que o invoca. Deve ter identidade própria, âmbito definido, permissões proporcionais e registos independentes. Esta distinção é importante porque o risco não se limita à cadeia de fornecimento de modelos, bibliotecas ou fornecedores. O risco operacional surge quando o agente atua em sistemas reais com credenciais, integrações e capacidade de execução.

Privilégio mínimo também se aplica a agentes

Na prática, isto implica atribuir apenas as permissões estritamente necessárias para cada tarefa, privilegiar credenciais temporárias sempre que possível e evitar contas partilhadas ou privilégios permanentes. Sempre que suportado pela plataforma, mecanismos de identidade gerida ou credenciais de curta duração reduzem a exposição associada a segredos persistentes.

Supervisão humana não deve ser genérica

Exigir aprovação humana para todas as ações pode tornar o agente irrelevante. Não exigir aprovação para nenhuma ação pode criar exposição desnecessária. A decisão deve ser baseada no risco: - ações informativas podem ser automatizadas; - ações reversíveis podem ter limites e registo; - ações sensíveis devem exigir validação explícita. Em ambientes distribuídos, onde múltiplos agentes interagem com aplicações, APIs e serviços cloud, modelos de arquitetura como o Cybersecurity Mesh podem facilitar a aplicação consistente de políticas de identidade, autenticação e monitorização.

Registo, rastreabilidade e revogação

A governação de agentes deve incluir logs claros: que agente atuou, em nome de que utilizador ou processo, com que dados, que ferramenta invocou e qual foi o resultado. Estes registos devem ser úteis para auditoria, resposta a incidentes e melhoria contínua. Também deve existir um mecanismo simples para suspender, limitar ou revogar um agente quando muda o contexto de negócio, a integração deixa de ser necessária ou é detetado comportamento anómalo. Sem revogação prática, a governação torna-se apenas documental.

Conclusão: autonomia com fronteiras explícitas

À medida que os agentes de IA assumem um papel mais ativo nas operações empresariais, a identidade deixa de ser apenas um atributo técnico e passa a ser um elemento central da governação. Preparar essa mudança desde o início pode ajudar as organizações a adotar automação de forma mais segura, transparente e sustentável.