IA generativa: rever permissões antes de alargar o acesso aos dados

Inteligência Artificial · 3 min

Os assistentes de IA respeitam as permissões existentes, mas tornam visível a partilha excessiva acumulada. Saiba como preparar repositórios antes de alargar a utilização.

IA generativa: rever permissões antes de alargar o acesso aos dados

TL;DR

Em plataformas que respeitam as permissões existentes, como o Microsoft Copilot, o assistente acede aos conteúdos que cada utilizador já está autorizado a consultar.
Partilhas excessivas antigas, antes difíceis de encontrar, passam a estar a uma pergunta de distância.
Mapear a exposição e corrigir permissões por prioridade de sensibilidade deve anteceder a implementação alargada.
Um piloto com repositórios validados e testes de pesquisa indevida ajuda a medir o risco real.
Restringir demasiado reduz a utilidade; o equilíbrio deve ser decidido com os responsáveis pelos dados.

Os assistentes herdam as permissões que já existem

Em muitas organizações, os assistentes de IA generativa ligados ao correio eletrónico, a repositórios documentais e a ferramentas de colaboração começam a passar de projetos-piloto para utilização corrente. Em plataformas empresariais que utilizam os mecanismos de identidade e autorização existentes, o assistente pode operar dentro das permissões atribuídas a cada utilizador, sem criar por si só novos direitos de acesso. No Microsoft Copilot, por exemplo, a documentação do fabricante indica que o serviço respeita os controlos de acesso existentes e apenas acede a conteúdos que o utilizador está autorizado a consultar. Para responsáveis de TI e de segurança, a questão central passa a ser se o modelo de permissões atual está preparado para ser interrogado em linguagem natural.

A partilha excessiva deixa de estar escondida

Muitas organizações convivem há anos com pastas abertas a toda a empresa, ligações de partilha esquecidas, sites sem proprietário e grupos herdados de projetos já encerrados. Esse excesso tinha um impacto limitado porque encontrar a informação exigia saber onde procurar. Um assistente que pesquisa e resume em segundos altera essa equação: uma pergunta genérica sobre remunerações, avaliações de desempenho ou contratos pode trazer à superfície documentos a que o utilizador tinha acesso técnico, mas que nunca deveria consultar. Nestes casos, o problema pode não estar no modelo, mas em permissões excessivas ou numa dívida de governação de dados que a utilização do assistente torna mais visível. É um risco distinto do que envolve agentes de IA e identidades não humanas: aí estão em causa as credenciais dos próprios agentes; aqui, os direitos acumulados pelas pessoas.

O mapa de exposição vem antes da licença

Uma abordagem prudente começa por inventariar as fontes de informação a que o assistente poderá aceder ou que serão integradas no seu mecanismo de pesquisa e recuperação A correção deve ser priorizada pela sensibilidade da informação, e não pelo volume de ficheiros, começando por áreas como recursos humanos, finanças, jurídico e dados de clientes. Constitui uma boa prática atribuir definir responsáveis pelos repositórios e estabelecer revisões periódicas das respetivas permissões, aplicando o princípio do menor privilégio que também sustenta uma arquitetura Zero Trust. A própria Microsoft publica um plano de implementação faseado em piloto, implementação e operação, o que reforça a ideia de que a preparação dos dados é um processo contínuo e não uma tarefa única.

Um piloto com âmbito controlado reduz a incerteza

Na prática, o primeiro grupo de utilizadores deve trabalhar sobre repositórios já revistos, com as fontes de maior sensibilidade temporariamente excluídas da pesquisa, quando a plataforma o permitir. Uma técnica útil consiste em realizar testes controlados, com utilizadores e cenários previamente definidos, para verificar se o assistente consegue apresentar conteúdos que não deveriam estar acessíveis no contexto funcional desses utilizadores. Estes testes revelam padrões, como grupos demasiado amplos ou heranças de permissões mal configuradas, que podem depois ser corrigidos em escala. A eventual monitorização das interações dos utilizadores deve ser avaliada à luz do RGPD e das regras laborais aplicáveis, envolvendo, quando adequado, o encarregado de proteção de dados.

Restringir demasiado também tem custos

Excluir grandes áreas do índice reduz o risco, mas também a utilidade do assistente, e pode levar os utilizadores a procurar ferramentas não aprovadas. A revisão manual de permissões dificilmente acompanha grandes volumes de ficheiros, e a classificação automática pode gerar falsos positivos que exigem validação. As ferramentas disponíveis variam consoante a plataforma e o licenciamento contratado. Em soluções próprias que recuperam informação de repositórios empresariais, os controlos de autorização devem ser considerados também no processo de recuperação da informação, e não apenas na interface apresentada ao utilizador. Estas decisões envolvem TI, segurança, conformidade e as áreas de negócio, e um apoio externo, como serviços especializados, pode ajudar a estruturar a avaliação inicial.

Permissões corretas sustentam uma IA útil

Os assistentes de IA generativa tendem a refletir a qualidade da governação de dados da organização. Rever permissões, classificar informação sensível e testar o comportamento num piloto controlado pode reduzir a probabilidade de exposições indevidas, sem impedir a adoção. O nível de esforço depende da dimensão dos repositórios, do setor, da maturidade de classificação e da plataforma escolhida, e nenhuma preparação remove todo o risco. Tratar esta revisão como parte permanente da operação, e não como condição pontual de arranque, tende a produzir resultados mais consistentes.