A adoção acelerada de ferramentas de inteligência artificial generativa no local de trabalho está a expor uma lacuna incómoda nas defesas de segurança de dados das organizações. Tecnologias que durante anos foram o pilar da proteção de informação sensível — os Cloud Access Security Brokers (CASB) e as soluções de Data Loss Prevention (DLP) — não foram concebidas para inspecionar o que realmente importa na era da IA: o conteúdo das interações entre colaboradores e modelos de linguagem. Especialistas de segurança defendem que é necessária uma nova camada, ciente da interação, capaz de perceber o que é escrito num prompt, o que é devolvido pelo modelo e que dados sensíveis atravessam esse diálogo em tempo real.
Resposta rápida: As ferramentas tradicionais de CASB e DLP não foram desenhadas para inspecionar o conteúdo semântico das conversas com IA generativa, deixando um ponto cego que a chamada «shadow AI» agravou. A recomendação central é combinar visibilidade sobre que ferramentas de IA são usadas, controlo de acesso e inspeção do próprio prompt, formando pessoas e definindo políticas claras de uso aceitável.
Porque é que o CASB e o DLP «clássicos» falham com a IA
Para perceber o problema convém distinguir os dois papéis. Segundo análises do setor, o CASB governa a forma como utilizadores e dispositivos interagem com aplicações na cloud, enquanto o DLP governa a forma como os próprios dados sensíveis são identificados, classificados e protegidos à medida que se movem por endpoints, redes, serviços cloud e, cada vez mais, aplicações e ferramentas de IA. Na prática, o CASB responde a quem pode aceder a uma aplicação cloud e como, ao passo que o DLP responde ao que é um determinado dado e para onde ele pode ir.
O problema é que a superfície de ataque da IA é fundamentalmente diferente. Investigadores da Tenable notam que o CASB se posiciona entre o utilizador e o fornecedor de SaaS e monitoriza sobretudo riscos que ocorrem em tempo de execução — durante a interação entre o utilizador e o serviço de IA — mas muitos dos riscos de IA mais significativos não acontecem nesse momento. Além disso, os filtros tradicionais são fáceis de contornar: um colaborador ou atacante pode simplesmente alterar um prompt escrevendo-o noutra língua, ou mesmo em código Morse, para escapar a um filtro DLP tradicional.
É aqui que entra a ideia de uma camada ciente da interação. Segundo fornecedores especializados, as ferramentas CASB básicas conseguem ver que um utilizador se liga à OpenAI ou à Anthropic, mas não conseguem inspecionar o conteúdo do prompt; soluções mais avançadas começam a adicionar deteção baseada em padrões ao tráfego LLM, mas normalmente carecem de compreensão semântica do que é sensível num dado contexto e não conseguem redigir dados no prompt antes de este chegar ao modelo. Por isso, a proteção completa de dados em interações com LLM exige um gateway ou proxy dedicado com deteção semântica.
O ponto cego chamado «shadow AI»
Grande parte do risco nasce fora do radar das equipas de segurança. A shadow AI — o uso não autorizado de ferramentas de IA generativa — está a criar um risco silencioso mas significativo para as empresas à medida que a adoção descentralizada se propaga. O padrão é conhecido: cada colaborador que introduz de forma descuidada código proprietário, listas de clientes ou dados financeiros num prompt público torna-se numa ameaça invisível, e o que começa como um atalho de produtividade transforma-se num novo caminho de exposição de dados que os modelos de segurança tradicionais têm dificuldade em acompanhar.
A Cloud Security Alliance identifica precisamente onde a inspeção convencional falha: a inspeção CASB tradicional não deteta interações de IA que ocorrem através de extensões de browser, de funcionalidades de IA embebidas em aplicações SaaS e de ferramentas de IA acedidas através de contas pessoais em dispositivos geridos. Estas lacunas explicam por que motivo várias abordagens emergentes apostam em soluções ao nível do browser ou em gateways de IA dedicados, que operam mais perto do ponto onde o colaborador escreve o prompt.
A dimensão do fenómeno ajuda a explicar a urgência. Um relatório do setor sobre o custo das violações de dados de 2025 refere que 20% de todas as violações de dados envolvem já shadow AI, enquanto 27% das organizações relatam que mais de 30% dos seus dados processados por IA contêm informação privada, desde registos de clientes a segredos comerciais. Estes números são atribuídos ao estudo em causa e devem ser lidos como indicadores de tendência, não como valores definitivos para qualquer mercado específico.
O que muda com uma camada ciente da interação
A proposta não é substituir o CASB e o DLP, mas complementá-los. As abordagens mais recentes combinam três funções: identificar que ferramentas de IA estão a ser usadas, controlar quem lhes pode aceder e — o elemento novo — inspecionar o conteúdo da própria interação. Como descrevem análises técnicas, a camada CASB garante que os colaboradores apenas acedem ao tenant de IA corporativo, bloqueando o início de sessão em contas pessoais, enquanto a camada DLP funciona como segundo posto de controlo, lendo o texto do prompt de IA e bloqueando a transmissão de dados sensíveis, mesmo dentro do ambiente corporativo aprovado.
Ao nível do gateway, a lógica é interceptar e sanear o pedido antes de chegar ao modelo. O gateway extrai o texto de cada mensagem e corre uma bateria de detetores: deteção baseada em padrões (regex ou verificação Luhn para cartões de crédito, números de identificação e chaves de API) e deteção semântica, com modelos de machine learning que classificam texto como contendo dados pessoais, código-fonte, segredos comerciais ou dados regulados. Um desafio recorrente é o dos dados ofuscados: se a informação sensível estiver codificada em base64 ou embebida num PDF ou imagem, a correspondência por padrões falha, pelo que é preciso descodificar codificações comuns e extrair texto de imagens antes da deteção.
Medidas práticas para PME e organizações
- Ganhar visibilidade primeiro. Usar ferramentas de deteção de shadow AI e de gestão de SaaS para varrer a rede, os endpoints e a atividade cloud, identificando acessos a plataformas de IA generativa conhecidas (como o ChatGPT da OpenAI ou o Microsoft Copilot) e categorizá-las por nível de risco.
- Monitorizar comportamentos de risco. Concentrar os esforços em padrões de utilização, como colaboradores a colar grandes quantidades de texto ou a carregar ficheiros da empresa em serviços de IA não aprovados — sinais precoces de potenciais fugas de dados.
- Aprovar em vez de proibir cegamente. Definir uma lista de ferramentas autorizadas, bloquear o início de sessão com contas pessoais em dispositivos geridos e aplicar DLP em linha ao tráfego de IA.
- Formar as pessoas. A sensibilização continua a ser uma das defesas mais eficazes contra a introdução inadvertida de dados sensíveis em ferramentas externas.
Porque é que isto importa em Portugal
O tema não é abstrato para as organizações nacionais. No seu Relatório Riscos & Conflitos, o CNCS sinaliza que a inteligência artificial foi a tecnologia emergente mais desafiante identificada em 2024, com 78% das respostas, valor que sobe para 94% quando questionados em relação a 2025. O mesmo organismo observa, no plano da criminalidade, o destaque dos infostealers, do ransomware e de sofisticadas campanhas de engenharia social, com recurso a modelos de IA generativa.
Para lá do risco de segurança, há implicações legais. Quando um colaborador introduz dados pessoais num serviço de IA externo, pode estar a desencadear obrigações ao abrigo do RGPD, sobretudo se esses dados forem tratados ou retidos por terceiros sem base legal ou salvaguardas adequadas. Ao mesmo tempo, o Regime Jurídico da Cibersegurança (Decreto-Lei n.º 125/2025, que transpõe a NIS2) reforça as exigências de gestão de risco e de governação para as entidades abrangidas — e a utilização descontrolada de ferramentas de IA é, na prática, um vetor de risco que passa a caber nesse dever de diligência. A camada ciente da interação surge assim menos como um produto e mais como um princípio: para proteger dados na era da IA, é preciso ver e compreender o que atravessa a conversa, e não apenas quem se liga a quê.
Perguntas frequentes
O CASB e o DLP deixaram de ser úteis com a chegada da IA?
Não. Continuam a ser essenciais para controlo de acesso e classificação de dados, mas não foram concebidos para inspecionar o conteúdo semântico das interações com modelos de IA. A recomendação dos especialistas é complementá-los com uma camada que perceba o que é escrito nos prompts e o que o modelo devolve.
O que é a «shadow AI» e porque é perigosa?
É o uso de ferramentas de IA generativa sem autorização ou supervisão de segurança. É perigosa porque colaboradores podem introduzir dados confidenciais em serviços externos, reduzindo a visibilidade da organização sobre para onde vão os seus dados e criando novos caminhos de exposição.
Que passos concretos pode uma PME dar já hoje?
Ganhar visibilidade sobre que ferramentas de IA são usadas, definir uma lista de aplicações aprovadas, bloquear contas pessoais em dispositivos geridos, monitorizar comportamentos de risco como o carregamento de ficheiros sensíveis, e formar os colaboradores sobre o que não deve ser colado em prompts.
Introduzir dados pessoais num serviço de IA viola o RGPD?
Pode implicar obrigações ao abrigo do RGPD se dados pessoais forem tratados por terceiros sem base legal ou salvaguardas adequadas. Cada caso depende do tipo de dados, do serviço usado e das garantias contratuais, pelo que as organizações devem avaliar o risco antes de autorizar o uso.
Esta informação tem caráter noticioso e baseia-se em dados divulgados publicamente por CNCS, investigadores e fornecedores de segurança citados (incluindo Tenable, Cyberhaven e Cloud Security Alliance) e em análises do setor.