Neste artigo
Capa ilustrativa gerada por IA; não retrata clientes, parceiros ou atividades reais deste site.
Um documento consultado por uma IA pode conter instruções que não pertencem à tarefa solicitada. Esse material deve ser tratado como fonte a examinar, sem receber autoridade para mudar o objetivo ou ampliar acessos. A distinção é importante em sistemas que leem páginas, mensagens e arquivos de origens diversas.
Separe o pedido da pessoa e o conteúdo da fonte
Imagine, de forma hipotética, um assistente que resume documentos de um acervo. O pedido autorizado é apresentar o assunto e indicar a referência. Se um arquivo contém uma orientação para enviar informações a outro endereço, essa passagem não se torna uma nova tarefa apenas por estar no material lido.
A OWASP descreve situações de injeção indireta em que conteúdo externo influencia indevidamente o comportamento do sistema. A defesa depende do desenho da aplicação e das permissões disponíveis; não é adequado prometer que uma única frase no prompt impedirá qualquer desvio.
Limite o efeito possível da leitura
Uma rotina de resumo não precisa, em princípio, possuir permissão para alterar todos os arquivos de uma conta. Ao configurar uma integração, defina os recursos necessários e mantenha operações de maior consequência separadas da interpretação do documento. Consulte os mecanismos de acesso e validação oferecidos pelo ambiente usado.
Identifique as fontes e preserve seus limites na apresentação. Quando vários documentos são combinados sem distinção, fica mais difícil perceber de onde veio uma orientação estranha. Localizadores e registros ajudam a investigar o ocorrido, embora não sejam, sozinhos, uma barreira suficiente contra o problema.
Confira comportamentos fora da finalidade
Durante um teste autorizado, observe se o sistema tenta realizar operações que a tarefa não exige ou se inclui destinos sem relação com o pedido. Encaminhe a investigação ao responsável técnico e evite executar instruções suspeitas para apenas descobrir o que acontecerá. A análise pode começar pela leitura e pelo registro do desvio observado.
Quando a saída será usada por outra aplicação, valide também seu formato e sua finalidade. Um texto aparentemente comum pode carregar uma instrução inadequada para a próxima etapa. O controle deve considerar o percurso completo, não somente a aparência da resposta exibida ao usuário.
Documente as decisões e os limites adotados no projeto. Este roteiro é uma introdução ao risco e à organização da revisão; ele não substitui uma avaliação técnica de segurança. O princípio prático é manter as fontes como evidência de conteúdo e as autorizações nos controles e pedidos legítimos que governam a tarefa.
Continue a leitura
- Novidade em IA: diferencie demonstração, avaliação e uso na sua tarefa
- Base de conhecimento para IA: revise fonte, versão e responsabilidade
- Embeddings: o que a busca por similaridade pode ajudar a encontrar
Referências para consulta
Revisado em 3 de novembro de 2026. O Kwai Seattle é um blog editorial independente sobre inteligência artificial. Não representa plataformas com nomes semelhantes nem antigos responsáveis pelo domínio. Os exemplos são propostas conceituais de organização e revisão, sem testes de produtos ou resultados comerciais atribuídos ao site. Capacidades, limites e políticas devem ser conferidos na documentação do serviço usado. As capas são ilustrações geradas por IA.
