Nos últimos anos, o uso generalizado de grandes modelos de linguagem (LLM) nas empresas aumentou; no entanto, isso também criou novas oportunidades para criminosos cibernéticos. A injeção de prompt é um tipo de ataque realizado por indivíduos mal-intencionados, visando os pontos em que os LLMs não conseguem distinguir entre dados e instruções. No ranking OWASP LLM Top 10 2025, a injeção de prompt foi identificada como a vulnerabilidade mais crítica com o código LLM01. Isso se deve ao fato de que os LLMs ainda não conseguem separar instruções de dados de forma confiável, evidenciando a gravidade dessa vulnerabilidade.

O que aconteceu?

A injeção de prompt foi identificada como um dos vetores de ataque mais eficazes e comuns por várias fontes independentes em 2025 e 2026. O Relatório Global de Ameaças da CrowdStrike de 2026 documentou que esse tipo de ataque ocorreu em mais de 90 organizações em 2025 e que esses ataques foram utilizados para roubar credenciais e criptomoedas. Exemplos do mundo real mostram como essas vulnerabilidades foram exploradas em sistemas como o Slack AI.

Por que é importante?

A injeção de prompt ameaça diretamente a segurança dos sistemas LLM utilizados pelas empresas. Esses ataques podem levar a ações não autorizadas em áreas críticas, como serviços ao cliente e sistemas de automação, além de vazamentos de dados sensíveis e interrupções nos fluxos de trabalho internos. Em particular, a confiança nas estruturas automáticas dos LLMs abre uma porta para criminosos cibernéticos. Por exemplo, o vazamento de informações maliciosas através de linhas RAG (geração aumentada por recuperação) aumenta as fraquezas desses sistemas. Atores que realizam ataques cibernéticos de alto nível estão se tornando mais sofisticados com essas novas técnicas de ataque, forçando as empresas a repensarem suas estratégias de segurança.

Tipo de AtaqueDescriçãoCaso de Exemplo
Injeção de PromptInstruções maliciosas enviadas pelo usuário ao LLMVulnerabilidade do Slack AI
Manipulação de Direcionamento de ModeloAlvo de modelos fracosAtaque ao Microsoft 365 Copilot
Envenenamento de MemóriaAdição de instruções prejudiciais à memória de longo prazo-

Entre as medidas que podem ser tomadas contra esses tipos de ataques estão a restrição de permissões de modelo, a segmentação de conteúdo não confiável e a monitoração de fluxos internos. As empresas devem fortalecer suas estratégias de segurança, avaliando os LLMs não apenas como ferramentas poderosas, mas também como potenciais ameaças.

O que vem a seguir?

No futuro, a segurança dos sistemas baseados em LLM ganhará ainda mais importância. As empresas precisarão acompanhar continuamente as práticas de segurança atualizadas para proteger os dados dos usuários e aumentar a confiabilidade dos sistemas automáticos. Além disso, considerando a evolução das ameaças cibernéticas, as organizações devem reavaliar suas expectativas em relação aos LLMs e desenvolver estratégias para mitigar vulnerabilidades.

Em conclusão, a injeção de prompt se destaca como uma vulnerabilidade que explora a lógica fundamental de funcionamento dos sistemas de inteligência artificial. É crucial que as empresas abandonem o hábito de ver os LLMs como tomadores de decisão confiáveis e comecem a avaliá-los como potenciais ameaças.