Pesquisa sobre Conscientização e Práticas de Mitigação de Prompt Injection em LLM
Mede a conscientização dos desenvolvedores sobre ameaças de prompt injection, captura as práticas atuais de mitigação de segurança e identifica lacunas na defesa de aplicações com LLM. Desenvolvida para equipes de engenharia que constroem ou avaliam funcionalidades integradas a LLM.
Perguntas de exemplo
Uma prévia do que há no modelo. Todas as perguntas podem ser editadas antes de publicar.
Qual área melhor descreve sua função principal?
- Engenharia de back-end
- Engenharia de front-end
- Engenharia full-stack
- Machine learning / ciência de dados
- DevOps / SRE
- Engenharia de segurança
- QA / automação de testes
- Outro (especifique)
Qual é o seu nível de confiança no seu entendimento pessoal sobre os riscos de prompt injection e suas mitigações?
Quais dos seguintes vetores de ameaça você considera ao projetar ou revisar funcionalidades de LLM? Selecione todas as opções aplicáveis.
- Prompt injection (instruções maliciosas na entrada do usuário)
- Prompt injection indireto por meio de fontes de conteúdo externas
- Jailbreaks / sobreposição do modelo às políticas do sistema
- Exfiltração ou vazamento de dados por meio de prompts ou respostas
- Uso indevido de ferramentas ou ações de agente com permissões excessivas
- Envenenamento de dados de treinamento
- Vazamento de prompt ou exposição da versão do prompt do sistema
- Nenhum destes
Quais das seguintes mitigações de prompt injection sua equipe adotou? Selecione todas as opções aplicáveis.
- Validação e sanitização de entrada dos prompts do usuário
- Reforço do prompt do sistema (por exemplo, hierarquia de instruções, delimitadores)
- Filtragem de saída ou verificações de segurança de conteúdo
- Controles de acesso baseados em função para permissões de ferramentas/ações de LLM
- Monitoramento e registro das interações com LLM
- Canary tokens ou honeypots nos prompts do sistema
- Sandbox ou isolamento dos ambientes de execução de LLM
- Nenhuma destas
- Não tenho certeza
Nos últimos 6 meses, você encontrou suspeitas de atividade de prompt injection ou jailbreak em seus sistemas?
- Sim — incidente confirmado
- Possivelmente — comportamento suspeito, não confirmado
- Não
Classifique as seguintes métricas de acordo com o quanto você as prioriza ao avaliar mitigações de prompt injection (topo = maior prioridade).
- Taxa de falsos positivos (entradas legítimas bloqueadas incorretamente)
- Taxa de detecção (entradas maliciosas corretamente capturadas)
- Impacto de latência na experiência do usuário
- Facilidade de implementação e manutenção
- Cobertura entre tipos de ataque
Gostaríamos de explorar sua experiência com práticas de segurança de LLM com um pouco mais de profundidade. Um moderador de IA fará algumas perguntas de acompanhamento com base nas suas respostas anteriores.
Quantos anos de experiência profissional em desenvolvimento de software você tem?
- Menos de 1 ano
- 1–3 anos
- 4–6 anos
- 7–10 anos
- Mais de 10 anos
Obrigado por concluir esta pesquisa! Suas respostas contribuirão para uma melhor compreensão das práticas de segurança de LLM na comunidade de desenvolvedores e ajudarão a aprimorar as orientações de desenvolvimento seguro.
Qual das seguintes opções melhor descreve seu envolvimento atual com funcionalidades integradas a LLM?
- Atualmente construo ou mantenho funcionalidades integradas a LLM
- Planejo integrar LLMs nos próximos 6 meses
- Atualmente não trabalho com LLMs
Quão preparada está sua equipe ou organização para se defender de ataques de prompt injection em suas aplicações integradas a LLM?
Classifique as seguintes preocupações de segurança de LLM da maior para a menor prioridade no seu trabalho.
- Prompt injection direto via entrada do usuário
- Prompt injection indireto via conteúdo externo
- Vazamento de dados via prompts ou respostas
- Ações de ferramentas ou agentes com permissões excessivas
- Sobreposição do modelo / jailbreak para contornar políticas
Com que frequência sua equipe avalia os riscos de prompt injection ou jailbreak?
- Semanalmente ou com mais frequência
- A cada 2–3 semanas
- Mensalmente
- Trimestralmente
- Com menos frequência ou nunca
Descreva brevemente o incidente e como ele foi tratado. Por favor, omita qualquer informação sensível ou proprietária.
Qual é o seu maior obstáculo para gerenciar o risco de prompt injection atualmente?
Com base nas suas respostas nesta pesquisa, compartilhe quaisquer pensamentos ou experiências adicionais relacionados à segurança de LLM e prompt injection que não abordamos. (Opcional)
Aproximadamente quantos funcionários há na sua organização?
- 1–10
- 11–50
- 51–200
- 201–1.000
- 1.001–5.000
- 5.001+
Onde você aprendeu sobre os riscos de prompt injection e suas mitigações? Selecione todas as opções aplicáveis.
- Documentação de fornecedor ou framework
- OWASP Top 10 for LLM Applications
- Artigos acadêmicos ou preprints
- Blogs ou newsletters de segurança
- Palestras ou workshops de conferências
- Treinamento interno ou orientação de colegas
- Redes sociais ou fóruns
- Não busquei informações sobre este tópico
Quais métodos sua equipe usa para testar vulnerabilidades de prompt injection? Selecione todas as opções aplicáveis.
- Red teaming adversarial por engenheiros
- Suítes de avaliação automatizadas ou checklists
- Testes unitários ou de integração para prompts
- Detecção com canary ou honeytoken
- Implantação shadow com monitoramento e alertas
- Testes de penetração externos
- Atualmente não testamos isso
Onde você está localizado(a) principalmente?
- África
- Ásia
- Europa
- América Latina
- Oriente Médio
- América do Norte
- Oceania
Qual é a política de resposta padrão da sua equipe quando a entrada de um LLM pode ser insegura?
- Permitir, mas sanitizar ou validar o conteúdo
- Bloquear e pedir esclarecimento ao usuário
- Encaminhar para revisão humana
- Varia conforme o contexto ou o nível de risco
- Não tenho certeza
Qual setor melhor descreve sua organização?
- Tecnologia / Software
- Finanças / Bancos
- Saúde
- Varejo / E-commerce
- Manufatura
- Educação
- Governo / Sem fins lucrativos
- Outro (especifique)
Quais tipos de ferramentas ou plataformas sua equipe usa para mitigar os riscos de prompt injection? Selecione todas as opções aplicáveis.
- Gateway ou proxy de LLM com aplicação de políticas
- APIs de moderação de conteúdo ou de segurança
- Banco de dados vetorial com filtragem ou controles de acesso
- Bibliotecas de guardrails open-source (por exemplo, Guardrails AI, NeMo Guardrails)
- Recursos de segurança integrados do provedor de nuvem
- Middleware ou serviços internos personalizados
- Nenhum
O que está incluído
Acompanhamento com IA
Sondagens adaptativas nas respostas abertas que revelam detalhes que um formulário estático deixaria passar.
Verificações de atenção
Proteções integradas contra respostas apressadas e participantes de baixa qualidade.
Textos escritos por IA
Redação, ordem e ramificações escritas pela IA, ajustadas ao seu objetivo de pesquisa.
Relatório automático
Temas, citações e um resumo em linguagem simples se escrevem sozinhos assim que as respostas chegam.
Como se compara
Analisamos os modelos mais parecidos de outras ferramentas de pesquisa. Veja o que elas fazem bem e onde este modelo vai além.
Por que este modelo
- Purpose-built for LLM prompt injection risk, covering awareness, current mitigations (input validation, output filtering, sandboxing, etc.), testing cadence, and tooling adoption specific to LLM-integrated features.
- Includes an AI follow-up interview segment that can adaptively probe on reported incidents or gaps, rather than relying solely on fixed-choice questions.
- Combines quantitative signals (opinion scales on confidence/preparedness, ranked prioritization of security concerns and metrics) with open-text incident descriptions and obstacle narratives for richer qualitative context.
- Captures organizational context (role, team involvement, org size, industry, experience) alongside technical practice questions, enabling segmented analysis of prompt injection readiness across engineering teams.
Jotform
Security Awareness Survey Form TemplateA general information-security awareness survey template, not tailored to LLM or prompt injection risks. It's a ready-to-field static form built for broad security topics like phishing and password hygiene rather than AI-specific threat vectors. Useful as a starting point but requires heavy customization to address LLM application security.
O que faz bem
- Ready-to-use drag-and-drop form builder for quick deployment
- Broad applicability across general security awareness topics
- Likely integrates with Jotform's wider form/workflow ecosystem
Onde deixa a desejar
- No LLM or prompt injection-specific question content
- Static question set with no adaptive AI follow-up interviewing
- No automated per-response quality scoring or transparent AI prompt methodology
SurveyMonkey
Security Awareness Survey TemplateA generic security awareness survey template aimed at general workforce training topics, not LLM-integrated engineering teams or prompt injection specifically. It offers a standard fixed-question format typical of SurveyMonkey's template library. Teams would need to build custom questions from scratch to capture LLM security practices.
O que faz bem
- Established survey platform with strong distribution and reporting tools
- Simple template structure for fast setup
- Benchmarking and analytics features typical of SurveyMonkey's suite
Onde deixa a desejar
- No content addressing prompt injection, jailbreaks, or LLM-specific mitigations
- Fixed-form design lacks adaptive or voice AI interviewing capability
- No transparent AI prompt disclosure or automated quality scoring per response
Perguntas frequentes
Quais perguntas estão no modelo “Pesquisa sobre Conscientização e Práticas de Mitigação de Prompt Injection em LLM”?
O modelo inclui 24 perguntas prontas para usar, começando por: “Bem-vindo(a)! Obrigado por participar desta pesquisa sobre suas experiências com o desenvolvimento e a segurança de apli…” · “Qual área melhor descreve sua função principal?” · “Qual é o seu nível de confiança no seu entendimento pessoal sobre os riscos de prompt injection e suas mitigações?”. O conjunto completo aparece acima e todas as perguntas podem ser editadas.
Quanto tempo leva para responder a esta pesquisa?
Os participantes normalmente terminam as 24 perguntas em cerca de 11 minutos.
Posso personalizar este modelo?
Sim: cada pergunta, cada opção de resposta e a ordem podem ser editadas antes de publicar. Você pode adicionar ou remover perguntas, ou pedir ao editor com IA para refazer a pesquisa em torno do seu objetivo.
Este modelo é gratuito?
Sim. Abra no editor e comece a personalizar agora: não é preciso criar conta para testar, e o plano gratuito cobre a publicação da sua pesquisa.
Pronto para publicar?
Abra este modelo no editor. Tudo é seu para mudar antes de o primeiro participante ver.
Modelos relacionados
Mais estudos sobre temas semelhantes.
Avaliação de Adoção e Prontidão para OpenTelemetry
Mede a familiaridade dos desenvolvedores, o estágio de adoção, os obstáculos e as prioridades de implementação do OpenTelemetry nas equipes de engenharia para orientar a estratégia de instrumentação e o planejamento de recursos.
Ver modeloDeveloper Latency Sensitivity & SLO Benchmarking Survey
Measures developer-perceived latency thresholds, tail-latency tolerance, and performance trade-off priorities by use case. Use it to benchmark acceptable response times, set data-informed SLOs and SLAs, and prioritize performance investments that align with what developers actually care about.
Ver modeloPesquisa sobre a Experiência de Desenvolvedores com Conformidade de Licenças Open-Source
Mede como os desenvolvedores lidam com a conformidade de licenças open-source, incluindo níveis de confiança, satisfação com ferramentas, clareza do fluxo de trabalho e principais barreiras. Desenvolvida para equipes de engenharia e organizações de ferramentas para desenvolvedores que buscam aprimorar processos de conformidade e a adoção de SBOM.
Ver modeloPesquisa de Adoção de IA para Revisão de Contratos e Marcação de Alterações
Mede os níveis de adoção, satisfação, barreiras e requisitos de salvaguarda de profissionais jurídicos para a revisão de contratos e marcação de alterações assistidas por IA. Elaborada para operações jurídicas, equipes internas e profissionais de escritórios de advocacia.
Ver modeloAvaliação do Impacto de Falsos Positivos em Filtros de Conteúdo para Desenvolvedores
Avalie como os falsos positivos de filtros de conteúdo afetam a produtividade dos desenvolvedores, a interrupção do fluxo de trabalho e as decisões de adoção de ferramentas. Desenvolvido para pesquisadores de experiência do desenvolvedor e equipes de ferramentas que buscam prioridades de melhoria acionáveis a partir de profissionais de software.
Ver modeloPesquisa de Eficácia e Retenção do Treinamento de Compliance
Avalia a clareza, o engajamento, a retenção de conhecimento e a aplicação prática do treinamento obrigatório de compliance para ajudar as equipes de T&D e compliance a identificar lacunas de conteúdo e otimizar os formatos de entrega.
Ver modelo