# AI Security Wiki Uma wiki e um MCP para ajudar agentes e pessoas a **entender um sistema de IA, investigar seus riscos e propor correções com evidência**. Criei este projeto para aprofundar meu aprendizado em segurança de IA e compartilhar uma referência prática de proteção em escala. A base é o Databricks AI Security Framework. O trabalho de organizar, testar e explicar esse conhecimento é uma contribuição independente de Matheus Borges, sem vínculo oficial com o Databricks. [Explorar o site](https://mathborgess.github.io/ai-security-wiki/) · [Abrir a wiki](https://mathborgess.github.io/ai-security-wiki/wiki/index.md) · [Instalar o MCP](https://mathborgess.github.io/ai-security-wiki/docs/mcp.md) · [Conhecer os limites](https://mathborgess.github.io/ai-security-wiki/docs/validation.md) ## Por onde começar - [Checklist de segurança de agentes](https://mathborgess.github.io/ai-security-wiki/guides/agent-security-checklist.md): arquitetura, permissões e evidências. - [Segurança de MCP](https://mathborgess.github.io/ai-security-wiki/guides/mcp-security.md): clientes, servidores, ferramentas e credenciais. - [Investigar prompt injection](https://mathborgess.github.io/ai-security-wiki/guides/prompt-injection.md): do conteúdo não confiável ao efeito no sistema. - [PentAGI, Cloudflare e Red Blue Field](https://mathborgess.github.io/ai-security-wiki/wiki/research/index.md): fontes para investigar por hipóteses, registrar cobertura e verificar achados. - [Roteiro de investigação com evidências](https://mathborgess.github.io/ai-security-wiki/guides/evidence-driven-audit.md): exemplo sintético, correção proposta e critérios de reteste. - [Usar com Claude, Codex, ChatGPT e outros agentes](https://mathborgess.github.io/ai-security-wiki/docs/clients.md): leitura pela web e instalação local são caminhos diferentes. Os guias estão em inglês. Você pode pedir ao agente uma explicação em português, preservando os IDs, fontes e limites da evidência. ## Como funciona 1. **Identificar o sistema.** O agente pergunta sobre modelos, treinamento, RAG, provedores externos, memória e ferramentas. Um mesmo sistema pode combinar várias categorias. 2. **Selecionar riscos e controles.** O MCP usa os filtros da planilha oficial e mostra a origem de cada relação. Também destaca lacunas e casos que exigem revisão da arquitetura. 3. **Investigar.** O agente solicita configurações, permissões e rastros relevantes. Sem evidência, o resultado permanece não verificado. 4. **Propor correções.** Cada proposta aponta controles, responsáveis, critérios de teste e necessidade de reversão. 5. **Verificar e explicar.** O agente testa apenas dentro do escopo autorizado e explica o mecanismo, o impacto observado e o risco que permanece. Exemplo: um assistente consulta documentos internos e pode abrir chamados por uma ferramenta MCP. Um documento contém uma instrução maliciosa para enviar dados a outro destino. O risco deve ser investigado na fronteira entre conteúdo recuperado, decisão do modelo e permissão da ferramenta. Uma correção possível é restringir destinos e operações no serviço que executa a ação. O teste precisa mostrar tanto o bloqueio da ação indevida quanto a continuidade do uso legítimo. Isso não significa que essa falha existe no seu sistema. É um **exemplo sintético** do tipo de pergunta que a auditoria deve responder. ## O que a versão inclui Snapshot de 22/10/2026: 97 riscos, 73 controles, 804 relações e sete modelos de implantação. O conteúdo reutilizável está em inglês; o prompt e a ferramenta de explicação orientam o agente a responder em português quando solicitado. Os trechos originais da fonte conservam seu idioma. Para instalar, siga os comandos do [README principal](https://mathborgess.github.io/ai-security-wiki/README.md). O MCP roda localmente, sem chave de modelo e sem conta Databricks. Ele fornece conhecimento e planos; a inspeção do seu sistema depende das ferramentas e permissões do agente que o utiliza. A biblioteca complementar foi consultada em 23/10/2026, com revisões fixadas e origem explícita. Busque `PentAGI` ou `Cloudflare` com `search_knowledge`, usando `kind: "reference"`, e leia o resultado com `get_reference`. Os seis novos guias aparecem também na busca do site. O catálogo DASF permanece separado; nenhuma instalação, execução de pentest ou auditoria de alvo foi realizada para essa adição. ## Um cuidado concreto com a fonte A planilha tem células vazias, relações não recíprocas e marcações discutíveis. Por exemplo, a linha 9.1 de prompt injection está marcada como “No” para RAG. O projeto preserva esse dado e recomenda revisar o risco na arquitetura, sem fingir que a fonte disse outra coisa. [Veja o registro](https://mathborgess.github.io/ai-security-wiki/wiki/source-issues.md). ## Estudar métodos públicos de segurança O [estudo dos repositórios de Jason Haddix](https://mathborgess.github.io/ai-security-wiki/wiki/research/jason-haddix.md) separa métodos, ferramentas, relatos e forks. A skill [map-attack-surface](https://mathborgess.github.io/ai-security-wiki/skills/map-attack-surface/SKILL.md) transforma evidências em um mapa e perguntas de investigação. Ela complementa o DASF e não executa reconhecimento. Veja os [limites da validação](https://mathborgess.github.io/ai-security-wiki/docs/jhaddix-study-validation.md). A [ask-cyber-specialist](https://mathborgess.github.io/ai-security-wiki/skills/ask-cyber-specialist/SKILL.md) funciona como um especialista de bolso: explica mecanismos, questiona hipóteses e ajuda a escolher estudos com uma entrevista curta. Veja os [posts e mídias do Jason](https://mathborgess.github.io/ai-security-wiki/wiki/research/jason-haddix-media.md), o [guia de avaliação com spikee](https://mathborgess.github.io/ai-security-wiki/wiki/research/spikee-evaluation.md) e os [resultados observados](https://mathborgess.github.io/ai-security-wiki/docs/cyber-specialist-validation.md). O perfil se inspira em métodos públicos e não se apresenta como Jason.