上一篇
(474期)Aionis – 企业级长期记忆与智能策略闭环
下一篇
(472期)Erc8004 Reputation – AI Agent 链上声誉评分系统
AI Agent 的提示注入防火墙 专为AI Agent设计的提示注入防火墙,集成113种检测模式和14类威胁识别,通过哈希链白名单与强制同行评审机制实现零依赖防护,有效抵御伪造系统指令、命令注入、记忆篡改及技能恶意软件攻击。 使用说明 PromptShield 是一款专为AI Agent生态设计的开源提示注入防火墙,采用多层模式识别与启发式评分机制,将输入文本划分为 CLEAN(0-49分)、WARNING(50-79分)和 BLOCK(80-100分)三级威胁响应。其核心能力覆盖14类攻击向量,包括伪造系统权威(fakeauthority)、命令注入(commandinjection)、内存投毒(memorypoisoning)、技能恶意软件(skillmalware)等,总计内置113条多语言检测模式。 核心优势在于其零依赖架构(仅需 Python3 和 PyYAML)与生产级安全设计:启发式组合检测能识别跨类别攻击的协同效应,如伪造权威叠加命令注入可触发额外+20分危险加成;独创的哈希链白名单 v2 借鉴区块链防篡改机制,要求最少2名独立审查者批准,且条目设有180天强制过期;Claude Code 原生钩子集成实现实时输入拦截,BLOCK 级威胁可直接阻断处理流程。 局限性包括:依赖正则与启发式规则,对零日攻击或语义变形的对抗样本可能存在盲区;113条硬编码模式需持续维护更新;白名单的 peer review 机制在单人开发场景中难以落地;当前主要面向英语及西欧语言,对中文等 CJK 语系的检测覆盖尚未明确。 适用人群:AI Agent 开发者、MCP/Claude Code 重度用户、企业级 LLM 部署团队、对提示安全有强需求的研究者。尤其适合运行 Claude Code 或类似 Agent 框架、需要拦截恶意技能调用与系统提示覆盖的场景。 风险提示:该工具为防御层而非绝对安全保证,高阶提示注入攻击仍可能绕过规则引擎;哈希链白名单的"无自我批准"设计在缺乏协作流程时可能形成使用障碍;技能恶意软件检测模式主要针对已知 Shell 载荷特征,对纯逻辑型攻击(如间接提示注入通过 RAG 污染)覆盖有限。建议作为纵深防御的一环,配合输入沙箱与输出监控使用。 原始说明 Prompt Injection Firewall for AI agents. 113 detection patterns, 14 threat categories, zero dependencies. Protects against fake authority, command injection, memory poisoning, skill malware, crypto spam, and more. Hash-chain tamper-proof whitelist with mandatory peer review. Claude Code hook integration.
AI Agent 的提示注入防火墙
专为AI Agent设计的提示注入防火墙,集成113种检测模式和14类威胁识别,通过哈希链白名单与强制同行评审机制实现零依赖防护,有效抵御伪造系统指令、命令注入、记忆篡改及技能恶意软件攻击。
PromptShield 是一款专为AI Agent生态设计的开源提示注入防火墙,采用多层模式识别与启发式评分机制,将输入文本划分为 CLEAN(0-49分)、WARNING(50-79分)和 BLOCK(80-100分)三级威胁响应。其核心能力覆盖14类攻击向量,包括伪造系统权威(fakeauthority)、命令注入(commandinjection)、内存投毒(memorypoisoning)、技能恶意软件(skillmalware)等,总计内置113条多语言检测模式。
核心优势在于其零依赖架构(仅需 Python3 和 PyYAML)与生产级安全设计:启发式组合检测能识别跨类别攻击的协同效应,如伪造权威叠加命令注入可触发额外+20分危险加成;独创的哈希链白名单 v2 借鉴区块链防篡改机制,要求最少2名独立审查者批准,且条目设有180天强制过期;Claude Code 原生钩子集成实现实时输入拦截,BLOCK 级威胁可直接阻断处理流程。
局限性包括:依赖正则与启发式规则,对零日攻击或语义变形的对抗样本可能存在盲区;113条硬编码模式需持续维护更新;白名单的 peer review 机制在单人开发场景中难以落地;当前主要面向英语及西欧语言,对中文等 CJK 语系的检测覆盖尚未明确。
适用人群:AI Agent 开发者、MCP/Claude Code 重度用户、企业级 LLM 部署团队、对提示安全有强需求的研究者。尤其适合运行 Claude Code 或类似 Agent 框架、需要拦截恶意技能调用与系统提示覆盖的场景。
风险提示:该工具为防御层而非绝对安全保证,高阶提示注入攻击仍可能绕过规则引擎;哈希链白名单的"无自我批准"设计在缺乏协作流程时可能形成使用障碍;技能恶意软件检测模式主要针对已知 Shell 载荷特征,对纯逻辑型攻击(如间接提示注入通过 RAG 污染)覆盖有限。建议作为纵深防御的一环,配合输入沙箱与输出监控使用。
Prompt Injection Firewall for AI agents. 113 detection patterns, 14 threat categories, zero dependencies. Protects against fake authority, command injection, memory poisoning, skill malware, crypto spam, and more. Hash-chain tamper-proof whitelist with mandatory peer review. Claude Code hook integration.
本站提供的资源转载自国内外各大媒体和网络,仅供试玩体验;不得将上述内容用于商业或者非法用途,否则,一切后果请用户自负。您必须在下载后的24个小时之内,从您的电脑中彻底删除上述内容。如果您喜欢该游戏内容,请支持正版,购买注册,得到更好的正版服务。我们非常重视版权问题,如有侵权请邮件与我们联系处理。
上一篇
(474期)Aionis – 企业级长期记忆与智能策略闭环
下一篇
(472期)Erc8004 Reputation – AI Agent 链上声誉评分系统
还没有玩家留言,来抢沙发吧~
登录后即可发表你的资源评测、评分,与其他玩家交流