为生产环境中的 AI 智能体提供系统级安全保护？mt4平台搭建IT之家 5 月 9 日音信，Meta AI 公司最新推出 LlamaFirewall，应对 AI 智能体延续演变的威迫格式，为临盆情况中的 AI 智能体供给编制级安宁偏护。

　　跟着大型发言模子（LLMs）嵌入 AI 智能体并被广博行使于高权限场景，安宁隐患随之弥补。这些智能体能够读取邮件、天生代码、移用 API，一朝被恶意愚弄，后果不胜设思。

　　古板的安宁机制，如谈天呆板人实质审核或硬编码模子局部，已无法满意具备广博才气的 AI 智能体需求。Meta AI 针对提示注入攻击、智能体行径与用户标的差别等、以及担心全的代码天生三大主旨挑拨，拓荒了 LlamaFirewall。

　　IT之家征引博文先容，LlamaFirewall 采用分层框架，蕴涵三个特意的防护模块：

　　PromptGuard 2 是一个基于 BERT 架构的分类器，能及时检测越狱行径和提示注入，维持众发言输入，其 86M 参数模子本能强劲，22M 轻量版本则适合低延迟安插。

　　AlignmentCheck 是一种实践性审计用具，通过了解智能体内部推理轨迹，确保行径与用户标的同等，异常擅长检测间接提示注入。

　　CodeShield 则是一个静态了解引擎，反省 LLM 天生代码中的担心全形式，维持众种编程发言，能正在代码提交或推广前缉捕 SQL 注入等常睹罅隙。

转载请注明出处。