IBM 开源 Granite 4.1 抗提示注入模型:把「不可信数据」挡在指令之外
IBM Granite 团队于 11 月 12 日开源两款实验性模型 Granite-4.1-3B 与 8B LLMON-preview,核心特性是能够识别并忽略藏身于不可信数据中的指令,从而抵御针对 AI 智能体的间接提示注入攻击。模型基于一种名为 LLMON 的 XML 风格标记训练,显式区分「可信指令」与「检索或工具返回的数据」,在内部基准上将间接提示注入攻击成功率从 53%–100% 大幅压低到 0.02%–5.6%,同时保持与标准 Granite 4.1 相近的通用任务表现。