蚂蚁发布大模型内生式安全护栏SingProbe，让AI边生成边识别风险

资讯概述

蚂蚁AI安全实验室发布大模型内生式安全护栏SingProbe，旨在提升AI回答的安全性。该技术将安全检测融入模型生成过程，能够在回答生成过程中持续提供风险信号，帮助应用系统及时采取中止回答、重新生成等措施。SingProbe已适配多个主流开源大模型，未来将扩展对更多开源模型的支持。

关键事实

• SingProbe将安全检测融入模型生成过程，降低安全审核对响应速度和用户体验的影响。
• SingProbe已适配Ling-3.0系列、GLM-5.2/5.3、Qwen、DeepSeekV4等29个主流开源大模型。
• SingProbe在解码阶段引入的额外开销低于0.5%，兼顾检测能力与运行效率。
• SingProbe-Med可监测生成过程中的医疗风险，纠正基线模型中25.03%原本出错的回答。