CART：面向大语言模型的闭环自适应红队测试框架
针对传统自动化红队测试依赖固定提示词、无法根据测试反馈动态调整的问题，研究人员提出了CART闭环自适应红队测试框架。该框架能够利用前序测试结果动态引导后续测试方向，在初始广泛覆盖风险的基础上，深入追踪暴露的脆弱点并保持探测多样性。CART解耦了测试挑战者、被测目标（支持纯文本模型及工具调用智能体）与评估裁判三类角色，实现了更高效动态的大模型安全风险探测。
推荐理由提出了一种闭环自适应红队测试框架，有效解决了传统大模型安全评估难以根据暴露漏洞动态调整测试策略的局限。
原标题：CART: Closed-Loop Adaptive Red Teaming for Large Language Models
阅读 arXiv 人工智能 原文 ↗