心理健康对话评估基准 MentalHealthBench 正式发布
MentalHealthBench 是一项由专业人士参与制定的新型评估基准,专门用于评测人工智能在真实心理健康对话场景中生成回复的有效性与安全性。该基准针对高敏感度的人机心理交互需求,为检验大模型在心理健康支持场景下的临床安全界限和实用价值提供了标准化评估工具,有助于推动垂直领域 AI 的安全对齐。
推荐理由填补了心理健康高危场景下专家级 AI 安全与有效性评测基准的空缺。
原标题:Introducing MentalHealthBench
阅读 OpenAI 官方动态 原文 ↗