通俗版
被成对危险、违法或侵犯隐私的请求说“不”,这叫拒答。但它也会误判,把正常问题当成危险问题拒绝,比如问“怎么杀死一个卡住的进程”也不肯回答,这叫过度拒绝,是大家吐槽的重点。
工程版
基于、或外部安全过滤而拒绝请求的行为。拒答过少会带来安全风险,过多(over-refusal)会损害可用性,评测中常同时衡量两者。拒答可能来自本身,也可能来自产品层的内容审核,用户从外部往往难以区分。
文言
拒答,AI 辞而不应也;误辞常问者,谓之过度拒绝。
举个例子
你问“如何安全地处理过期药品”, 却回答“抱歉,我无法提供与药物相关的帮助”,这就是一次过度拒绝。
容易搞混
拒答是 的防护行为,是想办法绕过这种防护。换个说法把正常需求讲清楚,往往就能得到回答。