上线前先清理知识来源

AI客服能够缩短资料查找时间,但如果知识来源混乱,也可能稳定地输出错误答案。上线前至少应完成八项检查。

配置引用、拒答与转人工规则

一是确认资料版本,删除过期价格和重复文件;二是让回答显示来源名称、章节或更新时间;三是设置拒答规则,资料没有覆盖时不得猜测;四是设计转人工入口,让投诉、合同、退款和特殊承诺进入人工流程。

权限和隐私必须单独测试

五是划分权限,公开产品资料与内部制度、客户信息不能混用;六是检查隐私,不把身份证号、手机号等敏感信息用于不受控的模型输入;七是用真实问题测试,包括错别字、口语表达、连续追问和诱导越权;八是指定维护人,记录资料何时更新、由谁审核。

用真实问题完成分组验收

验收建议分别统计正确回答、错误引用、合理拒答、错误拒答和转人工五类结果。AI客服的目标不是“所有问题都回答”,而是在可控范围内给出有依据的答复。

AI客服上线检查表

上线检查表:现行资料是否有负责人和有效日期;答案是否展示来源;无依据时是否拒答;投诉与退款是否转人工;不同角色能否只读取授权内容;测试是否覆盖错别字、追问和越权诱导;错误记录能否回溯;每月是否安排资料复核。