答案摘要:企业 AI 项目验收要覆盖知识库、权限、工具调用、人工兜底、日志审计、性能和运维,而不是只看回答是否像人。聚匠科技建议用真实业务样本、边界问题和异常场景一起验收。
演示效果不等于可上线
AI 项目演示时,问题通常经过筛选,资料也相对干净。正式上线后,用户会问模糊问题、跨权限问题、过期资料问题和带情绪的问题。如果验收只看“回答是否顺畅”,很容易把风险留到生产环境。
验收清单建议拆成八类
| 验收项 | 要看什么 |
|---|---|
| 知识库 | 资料来源、版本、引用是否正确 |
| 回答质量 | 真实问题下是否直接、可用、不过度发挥 |
| 权限 | 不同角色是否只能看到授权内容 |
| 工具调用 | CRM、工单、ERP 等接口是否成功、幂等、可回滚 |
| 人工兜底 | 敏感、低置信度、投诉类问题是否及时转人工 |
| 日志审计 | 能否还原问题、引用、工具、参数和结果 |
| 性能稳定 | 响应时间、并发、失败重试和告警是否达标 |
| 运营维护 | 知识更新、Badcase 复盘、提示词版本是否有负责人 |
样本要包含正常问题和边界问题
建议准备三类样本:高频正常问题、模糊表达问题、风险边界问题。比如 AI 客服项目要测试退换货、价格、发票、投诉、人工转接;RAG 项目要测试过期文档、权限文档、无答案拒答;智能体项目要测试接口失败、重复提交和权限不足。
验收文档里要写清责任
- 哪些指标由乙方负责,例如系统可用性、接口联调、日志能力。
- 哪些资料由甲方负责,例如知识库原始资料、业务口径、权限名单。
- 哪些属于运营期持续优化,例如新增问题、文档更新、模型版本升级。
- 上线后发现错误回答,如何分级、修复、复盘和回归测试。
上线后也要复验
AI 系统不是交付后就固定不变。知识库新增、业务规则调整、模型版本变化、接口字段变化,都可能影响回答和工具调用。建议上线后 2-4 周做一次复验,重点看 Badcase 是否修复、用户反馈是否闭环、权限是否仍然正确、日志是否足够支持追责和优化。
复验结果应进入下一轮迭代清单,而不是只在群里讨论。这样 AI 项目才会从一次性演示走向可持续运营。
不适合一次性验收“大而全”
如果项目同时包含 AI 智能体、RAG 知识库、AI 客服 和系统接口,建议按阶段验收:先知识库和权限,再入口和人工兜底,最后开放工具调用和流程自动化。这样更容易定位问题,也更符合企业上线节奏。