企业聊天机器人应基于经过批准的知识源回答问题,识别无法解决的问题,并将对话转交给人工人员。在允许其更改订单或作出承诺之前,应先从一项边界明确的任务开始,例如解释产品选项或收集咨询。
在选择模型之前定义任务
| 使用场景 | 所需输入 | 失败响应 |
|---|---|---|
| 产品和服务问题 | 经过审核的描述和当前政策 | 显示相关来源或询问团队 |
| 潜在客户资格审核 | 已确定的问题、联系授权和路由规则 | 提供常规咨询表单 |
| 订单查询 | 经过身份验证的用户和获得授权的订单 API | 隐藏私人记录,并将访问问题转交支持团队 |
| 文档辅助 | 经过批准的文档集和访问规则 | 说明缺少证据,而不是编造答案 |
构建经过审核的评估集
收集真实问题,但不要包含个人数据。纳入已知答案的问题、含义不明确的请求、知识缺失、过时政策,以及试图获取其他客户数据的请求。为来源支持、升级处理、响应时间和每次完成对话的成本定义验收标准。当模型、提示或知识发生变化时,重复进行评估。
控制成本和权限
将模型凭据保存在服务器上。限制输入大小、使用量和外部调用。仅检索用户有权访问的内容。将检索到的文本视为不受信任的信息;业务规则和权限检查应由应用程序负责。对于会影响订单、付款或客户记录的操作,要求进行确认。
提供可用的人工转接
访客应能够在无需重复整个对话的情况下联系人工人员。将获得同意的联系信息、相关消息和未解决的问题发送到约定的队列。当 AI 服务提供商不可用时,显示常规联系渠道。
查看 AI 集成服务,或发送聊天机器人需求简介,其中应包含目标渠道、经过批准的知识、示例问题、隐私限制和转接目的地。模型选择应依据经过测量的任务要求。
