AI 回答中的信息从哪里来?
区分已有知识、检索材料和来源引用,学习保存可核查的观察记录。
这节课学什么
记录问题、平台模式、回答及来源,核查引用是否支持相应说法。
分析一条回答前,先确认你正在使用的产品和模式。是否联网、是否提供引用,以及可以使用哪些材料,都可能影响结果。
1. 模型已有知识
回答可能使用训练阶段形成的知识。仅凭某一句回答,通常不能反推出具体训练来源,也不能假设它已经了解你最新发布的内容。
2. 检索与提供的材料
某些场景会使用联网检索结果,或你主动提供的文件和上下文。需要区分公开网页被检索,与在会话中上传材料这两种情况。
3. 引用需要回到原文核查
出现来源链接时,打开原文,检查它是否支持对应说法、日期是否合适。品牌被提到、网页被引用、产生网站访问,是不同的观察指标。
课后小练习
选择一条有引用的回答,保存问题、日期、所用模式、原始回答及引用链接,逐条核查来源是否支持结论。
用一张记录表区分不同观察
| 观察项 | 应保存的材料 | 不能直接推出的结论 |
|---|---|---|
| 名称被提及 | 完整问题与原始回答 | 不等于网页被引用 |
| 出现来源链接 | 链接及对应的原文段落 | 不等于链接支持全部回答 |
| 网站获得访问 | 可核查的来源与访问记录 | 不等于产生有效咨询 |
对于没有给出来源的回答,应把来源记录为“未提供”,不要补猜引用。不同时间和会话的差异需要保留条件,也不能仅凭单次差异判断发生了算法更新。
参考资料
参考资料用于支持相关基础说明,不代表这些规则适用于所有 AI 平台。
继续练习
阅读内容诊断教学演示,把概念落实到自己的业务材料中。