免费公开课

AI 回答中的信息从哪里来?

区分已有知识、检索材料和来源引用,学习保存可核查的观察记录。

这节课学什么

记录问题、平台模式、回答及来源,核查引用是否支持相应说法。

分析一条回答前,先确认你正在使用的产品和模式。是否联网、是否提供引用,以及可以使用哪些材料,都可能影响结果。

1. 模型已有知识

回答可能使用训练阶段形成的知识。仅凭某一句回答,通常不能反推出具体训练来源,也不能假设它已经了解你最新发布的内容。

2. 检索与提供的材料

某些场景会使用联网检索结果,或你主动提供的文件和上下文。需要区分公开网页被检索,与在会话中上传材料这两种情况。

3. 引用需要回到原文核查

出现来源链接时,打开原文,检查它是否支持对应说法、日期是否合适。品牌被提到、网页被引用、产生网站访问,是不同的观察指标。

课后小练习

选择一条有引用的回答,保存问题、日期、所用模式、原始回答及引用链接,逐条核查来源是否支持结论。

用一张记录表区分不同观察

观察项应保存的材料不能直接推出的结论
名称被提及完整问题与原始回答不等于网页被引用
出现来源链接链接及对应的原文段落不等于链接支持全部回答
网站获得访问可核查的来源与访问记录不等于产生有效咨询

对于没有给出来源的回答,应把来源记录为“未提供”,不要补猜引用。不同时间和会话的差异需要保留条件,也不能仅凭单次差异判断发生了算法更新。

参考资料

参考资料用于支持相关基础说明,不代表这些规则适用于所有 AI 平台。

继续练习

阅读内容诊断教学演示,把概念落实到自己的业务材料中。

↑