返回知识库

AI 与提示 · 知识与检索

幻觉Hallucination

幻觉是模型生成看似合理却无可靠依据的内容。识别它要回到原始资料检查具体断言;有冲突就纠正,缺证据就拒答、追问或检索补证,而不是继续补得更像真的。

一张旅行问答,究竟编了哪两件事?

AI 给 8 岁孩子规划天文馆行程:开放日和场次是真的,入场年龄却与手册冲突,耳机租赁则完全查无。对照原始资料,再把同一张回答按证据恢复。

这是一张准备发给家长的旅行问答。它语气笃定、时间具体,但“具体”不代表真实;用户要回到原始资料,找出回答究竟编了什么。

家长提问周二下午能带 8 岁孩子去看穹幕电影吗?待核对原资料
官方参观手册星港天文馆VISITOR GUIDE · 2026
开放
周二至周日 09:30–17:00
场次
穹幕电影每天 14:00 开场
年龄
穹幕电影限 10 岁以上观众

服务说明整份手册没有“儿童耳机租赁”。

AI 生成的旅行建议周二亲子天文馆一段很流畅的回答

可以,天文馆周二开放,14:00 有一场穹幕电影。

8 岁孩子可以正常入场。

现场还可以租儿童耳机。

看起来像真的,不代表已核实先查数字、条件、服务

下一步:查原资料先看这张像模像样的旅行建议,再对照原始参观指南。重点查名字、数字、条件和额外服务。

从这张回答记住四件事

面板先让错事实在原回答上现形,这里只给刚才看到的现象命名。

  • 流畅不是证据回答有完整行程、具体时间和自然语气,仍可能把概率上“像真的”内容补成事实。
  • 幻觉既可能冲突,也可能凭空出现“8 岁可入场”撞上 10 岁以上限制;“儿童耳机租赁”则在手册里完全不存在。
  • 越具体,越要回查专有名词、日期、数字、版本、资格条件、引用和额外服务,都是用户能从原对象快速检查的高风险点。
  • 恢复不是换一种自信说法有证据的保留,冲突的纠正,缺证据的明确说不知道、追问或继续检索。

什么时候要警惕

当回答会影响下一步行动,又出现难以凭常识确认的具体事实时,优先怀疑并核验。

高风险信号名字、数字、条件、引用非常具体

例如 API 名、版本号、开放时间、年龄限制、费用、论文标题和链接。格式越像真的,越不能跳过原资料。

不该只靠模型实时、私有或高后果信息

库存、账户、内部政策、医疗、法律、金融等信息需要可靠数据源与人工边界;一句“模型很确定”不是证据。

怎么用:从识别到恢复的最短路径

沿用面板里的旅行回答,把一次核验压缩成四步。

  1. 1圈出可验证断言先找专有名词、数字、条件、引用和额外服务,不用先判断整段好坏。
  2. 2回到原始资料逐条找支持、冲突或缺失;引用必须真的能打开并指到对应内容。
  3. 3选择恢复动作有据就保留,冲突就纠正,缺资料就拒答、追问或检索补证,不能伪造一个“差不多”的来源。
  4. 4在同一对象上复查确认改写后的回答不再保留原错事实,用户也看得出哪些已证实、哪些仍未知。

正反例:同一份手册,只改缺证据后的动作

两份回答看到的原始资料完全一样,差别只在发现冲突与缺失后怎么处理。

正例按资料纠正,并坦白未知项

明确 10 岁以上限制;手册没写儿童耳机,就建议向场馆确认。家长不会带不符合年龄的孩子白跑一趟。

反例为了完整,继续补齐细节

仍写“8 岁可入场、现场可租耳机”,甚至再编一个客服电话。回答更完整了,但每多一个无据细节就多一个误导。

快速自测

AI 给出一个听起来很正规的场馆客服电话,但官网和参观手册都找不到。下一步最稳妥的是?

继续查证

术语的技术定义和行为以这些一手或权威资料为准。

下一步学

和本知识点经常一起出现的概念。