幻觉：AI 也会一本正经地胡说

实验目的

认识大语言模型的“幻觉”现象，学会核实 AI 给出的信息。

实验原理

模型生成文字，是按学到的规律预测最可能的下一个词元，目标是让句子通顺合理，而不是去查证事实。当训练资料中缺少相关信息，或者问题本身带有误导时，模型可能生成表述流畅但不符合事实的内容，这种现象常被称为“幻觉”。

实验器材

• 页面给出的示例问题
• AI 对问题的回答
• 课本或权威资料（用于核实）
• 电脑或平板

实验步骤

1. 阅读示例问题，查看 AI 的回答。
2. 判断回答中哪些内容可能有误或无法确认。
3. 查阅课本或可靠资料，核实人名、数据、出处等细节。
4. 对照结果，找出哪些内容是编造或不准确的。
5. 总结识别和避免被误导的方法。

实验现象与结论

AI 的回答语气肯定、表述流畅，但其中的人名、数据、引用或出处等细节可能与事实不符。结论：回答读起来通顺，不等于内容正确；对重要信息，应通过课本或可靠来源核实。

注意事项

• 不要直接把 AI 的回答当作标准答案。
• 作业和考试相关内容，以课本和老师讲解为准。

常见问题

为什么 AI 说错了还显得很自信？

模型输出是否通顺，与内容是否符合事实无关，它不会自动查证，所以错误内容也可能表述得很肯定。

怎样减少被 AI 的幻觉误导？

对关键事实、数据和引用，用课本、权威资料或向老师请教来核实。