第六章 幻觉与安全风险

学 AI 不学「风险」，等于开车不学刹车。这一章讲两个最该知道的坑：幻觉和常见安全陷阱。

6.1 什么是「幻觉」（Hallucination）

幻觉 = 模型生成了看起来合理、但其实错误/编造的内容。

例子： - 你问「《红楼梦》第 120 回讲了什么」，它流利地编出一段根本不存在的情节。 - 你问「某篇论文的结论」，它报出一个不存在的引用和作者。

6.2 为什么会幻觉

回到第一章的核心：模型是「预测下一个词」，不是在「查数据库」。当它对某个事实「记忆模糊」时，它会编造一个听起来最顺的版本——因为对它来说，「编得通顺」比「编得正确」优先级更高。它自己并不知道自己在撒谎。

6.3 怎么减少幻觉（实用 4 招）

1. 给它资料，别让它凭空答 用「基于以下内容回答：……」把事实喂给它，并要求「只依据资料，不要编造」。
2. 要求它标注来源 / 不确定就说不知道 例如：「如果资料里没有，请直接说『无法确定』。」
3. 关键事实你亲自核对 人名、数据、法规、引用——拿去搜索引擎或官方渠道验证一遍。
4. 拆细问题、逐步确认 大问题容易飘；拆成小问题，每一步都对一下，再继续。

记住：流畅 ≠ 正确。越像真的，越要警惕。

6.4 其他常见安全陷阱

• 隐私泄露：别把身份证号、密码、公司内部机密直接贴进对话。
• 盲目照做：AI 给的代码、命令、建议，先理解再执行，尤其是涉及删除、付费、联网的操作。
• 被「带节奏」：它很会迎合你。你 preconceived（先入为主）地问，它可能顺着你说，未必客观。
• 版权与合规：商用 AI 生成内容，注意平台条款与当地法规。

6.5 一个安全用 AI 的小清单

• ☑ 敏感信息不上传
• ☑ 关键事实自己查
• ☑ 高代价决定不盲从
• ☑ 拿不准就多问几个角度交叉验证

6.6 衔接

你已经从「什么是 AI」走到了「安全使用 AI」。最后一章，我们动手练一练，并给你指出继续深入的下一站。

✅ 自测：如果你让 AI 写一段「公司财报分析」发到群里，至少要加哪两道防护？