第 5 章:AI 结果核验 — 会说话的实习生也会犯错¶
📋 本章概览¶
| 项目 | 内容 |
|---|---|
| 学习时长 | 8 分钟 |
| 核心概念 | 生成、引用、幻觉、版本、复现、隐私 |
| 核心比喻 | 会说话的实习生 |
| 实践任务 | 核查一段 AI 回答中的 5 个事实 |
AI 适合帮你拆问题、提供关键词和解释概念,但流畅表达不等于真实。看到具体版本、数字、发布日期和链接时,必须打开来源核对。
AI 更像会说话的研究助理¶
AI 可以帮你把一个模糊主题拆成关键词、列出可能的方向、解释术语或比较不同方案,但它的表达流畅不代表每个细节都经过验证。它可能把旧版本和新版本混在一起,也可能生成一个看似合理但并不存在的链接。因此,最安全的分工是让 AI 负责提出线索,让官方文档、原始数据和可复现实验负责决定结论。
核验时不要只问“你确定吗”。把回答拆成日期、数字、版本、命令和引用五类事实,逐条回到来源检查。这样即使最后发现一处错误,也能定位错误属于事实、推理还是适用范围,而不是把整段回答全盘接受或全盘否定。
5.1 先保护输入内容¶
不要把密码、API Key、身份证件、未公开作业、他人隐私和完整内部日志直接粘贴到不明确的 AI 服务中。先替换成 [邮箱]、[文件名] 和 YOUR_API_KEY 等占位符。
5.2 让 AI 做线索工作¶
可以让 AI 帮你把问题拆成关键词、列出可能概念、解释一段你已经确认的文档,或生成核查清单。不要让它直接替代官方文档、老师、医生、律师或财务顾问。
5.3 逐条检查回答¶
- 复制回答到临时文档。
- 圈出所有具体事实:日期、版本、数字、名称、命令和链接。
- 每条事实寻找官方或原始来源。
- 记录“正确、过时、部分正确、无法确认”。
- 运行命令前先看作用、路径、权限和是否会删除数据。
5.4 检查引用¶
要求 AI 给出来源不等于来源真实存在,也不等于来源支持结论。打开链接,确认标题、日期和原文;如果链接打不开或内容不支持,就把结论标记为待核实。
✅ 验证步骤¶
让 AI 回答一个普通技术问题,标出其中至少 5 个可验证事实;逐条寻找来源,并记录正确、过时或无法确认的结果。不要使用账号、密钥或个人文件作为输入。
❌ 常见情况¶
| 现象 | 处理方法 |
|---|---|
| AI 给出不存在的链接 | 搜索标题和官方域名,不要引用该链接 |
| 命令看起来很专业 | 先逐项理解作用,在隔离目录测试 |
| 回答没有日期 | 查官方更新日志,补上时间范围 |
| AI 很肯定但没有证据 | 降低结论强度,标为未确认 |
📝 本章总结¶
- AI 可以提高搜索起点,但不能替你完成核验。
- 具体事实必须回到来源,具体命令必须先看风险。
- 隐私保护从你输入的第一行文字开始。
✏️ 课后练习¶
要求 AI 给出来源,再随机打开其中两个链接,确认链接真的支持对应结论;把检查结果写进资料卡。
🔮 下一章预告¶
最后把检索过程写成别人能复核的结论。