跳转至

第 5 章:AI 结果核验 — 会说话的实习生也会犯错

📋 本章概览

项目 内容
学习时长 8 分钟
核心概念 生成、引用、幻觉、版本、复现、隐私
核心比喻 会说话的实习生
实践任务 核查一段 AI 回答中的 5 个事实

AI 适合帮你拆问题、提供关键词和解释概念,但流畅表达不等于真实。看到具体版本、数字、发布日期和链接时,必须打开来源核对。

AI 更像会说话的研究助理

AI 可以帮你把一个模糊主题拆成关键词、列出可能的方向、解释术语或比较不同方案,但它的表达流畅不代表每个细节都经过验证。它可能把旧版本和新版本混在一起,也可能生成一个看似合理但并不存在的链接。因此,最安全的分工是让 AI 负责提出线索,让官方文档、原始数据和可复现实验负责决定结论。

核验时不要只问“你确定吗”。把回答拆成日期、数字、版本、命令和引用五类事实,逐条回到来源检查。这样即使最后发现一处错误,也能定位错误属于事实、推理还是适用范围,而不是把整段回答全盘接受或全盘否定。

5.1 先保护输入内容

不要把密码、API Key、身份证件、未公开作业、他人隐私和完整内部日志直接粘贴到不明确的 AI 服务中。先替换成 [邮箱][文件名]YOUR_API_KEY 等占位符。

5.2 让 AI 做线索工作

可以让 AI 帮你把问题拆成关键词、列出可能概念、解释一段你已经确认的文档,或生成核查清单。不要让它直接替代官方文档、老师、医生、律师或财务顾问。

5.3 逐条检查回答

  1. 复制回答到临时文档。
  2. 圈出所有具体事实:日期、版本、数字、名称、命令和链接。
  3. 每条事实寻找官方或原始来源。
  4. 记录“正确、过时、部分正确、无法确认”。
  5. 运行命令前先看作用、路径、权限和是否会删除数据。

5.4 检查引用

要求 AI 给出来源不等于来源真实存在,也不等于来源支持结论。打开链接,确认标题、日期和原文;如果链接打不开或内容不支持,就把结论标记为待核实。

✅ 验证步骤

让 AI 回答一个普通技术问题,标出其中至少 5 个可验证事实;逐条寻找来源,并记录正确、过时或无法确认的结果。不要使用账号、密钥或个人文件作为输入。

❌ 常见情况

现象 处理方法
AI 给出不存在的链接 搜索标题和官方域名,不要引用该链接
命令看起来很专业 先逐项理解作用,在隔离目录测试
回答没有日期 查官方更新日志,补上时间范围
AI 很肯定但没有证据 降低结论强度,标为未确认

📝 本章总结

  • AI 可以提高搜索起点,但不能替你完成核验。
  • 具体事实必须回到来源,具体命令必须先看风险。
  • 隐私保护从你输入的第一行文字开始。

✏️ 课后练习

要求 AI 给出来源,再随机打开其中两个链接,确认链接真的支持对应结论;把检查结果写进资料卡。

🔮 下一章预告

最后把检索过程写成别人能复核的结论。