AI 回答问题时，它究竟在做什么？

你在 AI 聊天框里敲一个问题，三秒钟后那儿就躺着一整段话。刚才到底发生了什么？大多数人以为它搜了网、从某个巨大的数据库里捞了答案，或者查了某处存好的知识。全都不对。

真实发生的事更怪一点。AI 一次一个词地预测接下来该出现什么文字，靠的是它从一大堆文字里吸收来的规律。就这些。说实话，这比大家想象的那个版本有意思多了。

AI 给你写回复的时候，不是从架子上取下一个存好的答案。它在算：在前面这一切之后，哪个词最可能出现。然后再算一次，再算一次，一直到答案写完。

所以它才回得这么快。它不是坐在那儿像你一样推理你的问题，而是在飞快地跑一个模式计算，一遍又一遍。

1. 1

   它读了荒谬多的文字

   文章、书、网站、代码，全都读。这给了它数十亿个「人类实际上怎么用语言」的例子。

2. 2

   它找到了规律

   不是谁敲进去的规则，而是统计规律：在这串词之后，这些词往往会跟着出现。这些规律缠得太紧，一句话讲不清，但它们只是规律而已。

3. 3

   人给它打了分

   真人评估哪些回复更有用、更准确、更合适。模型根据这些反馈往那个方向偏。

4. 4

   现在它回答你

   你问一句，它用那一大堆规律生成一段长得像「有用答案」的文字，参照的就是它训练时见过的那些有用答案。

问题就在这儿。AI 生成的是统计上很可能的文字，不是被核实过的文字。所以它可以给你一段自信、漂亮、彻头彻尾错误的东西。大家管这个叫幻觉：AI 用讲真话的那种语气，说了一件不是真的事。

• 它不知道自己不知道什么
• 它会把不同场合里相似的名字、日期或事件搅在一起
• 它产出的是听着合理的东西，不是被验证过的东西
• 它没法说到一半跑去查一下自己

知道边界在哪，你才能把它用好，而不是要么全信要么完全不碰。

• 把同一个概念换五种说法，直到有一种终于让你懂了
• 几秒钟内吐出提纲、草稿和例子
• 总结它训练时覆盖得很充分的话题
• 在你卡住需要选项的时候陪你头脑风暴
• 帮你改写和润色你已经写好的东西
• 写出你之后要亲自跑一遍、测一遍的代码

当答案必须是确凿正确的时候，比如一个具体事实、一个医疗问题、任何跟法律有关的东西，就去用真实来源核对。每一次都要。

下次 AI 给你答案，接着追一句：「你是怎么知道的？」或者「我去哪儿能核实这个？」回来的内容会告诉你很多。

“我问了一位科学家的事，它把发现日期说错了三十年。如果我们没有去查，我就会相信了。现在我会去查了。”

孩子反正都会在这些工具里长大。大致知道它们在做什么、又绝对做不到什么，会改变他们读每一条答案的方式。

• 把 AI 更多用在头脑风暴和起草上，少用在钉死某个具体事实上
• 任何重要的东西，都拿第二个来源对一遍
• 它听起来太笃定的时候要起疑，然后追问一句
• 记住它不是总在错。它只是也不总在对

想先补一下 AI 怎么从数据里学习、都有哪些类型？从我们早先那篇开始：什么是 AI？向孩子解释人工智能。