AI 回答问题时，它究竟在做什么？

当你在 AI 聊天工具里输入一个问题，几秒钟后它就给出回答，中间究竟发生了什么？很多人以为 AI 搜索了互联网，或者从数据库里检索了答案，或者查阅了某种储存的知识。这些都不太对。

更准确的答案是：AI 根据它训练时接触过的大量数据中的规律，一次一个词地预测接下来应该出现什么文字。这个答案比大多数人预期的更奇特，也更有趣。

它更像自动补全，而不是搜索引擎

当 AI 生成回复时，它不是在检索一个储存好的答案。它在计算哪个词最有可能跟在前面所有内容之后出现，然后一遍又一遍地重复这个过程，直到回复完成。

这就是为什么 AI 能这么快生成回复。它不是像你那样思考问题，而是在运行一个非常快速的模式匹配计算。

AI 是如何学会该说什么的

1. 1

   用文本训练

   语言模型在大量书面文本上训练，包括文章、书籍、网站、代码等，接触了数十亿个语言使用的例子。

2. 2

   学习规律

   模型学习统计规律：在这组词之后，这些词往往会跟着出现。这些规律过于复杂，难以简单描述，但它们是规律，不是某个人写的规则。

3. 3

   获得反馈

   然后模型接受人类评估者的评分，他们评估哪些回复更有帮助、更准确、更恰当。模型根据反馈进行调整。

4. 4

   生成回复

   当你提问时，模型使用这些规律生成一个回复，让它看起来像训练中见过的有帮助的答案。

为什么它可以听起来对但实际上是错的

因为 AI 生成的是统计上可能的文本，而不是经过核实的事实，它可能产生听起来自信权威但实际上有误的回复。这有时被称为"幻觉"——AI 以听起来像真的方式陈述了不真实的内容。

• AI 不知道自己不知道什么
• 它可能混淆不同语境中相似的名字、日期或事件
• 它生成的是听起来合理的内容，而不是经过核实的内容
• 它无法实时查询来检验自己的答案

AI 真正擅长什么

了解局限性能帮助你有效地使用 AI，而不是过度信任或完全回避它。

• 用多种方式解释概念，直到找到一种你能理解的
• 快速生成提纲、草稿和例子
• 总结在训练数据中有充分覆盖的想法
• 头脑风暴选项和替代方案
• 帮助编辑和改写
• 写出你自己再测试的代码

对于需要可证明正确的任务——比如某个具体事实、医疗问题或法律决定——要用可靠来源核实 AI 的回复。

一个好习惯：让它解释自己

使用 AI 时，在它给出答案后，试着问："你怎么知道这个？"或者"我去哪里核实这个？"你得到的回复往往很有启发性。

“我问了一位科学家的事，它把发现日期说错了三十年。如果我们没有去查，我就会相信了。现在我会去查了。”

这对孩子和家长意味着什么

在使用 AI 工具的环境中长大的孩子，能从基本了解这些系统做什么、不做什么中受益。这种了解会塑造他们阅读 AI 输出的方式。

• 用 AI 头脑风暴和起草，而不是查找具体事实
• 用第二个来源交叉核实重要答案
• 注意 AI 听起来过于自信的时候，提追问
• 明白 AI 不总是错的，但也不总是对的

关于 AI 如何从数据中学习以及不同类型的 AI 工具，请参阅我们早先的指南：什么是 AI？向孩子解释人工智能。