AI 有时为什么会出错？

AI 能很快回答问题。你可以让它解释恐龙、写故事、帮助编程或建议科学项目。有时答案很有用，有时听起来很自信，有时就是错的。

这可能令人困惑。如果 AI 这么先进，为什么还会犯错？答案是 AI 并不像人类那样真正了解事物，它根据规律做出预测，大多数时候这些规律会给出有用的答案，但有时会导致错误。

AI 可能猜错

当你问 AI 一个问题时，它会尝试创建一个符合你要求的答案。它查看从大量例子中学到的规律，预测接下来应该出现什么词。这意味着 AI 通常在做一个非常有根据的猜测。

例如，如果你问"世界上最高的山是什么"，AI 很可能会说珠穆朗玛峰，因为这是有大量例子支持的常识。但如果你问非常具体的问题，AI 可能不知道。如果它仍然尝试回答，可能会编造一些东西。这就是 AI 出错的原因之一：即使应该说"我不确定"，它也可能给出答案。

什么是幻觉？

当 AI 编造信息并将其呈现为真实时，人们通常称之为"幻觉"。这不是说 AI 像人一样看到了什么，而是指 AI 创造了一个听起来真实但实际上不正确的答案。

例如，AI 可能编造：

• 一个假书名
• 一个错误的日期
• 一句捏造的引言
• 一个听起来可信但是错误的科学事实
• 一个不存在的来源

错误的数据会导致错误的答案

AI 从数据中学习。数据意味着例子、文本、图像、数字和信息。但不是所有数据都是好的。网络上的一些信息是过时的，有些是有偏见的，有些是不完整的，有些就是错的。如果 AI 从混乱的信息中学习规律，有时会重复那些错误。

想象从一本笔记本学习，其中有些页面是正确的，有些页面有错误答案。如果你不加核实地从那本笔记本学习，你可能会不小心学到错误的东西。AI 面临类似的问题，它能从有用的信息中学习，但也可能吸收错误、偏见、过时事实或令人困惑的例子。

AI 并不总是理解问题

有时 AI 出错是因为问题不够清晰。想象有人问你"它有多大"，你可能会反问"什么有多大？"AI 可能会猜测"它"指的是什么。如果猜错了，整个答案都可能是错的。

这就是为什么提示很重要。提示就是你输入或说给 AI 的内容。清晰的提示通常能得到更好的答案。不要问"告诉我关于能源的事"，而是问"用4年级学生能懂的方式解释可再生能源和不可再生能源的区别"。这给了 AI 更多方向。

AI 可能混淆相似的事物

AI 擅长模式，但有时会混淆看起来或听起来相似的事物。它可能混淆名字相似的两个历史人物、混淆电影名和书名，或用听起来正确但不太准确的词解释科学概念。

这是因为 AI 没有像你那样直接观察世界的真实经验。一些 AI 系统也不会自动了解最新信息。对于近期的发现、规定或事件，请务必查阅可信的最新来源。

怎么核实 AI 的答案？

你可以问：这条信息从哪里来的？我能在可信网站上找到相同答案吗？这与老师说的相符吗？这真的说得通吗？

试试三重检查规则：它说得通吗？另一个可信来源能确认吗？老师、家长或专家会同意吗？如果答案有一条不通过，慢下来再想想。

核心思想

AI 出错是因为它在预测和猜测，从不完美的数据中学习，误解不清晰的问题，混淆相似的想法，有时缺乏最新信息。这不意味着 AI 没用，只是意味着我们需要明智地使用它。