关于一次AI常识性知识翻车的反思

转载自 SegmentFault

前言：2025年7月，有人给我发来两张截屏，记录了一次典型的“AI翻车现场”。他咨询我，常识性的而且已有定论的问题，为什么AI会“胡说八道”？是中了病毒还是数据库问题？于是，我决定写这篇文章来解答。

首先这是一个非常好的问题，指出目前 AI 在处理一些常识问题时常见的“翻车点”。我自己也遇到过

• AI 输出的 github 地址是错误的
• AI 自己编造了一个不存在的功能
• AI 使用了过时的方案
• AI 收集到的号码是不对的
• AI 计算的时候会出现诡异的变化

为什么？

为什么会出现这类错误？原因并不是病毒或数据库问题，而是以下几点：

1. AI模型本身不是数据库，而是“语言模型”

目前用的基本都是 LLM。AI 并不是查字典或数据库的工具，它是通过大量数据 “学会怎么说话”。 这意味着： 它生成的答案是预测下一个词最可能是什么，而不是从一个权威资料库中查出的“唯一正确答案”。 对于日期、历法、节气这类需要严谨规则推算的知识，一旦没有调用权威算法或历书数据（这一类有可能需要一些人为的标注打分，越小众意味着偏差有可能越大），很容易“看起来合理其实错误”。

2. 数据中存在大量不一致或错误样本（数据训练存在“噪音”）

AI是通过互联网上的海量数据训练出来的。比如某些年有人写“2023年中伏10天”，另一些人说“是20天”，模型就可能“误学”。 它不能自动判断“哪一方更权威”，在没有实时查表的情况下，就可能“胡说八道”。

3. 推理步骤缺失（语言模型难以处理“规则性计算”）

干支纪日、中伏推演其实是个复杂的日历逻辑，需要严密的历法计算。 如果AI没有真正调用如万年历或农历算法，而是仅凭“语言经验”判断，就会出错。

比如说我 AI 上网查了，十年都是 20 天，只有一年是 10 天，那么我 AI 我就赌你问的那一年大概率还是 20 天（🐶）

旧模型不联网、不查表

如一些早期模型不具备联网能力，也不会像人那样打开万年历推演。 所以这类问题经常在没有最新日历支持的环境下答错。

那该怎么办？

• 最稳妥的方式，是让 AI 调用权威历法算法或直接引用权威机构数据（如中国气象局、天文年历）。
• 增加一些提示词，限定范围，给 AI 更多的上文
• “人”才是第一责任人，人的责任心是 AI 无法替代的

用户必须保持审慎思维与批判能力 AI不是全知的“智慧体”，而是一种工具，使用者的判断力、校对意识、常识储备仍不可或缺

结论 & 随谈

AI 值得用，但更值得反思，“人”才是第一责任人。

这次“中伏天数出错事件”，看似小事，却是一次有价值的提醒：我们不能将“会说话的AI”误认为“无所不知的超人”。

它是强大的语言生成工具，但不是绝对权威的知识引擎。特别是在涉及历法、医学、法律等高度专业化领域时，仍需要人类的校验与智慧参与。

我们目前也在大量的使用 Cursor 辅助开发工作，我们老板挂在嘴边的话就是 AI 不可信，你才是可信的，你必须校对 AI 的产出

一些佐证资料

AI 思考、资源查询、可信网站

可以看到，在 AI 查询的时候，会对一些网站标注为可信

原文：SegmentFault