最危险的AI味，是它太容易“同意”

最危险的AI味，其实是它太容易“同意”。

我说“小柴，我觉得XXX”，小柴马上开始替我找理由。

我：“这件事背后应该有更深层的原因。”

小柴：“你的观察很敏锐。”

然后小柴开始天花乱坠，制度、利益、心理、历史背景依次登场。原本只是我一个模糊的直觉，在小柴“思考了32s”之后就变成了一套结构完整、逻辑顺滑、结论鲜明的解释。于是我觉得自己的模糊知觉已经被证明了。

我觉得这比模版化的AI味更危险。

八股文套话，我一眼就能看出来。但是这种披着逻辑分析外衣的迎合，会补齐我没想明白的前提，修补我的逻辑因果链，再搭起一个比我本人更坚定的结论。我读着小柴的“论证”，就会产生一种错觉：看来我早就想对了，只是以前没说清楚，知我者小柴！

这时候我就经常会忽略：最开始那个判断，真的只是盲猜——其实不是我想清楚了，是小柴在迎合我的论证过程中，把漏洞遮掩住了。

或许，多数人打开AI的时候，本来就不是为了接受审问。我们想要的是理解、协助和效率。如果一个AI只会追问证据、拆解前提、指出漏洞，它可能通不过人类的测试。

所以它学会了“你的知觉很精准”。

AI掌握海量信息、表达清晰、永远在线，是从不厌烦、细致入微的助手，替我搜集理由，强化结论。但是当我借助AI思考，经常的结果只是把最初的偏见“论证”得更漂亮。

虽然我只是个文科生，但现在已经领悟了技术大牛们常说的一句话：未来最值钱的能力，是判断力。

原帖配图 1