跳到正文

知识库 / 西方

科学哲学

面对一个预测时的批判性思维:应提出的五个问题和最常见的论证错误

面对一个预测时的批判性思维:应提出的五个问题和最常见的论证错误

TL;DR: 面对一个预测,先把它拆成三部分:主张、理由和证据,然后问五个问题:谁在说、具体说了什么、依据是什么、有没有反例、这些证据是否真的支撑结论。最常见的错误包括确认偏误、沉没成本谬误、禀赋效应和连胜错觉,连 AI 模型也可能因为从人类数据中学习而重犯这些错误。

为什么需要一套流程,而不是只靠直觉?

直觉在熟悉的环境中运作良好,但遇到新信息、模糊数据或表达流畅的预测时就会变弱。一套更慢的流程能帮我们把对错的感觉与论证的真实结构分开。在批判性思维中,最小的单位不是意见,而是论证,它包含三个部分:主张、理由和证据。看清这三部分,我们才有地方提出问题。

面对一个预测应提出的五个问题是什么?

问题一:是谁在说,他有什么利益?

来源不决定真理,但决定我们需要多谨慎。一个来自该领域专家、有公开数据且没有明显利益冲突的预测,比一个来自无法核实来源的预测更可信。这个问题不是为了否定,而是为了分配注意力。

问题二:主张具体是什么?

很多争论之所以混乱,只是因为双方在谈论两个不同的主张。把主张写成一句可以检验的话:谁、做什么、在什么条件下、达到什么程度。「总是」「一定」「所有人」这类词往往掩盖了统计趋势与绝对规律之间的差别。

问题三:理由和证据在哪里?

理由是证据与结论之间的桥梁。证据是可以核对的数据、观察、实验或文本。只有结论而没有桥梁的预测还不算论证。有桥梁但桥梁不牢的预测也不够。

问题四:有没有反例或其他解释?

这是最强的问题。如果能找到条件相同但结果相反的案例,普遍性主张就被推翻。如果有其他解释同样符合数据,我们就不能只因为第一个解释更让人舒服就选它。

问题五:这些证据是否真的支撑结论?

缺少分母时,一个百分比可能被误读。一个个人故事在情感上可能很有说服力,但不能代表整体。这个问题迫使我们从数据到结论的整条路径重新检查一遍。

五个问题的速查表

问题目标需要停下来核对的信号
是谁在说?评估来源和利益匿名来源,无法核实
主张具体是什么?弄清范围和程度大量绝对化词语,条件不明
理由和证据在哪里?把结论与数据分开只有结论,没有桥梁
有没有反例?检验普遍性忽略相反案例
证据是否支撑结论?检查逻辑路径从相关直接跳到因果

最常见的论证错误是什么?

什么是确认偏误?

我们倾向于寻找、记住并相信与自己已有想法一致的信息,同时忽略相反的信息。这是根本性的错误,因为它会破坏其余四个问题。实用的应对方法是:在得出结论前主动寻找反面证据。

什么是沉没成本谬误?

我们仅仅因为已经投入了时间、金钱或精力就继续某个选择,即使新数据表明应该停止。已经付出的成本是无法收回的成本,所以它不是继续下去的正当理由。

什么是禀赋效应?

我们高估自己已经拥有的东西,高于自己尚未拥有的东西,即使两者等价。这让改变主意变得比必要的更困难。

什么是连胜错觉?

我们相信一个随机事件会按连胜延续,例如相信一个正在「状态好」的人会继续成功。对于独立事件,这种信念没有概率依据。

什么是忽略基础比率?

我们评估一个具体案例时,忘了该现象在整体中的基础比率。这是读检测结果、新闻或预报时常犯的错误。

什么是稻草人谬误和你也一样谬误?

稻草人谬误是攻击对方论证被扭曲后的版本。你也一样谬误是用指出对方也曾犯错来回应,而不是回答内容本身。

各流派在哪里不一致?

没有一份被所有流派一致认同的论证错误清单。一些资料把确认偏误归入认知错误,另一些归入论证错误。一些把连胜错觉并入概率偏误,另一些视其为推理错误。本文采用批判性思维入门教材中的常见惯例:把认知错误与论证错误分开,但承认它们常常一起出现。

AI 能避开这些错误吗?

不能完全避开。一项发表在 Manufacturing & Service Operations Management 期刊上的研究,用 18 个常见认知偏误测试了 GPT-3.5 和 GPT-4。结果显示,在近一半情境中,ChatGPT 面对带有情感色彩的选择时表现得像人类。GPT-4 在逻辑题上更出色,但表现出更明显的确认偏误,也更容易陷入连胜错觉。相反,AI 能避开一些错误,如忽略基础比率和沉没成本谬误。原因在于训练数据以及根据人类反馈进行的微调机制。因此,把 AI 用在有明确流程的任务上,仍比用在战略判断或情感判断上更安全。

本文内容17 节

这些对你有用吗?

分享:

常见问题

面对一个预测时的批判性思维,与单纯的怀疑有什么不同?

怀疑只停留在不相信。批判性思维要求把预测拆成主张、理由和证据,然后用具体问题逐一检查。目标不是否定一切,而是确定这个预测在多大程度上可信、依据是什么。

为什么像 ChatGPT 这样的 AI 模型仍会犯与人类相似的论证错误?

对 GPT-3.5 和 GPT-4 的研究显示,原因在于训练数据中含有大量人类的错误行为和思维,以及根据用户反馈进行微调的机制。模型被奖励的是看起来合理的回答,而不一定是准确的回答,因此人类的偏误可能被重现。

沉没成本谬误是继续一个决定的正当理由吗?

不是。已经付出的成本是无法收回的成本,所以它不是当前决定正确的证据。接下来的决定应基于从现在起的成本和收益,而不是基于已经失去的东西。

接着读

科学视角下的玄学 · 各体系的历史与划界问题

相关文章

参考来源

  1. Báo Nhân Dân
  2. Tuổi Trẻ Online
  3. Massimo Pigliucci (không rõ năm). Pseudoscience and the Demarcation Problem. Internet Encyclopedia of Philosophy
  4. Raymond S. Nickerson (1998). Confirmation Bias: A Ubiquitous Phenomenon in Many Guises. Review of General Psychology 2(2): 175-220
#批判性思维#论证错误#科学哲学#认知偏误#AI与论证