Part1:我所说的“理性”是什么意思?
Part1:我所说的“理性”是什么意思?
理性包括使用概率论和决策理论来处理证据和修正信念,强调思考的艺术性和应对现实世界复杂性的必要性。定义理性时应避免词义争议,关注有效的思维模式和具体的表达方式。
作者
Eliezer Yudkowsky
作者
Eliezer Yudkowsky
出版时间
2025年6月13日
原文链接
https://archive.nytimes.com/opinionator.blogs.nytimes.com/2014/06/13/no-clocking-out/
Jun 3, 2025
实验心理学家会使用这两个黄金标准:概率论和决策理论。
概率论是我们进行理性思考的黄金规则。不论是确定书架的具体位置、计算地球核心的温度,还是估算凯撒大帝头上的头发数量,概率论都以公平且不偏不倚的方式处理这些问题。
它们本质上都是同一个问题:如何处理证据和观察,以此来修正(或“更新”)我们的个人信念。同样地,决策理论是指导理性行动的法则,无论我们的目标是什么,可选择的行动方案如何,它的适用性都是一样的。
用“P(某事件)”来表示“某某事件发生的概率”,而P(A, B)则用来表示“A事件和B事件同时发生的概率”。根据概率论的基本原理,我们得知 P(A) ≥ P(A, B)。
因此,认为P(比尔演奏爵士乐)的概率小于P(比尔演奏爵士乐, 比尔是会计师)的概率,这种判断是错误的。
为了保持讨论的技术性,我们可以将这种概率判断称为非贝叶斯的。在数学上,那些符合明确定义原则的信念和行为,被称为“贝叶斯”(Bayesian)的。
(译者注:贝叶斯理论(Bayesian)是一种统计学方法,用于在给定证据的情况下估计一个事件的概率。该理论依赖于对先验知识和新证据的结合,以更新对某一假设概率的认识。)
现代理性的概念并非仅限于文字推理。就像我之前提到的,你睁开眼睛,环顾四周,然后在脑海中构建一个房间的模型,这个房间里靠墙放着一个书架。这种理性概念足够广泛,它包括了你的眼睛和大脑的视觉区域,作为映射世界的工具。
同样,它也涵盖了你那无需言语的直觉。数学并不在乎我们是否用同一个英文词汇“理性”来指代斯波克或贝叶斯主义。数学模型关注的是实现目标或是描绘世界的有效方法,而不是这些方法是否符合我们对“理性”应有的预设概念和固有成见。
这样的解释并没有彻底澄清实际应用中“理性”所承载的意义,究其原因,主要有两点:
首先得说,对于现实世界中的大多数问题,想要完整应用贝叶斯理论在计算上几乎是不可能的。没人能做到精确无误地完成所有的数学运算,这就像你不可能通过计算夸克的活动来准确预测股市的走势一样。
要想在现实世界中发现真理并创造价值,光靠遵循数学公式是远远不够的,这需要更深层次的思考和更高超的技巧。
探寻真理和创造价值的过程,实际上是一门艺术,它要求我们认识到自身的局限,克服偏见,避免自我欺骗,保持情绪稳定,以便直面真相并采取必要行动,如此等等。
其次,有时连数学的应用本身也会遭到质疑。拿概率论和决策理论来说,这些数学工具旨在帮助我们理解世界和做出选择。但在某些场合下,人们会对这些工具是否真的适用产生疑问。
在概率论中,有一些问题涉及到观察者数量不确定的情况,这使得概率的计算变得格外复杂。
而在决策理论中,问题则涉及到其他智能体能够预测你的决策,这也引发了对决策理论的质疑。在这种情况下,试图通过重新定义“理性”一词来解决问题是不起作用的。因为这样做最终只会引出另一个问题:为什么别人必须接受这一新的定义呢?
我之所以对概率论不感兴趣,并不是因为它被视为来自拉普拉斯传下的神圣真理。相反,我对贝叶斯式的信念更新——也就是采用奥卡姆剃刀原则——感到着迷,是因为我相信这种思考方式能帮我们更系统、更具有“准确性”,即能更好地反映出世界实际情况的地图。
然后,还有一些思考方式的问题,似乎既不属于概率论也不属于决策论的范畴——比如,一旦你掌握了真相,应该怎样看待这个真相。在这里,再次尝试以特定的方式定义“理性”,并不能提供答案,反而只是预设了一个答案。
我在这儿,不是来跟你争论什么词语的意思,哪怕这个词是“理性”。我们用字母串连起来的意义,形成词汇,其实质是为了促进人与人之间的沟通,目的在于把一个人脑海中的想法,传达给另一个人。通过控制某个词与某个概念之间的联系,你既不能改变现实,也无法证明某个想法的正确与否。
因此,如果你能理解我通常所指的“理性”及其下属概念“认识理性”和“工具理性”的含义,那么我们的沟通就算是成功了:我们已经围绕如何定义“理性”进行了讨论,这正是我们需要探讨的全部内容。
剩下来讨论不是去纠结于“ra-tio-na-li-ty”(理性)这几个音节应该承载什么具体含义,而是要讨论什么样的思考方式才算是好的。
如果你说:“我相信X是(认识上的)理性的,但实际上 Y 是”,这样的话,你对“理性”这个词的使用可能与我所理解的含义不同。(比如,我认为“理性”应当在反思时保持一致——无论是“理性地”审视证据,还是“理性地”思考你如何处理这些证据,都不应该得出截然不同的结论。)
同样,如果你发现自己在说:“对我来说,从工具理性的角度,X是理性的选择,但我认为正确的做法是Y”,那么几乎可以肯定,你对“理性”或“正确”这两个词的理解与我不同。我使用“理性”一词时,旨在从规范性的角度挑选出理想的思维模式。
在这种情况下,或者在任何人们对词义存在分歧的情况下,你应该用更具体的语言来替代“理性”,比如说:“自私的做法是逃跑,但我希望你至少能尝试一下把孩子从铁轨上救下来”,或者说“按照因果决策理论的常规表述,面对纽康问题时,你应该选择两个盒子,但我更愿意选择100万美元。”这样做能更清楚地表达你的观点,避免了不必要的词义纷争。
(译者注:因果决策理论(Causal decision theory)是一种决策理论,它主张个体在做决策时应该基于其行为可能导致的后果来选择行动。换句话说,它强调考虑因果关系,即一个行动如何会影响结果,来做出最有利的选择。
纽康问题(Newcomb’s Problem)是一个著名的思想实验,用于探讨预测、自由意志和因果关系在决策中的作用。
问题的基本设定是这样的:有两个盒子,A和B。盒子A是透明的,里面有1000美元;盒子B是不透明的,里面可能有1百万美元,也可能什么都没有。一个超能力者已经预测了你会如何选择。如果预测你只选择盒子B,那么盒子B里就有1百万美元;如果预测你选择两个盒子,盒子B就为空。现在你需要做出选择:只选择盒子B,或者两个盒子都选择。
实际上,我建议你重读这篇文章,把所有“理性”一词替换成“foozal”(译者注:这个“foozal”是作者编造的词),看看这样是否改变了文章想要传达的含义。如果真的有所变化,那么我的建议就是:不要追求理性,而应该追求foozality(foozal性)。
“理性”这个词在很多场合下都能准确表达我的想法,特别是那些不那么极端的情形,而“非理性”也是如此。因此,在这些情况下,我不会对使用这些词感到忌讳。
然而,我们应该小心不要过度使用这个词。光是大声念叨,并不能为我们带来任何好处。如果你过于频繁地谈论“道”,你可能永远也达不到它。
实验心理学家会使用这两个黄金标准:概率论和决策理论。
概率论是我们进行理性思考的黄金规则。不论是确定书架的具体位置、计算地球核心的温度,还是估算凯撒大帝头上的头发数量,概率论都以公平且不偏不倚的方式处理这些问题。
它们本质上都是同一个问题:如何处理证据和观察,以此来修正(或“更新”)我们的个人信念。同样地,决策理论是指导理性行动的法则,无论我们的目标是什么,可选择的行动方案如何,它的适用性都是一样的。
用“P(某事件)”来表示“某某事件发生的概率”,而P(A, B)则用来表示“A事件和B事件同时发生的概率”。根据概率论的基本原理,我们得知 P(A) ≥ P(A, B)。
因此,认为P(比尔演奏爵士乐)的概率小于P(比尔演奏爵士乐, 比尔是会计师)的概率,这种判断是错误的。
为了保持讨论的技术性,我们可以将这种概率判断称为非贝叶斯的。在数学上,那些符合明确定义原则的信念和行为,被称为“贝叶斯”(Bayesian)的。
(译者注:贝叶斯理论(Bayesian)是一种统计学方法,用于在给定证据的情况下估计一个事件的概率。该理论依赖于对先验知识和新证据的结合,以更新对某一假设概率的认识。)
现代理性的概念并非仅限于文字推理。就像我之前提到的,你睁开眼睛,环顾四周,然后在脑海中构建一个房间的模型,这个房间里靠墙放着一个书架。这种理性概念足够广泛,它包括了你的眼睛和大脑的视觉区域,作为映射世界的工具。
同样,它也涵盖了你那无需言语的直觉。数学并不在乎我们是否用同一个英文词汇“理性”来指代斯波克或贝叶斯主义。数学模型关注的是实现目标或是描绘世界的有效方法,而不是这些方法是否符合我们对“理性”应有的预设概念和固有成见。
这样的解释并没有彻底澄清实际应用中“理性”所承载的意义,究其原因,主要有两点:
首先得说,对于现实世界中的大多数问题,想要完整应用贝叶斯理论在计算上几乎是不可能的。没人能做到精确无误地完成所有的数学运算,这就像你不可能通过计算夸克的活动来准确预测股市的走势一样。
要想在现实世界中发现真理并创造价值,光靠遵循数学公式是远远不够的,这需要更深层次的思考和更高超的技巧。
探寻真理和创造价值的过程,实际上是一门艺术,它要求我们认识到自身的局限,克服偏见,避免自我欺骗,保持情绪稳定,以便直面真相并采取必要行动,如此等等。
其次,有时连数学的应用本身也会遭到质疑。拿概率论和决策理论来说,这些数学工具旨在帮助我们理解世界和做出选择。但在某些场合下,人们会对这些工具是否真的适用产生疑问。
在概率论中,有一些问题涉及到观察者数量不确定的情况,这使得概率的计算变得格外复杂。
而在决策理论中,问题则涉及到其他智能体能够预测你的决策,这也引发了对决策理论的质疑。在这种情况下,试图通过重新定义“理性”一词来解决问题是不起作用的。因为这样做最终只会引出另一个问题:为什么别人必须接受这一新的定义呢?
我之所以对概率论不感兴趣,并不是因为它被视为来自拉普拉斯传下的神圣真理。相反,我对贝叶斯式的信念更新——也就是采用奥卡姆剃刀原则——感到着迷,是因为我相信这种思考方式能帮我们更系统、更具有“准确性”,即能更好地反映出世界实际情况的地图。
然后,还有一些思考方式的问题,似乎既不属于概率论也不属于决策论的范畴——比如,一旦你掌握了真相,应该怎样看待这个真相。在这里,再次尝试以特定的方式定义“理性”,并不能提供答案,反而只是预设了一个答案。
我在这儿,不是来跟你争论什么词语的意思,哪怕这个词是“理性”。我们用字母串连起来的意义,形成词汇,其实质是为了促进人与人之间的沟通,目的在于把一个人脑海中的想法,传达给另一个人。通过控制某个词与某个概念之间的联系,你既不能改变现实,也无法证明某个想法的正确与否。
因此,如果你能理解我通常所指的“理性”及其下属概念“认识理性”和“工具理性”的含义,那么我们的沟通就算是成功了:我们已经围绕如何定义“理性”进行了讨论,这正是我们需要探讨的全部内容。
剩下来讨论不是去纠结于“ra-tio-na-li-ty”(理性)这几个音节应该承载什么具体含义,而是要讨论什么样的思考方式才算是好的。
如果你说:“我相信X是(认识上的)理性的,但实际上 Y 是”,这样的话,你对“理性”这个词的使用可能与我所理解的含义不同。(比如,我认为“理性”应当在反思时保持一致——无论是“理性地”审视证据,还是“理性地”思考你如何处理这些证据,都不应该得出截然不同的结论。)
同样,如果你发现自己在说:“对我来说,从工具理性的角度,X是理性的选择,但我认为正确的做法是Y”,那么几乎可以肯定,你对“理性”或“正确”这两个词的理解与我不同。我使用“理性”一词时,旨在从规范性的角度挑选出理想的思维模式。
在这种情况下,或者在任何人们对词义存在分歧的情况下,你应该用更具体的语言来替代“理性”,比如说:“自私的做法是逃跑,但我希望你至少能尝试一下把孩子从铁轨上救下来”,或者说“按照因果决策理论的常规表述,面对纽康问题时,你应该选择两个盒子,但我更愿意选择100万美元。”这样做能更清楚地表达你的观点,避免了不必要的词义纷争。
(译者注:因果决策理论(Causal decision theory)是一种决策理论,它主张个体在做决策时应该基于其行为可能导致的后果来选择行动。换句话说,它强调考虑因果关系,即一个行动如何会影响结果,来做出最有利的选择。
纽康问题(Newcomb’s Problem)是一个著名的思想实验,用于探讨预测、自由意志和因果关系在决策中的作用。
问题的基本设定是这样的:有两个盒子,A和B。盒子A是透明的,里面有1000美元;盒子B是不透明的,里面可能有1百万美元,也可能什么都没有。一个超能力者已经预测了你会如何选择。如果预测你只选择盒子B,那么盒子B里就有1百万美元;如果预测你选择两个盒子,盒子B就为空。现在你需要做出选择:只选择盒子B,或者两个盒子都选择。
实际上,我建议你重读这篇文章,把所有“理性”一词替换成“foozal”(译者注:这个“foozal”是作者编造的词),看看这样是否改变了文章想要传达的含义。如果真的有所变化,那么我的建议就是:不要追求理性,而应该追求foozality(foozal性)。
“理性”这个词在很多场合下都能准确表达我的想法,特别是那些不那么极端的情形,而“非理性”也是如此。因此,在这些情况下,我不会对使用这些词感到忌讳。
然而,我们应该小心不要过度使用这个词。光是大声念叨,并不能为我们带来任何好处。如果你过于频繁地谈论“道”,你可能永远也达不到它。
