单元 1：什么是风险？
快速存取：导言 | 第 1 节 什么是风险？ | 第 2 节 全球灾难性风险 | 第 3 节 降低全球灾难性风险 | 结论与参考文献 | 自我测试
指导老师： Jesse Hill 博士、Adam Gibbons 教授
导言
学习成果：
- 更好地理解什么是风险。
- 更好地理解风险事件在某种意义上是一种偶然事件，以及我们可以从不同角度来理解风险的偶然性条件。
- 更好地理解为什么风险事件具有重要意义。
- 更好地理解全球灾难性风险。
- 更好地理解如何减轻全球灾难性风险。
第 1 节 什么是风险？
有些事件，比如把赌注压在一匹冷门马，或者开发一种先进的人工智能，似乎都有风险。另一些事件看似几乎没有风险（例如，玩一次角子老虎机或沏一壶茶）。但是，是什么将风险事件与非风险事件区分开来的呢？我们应该如何看待风险呢？
首先，风险是面向未来的。把已成过去的事件（即已经发生的事件）描述为涉及风险是没有意义的。需要说明的是，这些事件在当时可能是有风险的。我在获胜机率为35：1的轮盘赌下注时确实存在风险，但结果已经不再是风险问题了。相反，「我在轮盘赌中输了」是这个世界的事实。这样的事件可能仍然很重要，但它并不是一个风险问题。然而，下不下这样的赌注却是一个风险问题。
风险是面向未来的，这意味着风险的本质有几个方面。首先，风险包含一定的偶然性。我们之所以不把已经发生的事件视为风险，是因为它们不再是偶然事件。同样，如果一个未来事件肯定会发生，那么说这个事件是一个风险问题就很奇怪了。换一种说法，如果我们知道某个事件将会发生，那么说该事件有可能不会发生就是错误的。假设你知道附近的一座火山将在下周的某个时刻爆发，而且这座火山确定无疑会在下周的某个时刻爆发。下周火山爆发可能具有重大意义，但至少对你来说，这不再是一个风险问题，尽管它是在周四还是周五爆发可能是。
然而，这就提出了一个问题：什么意义上的偶然性与风险相关？文献对于何谓偶然事件有许多不同的解释。在第 1 节主题 1 中，我们将从三种角度来看待风险的偶然性条件，即低概率事件、缺乏控制和模态脆弱性。我们将逐一讨论这些观点的内涵、采取这些偶然性解释的利弊，以及一些供读者思考的问题。
风险评估涉及我们对一个未来事件的判断，而这个事件的发生在某种意义上是偶然的。但这个定义并不完整。这是因为我们不会判断非重大事件为具有风险。风险意味着对一个主体来说是利害攸关的。要使一个事件具有风险性，该事件必须在某种程度上对主体有利或不利。在第 1 节主题 2 中，我们将探讨三个论点，解释为什么风险事件需要具备重要性这一条件。我们也会分析对于一个事件对主体而言具有重要性的不同观念。最后，我们将深入探讨风险的重要性条件是否应该设置一个门槛，以免微不足道的事件（比如，百万富翁之间的一分钱赌注）也被认为是有风险的。
第 2 部分 基于控制和基于模态的解释
文献中有两种非概率的风险思维方式，即从缺乏控制或模态脆弱性的角度来思考风险。例如，布朗卡诺-贝罗卡尔（Broncano-Berrocal）（2015 年）讨论了两种风险：事件相关风险和代理人相关风险。只有一个重大事件在模态上足够脆弱，它在事件相关的意义上才是有风险的。一个事件（下称E）具有足够的模态脆弱性，是当且仅当E在现实世界中发生，但在足够多的邻近可能世界中没有发生。例如，买彩票就涉及风险，因为即使在现实世界中你的彩票中了大奖，在众多邻近的可能世界中你会发现自己买了彩票但未中奖。调动数个彩球的位置只是一个小小的变动，却足以使彩票结果发生变化。
与之相对的是，一个重要事件 E 只有在代理对之缺乏控制的情况下，在代理相对意义上才是有风险的：代理（下称S）「缺乏对 E 的控制，当且仅当 S 缺乏有效控制、处置追踪控制或两者皆缺」。情境和 E 所处的事件类型使相关的控制形式变得显著」（布朗卡诺-贝罗卡尔，2015 年，第 22 页）。布朗卡诺-贝罗卡尔 将有效控制定义如下：
当且仅当（一） A 的目的是使 B 处于某种状态 S，（二） A 有导致 B 处于 S 的处置权，（三） B 处于 S 是因为 A 有导致 B 处于 S 的处置权（第 19 页）。
有效控制的一个典型例子就是司机安全地将车开到所需地点。布朗卡诺-贝罗卡对处置追踪控制的定义如下：
当且仅当 A 监察 B 时，A 才对 B 具有追踪控制权。当 A 监察 B 时，追踪、记录或收集有关 B 的信息。此外，A 所记录的关于 B 的信息使 A 能够启动、停止或继续某些有助于实现相关目标的表现或行动；从某种意义上说，收集的信息使 A 有能力执行目标导向的行动。（第 20 页）
追踪控制的一个例子是，医生通过定期测试监测病人的血压。如果病人的血压过高或过低，医生就会给病人用药，以确保病人的血压在健康范围内。因此，无论医生是否用药，在某种意义上医生都可以控制病人的血压。
布朗卡诺-贝罗卡认为有两种非概率风险。一个重大事件可能存在风险，是因为它在模态上脆弱；而一个代理人在一个重大事件面临风险，是因为该代理人对该事件缺乏有效控制或追踪控制。这些区别导致了四种可能的情况。让我们效仿布朗卡诺-贝罗卡（布朗卡诺-贝罗卡尔），把它们分别称为 A、B、C 和 D 类情况。
A 类情况既涉及缺乏控制，又涉及模态脆弱性。例如，一个人对自己公平中奖缺乏控制，这一事件在模态上也是脆弱的。
B 类情况涉及缺乏代理控制，但在模态上是稳健的。例如，如果在你不知道的情况下，你的朋友操纵了一次对你有利的彩票，使你肯定会中奖，那么，尽管你对彩票的结果缺乏控制，但你中奖的事件在几乎所有附近的可能世界中都会发生。
C 类情况既不涉及缺乏控制，亦不涉及模态脆弱性。例如，当你成功地操纵了一次对自己有利的彩票中奖时，这样的事件是在你的控制之下的，而且，根据你的技术水平，这样的事件可能是模态稳健的。
D 类情况受代理控制，但不具有模态稳健性。这方面的例子可能包括冲动决策或一时兴起的决策。如果我一时兴起，决定翘班飞往巴黎，那么这样的决定虽然在我的控制之下，但却很容易不会发生，也就是说，在模态上是脆弱的。
控制论者认为，风险必然涉及缺乏代理控制，因此 A 和 B 两类情况都是有风险的。模态理论者从模态脆弱性的角度来定义风险，因此 A 和 D 两类情况都是有风险的。谁是正确的？两种观点各有利弊。
以控制为基础的风险理论的一个优点是，行为主体往往会对他们无法控制的事件感到有风险。此外，在许多其他相关的哲学辩论中，例如在有关运气和道德责任的讨论中，控制是一个重要的概念。
以控制为基础的风险论述的一个缺点是，把许多 B 类情况描述为风险似乎很奇怪。想想看，对于明天太阳是否会升起，没有人能够进行任何程度的有效控制或追踪控制，但这一事件似乎并不涉及什么风险。再想想，如果今天是星期五，那么明天就是星期六。没有人能够有效地或追踪控制这一事实，但这一事件似乎并不具有风险。
模态论的一个优势在于，人们在做出重要决策时往往会忽略反事实的可能性。但是，正确评估各种可能情景可以帮助人们更好地管理风险。以挑战者号太空梭灾难为例，在灾难发生之前，美国国家航空航天局（NASA）的工程师们就知道，在之前的飞行过程中，有泡沫碎片从太空梭上脱落。然而，这些碎片从未击中太空梭的脆弱部位，因此这些飞行被视为成功，而不是实际上的险些失误。如果美国国家航空航天局的高层意识到这些碎片很容易击中太空梭的不同部位，并可能导致太空梭爆炸，那么这场灾难本可以避免。
然而，模态论存在几个问题。首先，我们通常无法获得关于替代情景的反事实信息。关于如果情况不同会发生什么的描述似乎具有真值，但很难说这些真值是什么。但是，如果没有这些信息，就很难甚至不可能采用模态论来衡量风险。其次，哪些替代情景或可能世界适合与实际世界进行比较？为了进行反事实比较，我们必须对各种可能情景下保持不变的事件和初始条件进行一些描述。但我们应该如何设定这些条件呢？这一点并不清楚，因此模态论也会遇到类似于频率主义概率论中的参照类问题（希尔，2022年）。
风险、控制和模态
| |||
| 模态稳健 |
缺乏控制
| 模态脆弱 | |
B 类情况 （模态稳健，但缺乏控制）
例如：太阳升起，有人操纵彩票有利于你
有风险吗？模态论（否），控制论（是） | A 类情况 （模态脆弱，缺乏控制）
例如： 公平中奖
有风险吗？ 有 | ||
C类情况（模态稳健且在自己的控制之下） 例如： 当你成功地操纵了对自己有利的彩票时
有风险吗？ 没有 | D类情况（模态脆弱，但在自己的控制之下）
例如： 有意识做出的决定，但也可能是其他忽发奇想的决定
有风险吗？ 值得商榷 | ||
完全控制
| |||
第 2 部分 基于控制和基于模态的解释
一个事件要成为风险问题，似乎必须涉及一些利害关系。一个有风险的赌注的结果必须以某种方式使一个或多个当事人变得更好或更坏。换句话说，有关事件必须具有重要性。以下是支持这一结论的三个论据。
首先，将真正偶然但不重要的事件视为风险似乎很奇怪。请看尼尔・莱维（Neil Levy）的以下一段话：
只有当一个事件或事态是重要的时候，它才能算作「……有风险的」。今天我头上掉了几根头发，这可能真的是偶然。甚至在形而上学层面上……中午 12 点我头上的头发数量是奇数还是偶数，也可能是偶然的。然而，如果说这是一个「风险」问题，那就奇怪了……至少在我看来，如果说「……我刚从口袋里掏出的硬币正面朝下是有风险的」，那就奇怪了。在我看来，只有当这一事件与某些利害攸关时，这一事件才是「……有风险的」（我和某人打了个赌，或者诸如此类）。（2011 年，第 13 页）
莱维的推理过程如下：首先，举一个存在偶然性但无关重要的例子。这样的事件有风险吗？从直觉上讲，这样的事件是没有风险的。如果说不重要的事件也有风险，那就相当奇怪了，也违反了我们关于风险的一般理解。但是，如果你补充说这件事件具有重要性，我们就不再排斥将其描述为有风险了。因此，一个事件构成风险的前提是它必须具有重要性。
第二个论点是，风险是有程度之分的。一种赌注比另一种赌注更有风险，可能是因为它的赔率更低（即发生机率更小）。比如赌骰子掷6比赌偶数更有风险。但风险事件的重要性也会有所不同。即使两个赌注的胜出机率相同，如果一个赌注的赔付金额更高，那么它就更有风险。即使是不太可能发生的事件，如果意义重大，也可能涉及很大的风险，例如，如果某个事件发生会导致很多人死亡。这就引出了这样一个问题：一个事件是否必须达到一定的重要性或偶然性门槛，才能被视为存在风险？虽然把无关重要的事件视为风险事件可能有些奇怪，但从总体上看，如果这类事件经常发生，则可能非常重要。因此，最好的办法或许是摒弃门槛条件，将未来任何重大或偶然的事件都定义为涉及一定程度的风险，但要强调风险是有程度之分的。
支持风险重要性条件的第三个论点是，不同类型的风险与不同类型的价值相关联。例如，酒后驾车可能涉及道德风险以及与伤害或福祉相关的风险。然而，在全球范围内，它可能不涉及任何认识论风险或生存性风险。但是，如果风险仅仅涉及一种偶然性条件，那么我们就不能进行这些区分了。在第 2 节中，我们将进一步讨论不同类型的风险，例如全球灾难性风险和生存性风险。
最后，针对重要性有多种思考进路。例如，从主观利益、经过深思熟虑的欲望、客观利益等方面来考虑。我们如何看待重要性非常重要，因为这反过来会影响某些事件的风险程度。关于重要性的不同说法，见巴兰泰因（Ballantyne）（2012 年）和希尔（2022年）。
第 2 节 全球灾难性风险
最近开始受到广泛关注的一类重要风险是全球灾害风险。尼克・博斯特罗姆（Nick Bostrom）和米兰・齐尔科维奇（Milan Ćirković）在其颇具影响力的全球灾害风险编辑集的导言中，将全球灾害风险定义为「有可能在全球范围内对人类福祉造成严重损害」的风险（博斯特罗姆和奇尔科维奇，2008 年，第 1-29 页）。美国法律学者和法学家理查德・波斯纳（Richard Posner）将其定义为在全球范围内造成「完全毁灭或破坏」的事件风险（波斯纳，2006 年）。虽然对于什么是全球灾害风险并没有一个普遍认同的定义，但直观的概念是相对清晰的。借用博斯特罗姆和齐尔科维奇的例子，虽然造成一万人死亡的灾难性事件（比如严重的海啸）无可否认是一场巨大的悲剧，但严格来说，它并不是全球性灾难。然而，在全球范围内造成超过 10,000,000 人死亡的事件（如世界性大流行病）则是全球性灾难。当然，无论从伤亡人数还是从相关事件的地理范围来看，不可避免地会有一些全球灾难的边缘案例。人们自然会对地方性或区域性灾难与全球性灾难之间的界限在哪里存有争议。但是，在定义全球灾害风险时，总体思路是把重点放在可能造成难以置信的严重影响，又具有全球范围的一类风险上。现在，让我们来更详细地探讨这一观点。
第 3 节 降低全球灾害风险
此时，鉴于所涉及的风险之高令人难以置信，人们可能会想，我们可以做些什么来减轻全球灾难性风险？考虑到潜在的全球灾难性风险数量众多，要全面阐述有关如何减轻每种风险的不同建议，就不能局限于此简短视频。我们将在本课程的其他单元中进一步探讨这个问题，包括全球环境风险单元和全球灾难性风险的制度设计与治理单元。现在，让我们来简要回顾我们可以采取的一些广泛策略，以减轻全球灾难性风险。
结论
总之，全球灾难性风险是指有可能在全球范围内造成巨大损失的风险，甚至是更大规模的风险。它们包括自然风险，如小行星带来的风险或自然发生的病原体带来的风险，但也包括人为风险，如核战争或生物恐怖主义。其中有些风险是全面的生存风险：一旦显现，将永久削弱或摧毁人类繁衍生息的能力。灭绝的风险自然属于这一类，但与文明永久停滞或衰落相关的风险或永久长期痛苦的风险也属于这一类。
减轻全球灾难性风险无疑是一项极其艰巨的任务。可能的策略将围绕以下几个方面展开：（一）预防（我们积极寻求降低灾难发生的概率），（二）应对（我们努力防止地方性区域事件滚雪球般地演变成彻底的全球性灾难），（三）复原（我们努力增加我们不因真正的全球性灾难而灭绝的机会）。所有这三种策略都可以而且应该同时实施，但如何实施任何特定策略的细节自然取决于相关风险的细节。
最后，如果我们目前没有能力充分实施这些广泛策略中的任何一种，我们就应该集中精力提高我们的能力，使我们能实施这些策略。事实上，这正是全球灾难性风险研究的主要任务之一。
Bostrom, N, ‘Existential Risk Prevention as Global Priority’, Global Policy 4 (1): 15-31.
Bostrom, N. and Ćirković, M.M. (2008) ‘Introduction’, in N. Bostrom and M.M. Ćirković (eds.) Global Catastrophic Risks. Oxford, UK: Oxford University Press, 1-29.
Broncano-Berrocal, F. (2015). ‘Luck as Risk and the Lack of Control Account ofLuck’, Metaphilosophy 46(1): 1–25. https://onlinelibrary.wiley.com/doi/10.1111/meta.12114
Cotton-Barratt, O., Daniel, M., and Sandberg, A. (2020) ‘Defense in Depth Against Human Extinction: Prevention, Response, Resilience, and Why They All Matter’, Global Policy 11 (3): 271-82.
Hájek, A. ‘Interpretations of Probability’, The Stanford Encyclopedia of Philosophy (Fall 2019 Edition), ed. Edward N. Zalta. https://plato.stanford.edu/archives/fall2019/entries/probability-interpret/.
Hill, J. (2022). ‘On Luck and Modality’, Erkenntnis 87(4): 1873–1887. https://philarchive.org/rec/HILOLA-2
Hill, J. (2023). ‘Against epistemic accounts of luck’. Analysis. https://philpapers.org/rec/HILAEA-2
Ord, T. (2020) The Precipice: Existential Risk and the Future of Humanity. New York, NY: Hachette Books.
Posner, R. (2006) Catastrophe: Risk and Response. Oxford, UK: Oxford University Press.
问题1：你是概率客观论者、主观论者还是认识论者？在哪些情况下，这些理论会对某一事件是否具有风险产生分歧？
作为一个客观论者，我认为概率是世界的真实特征，与任何主体的判断无关。
与此相反，主观论者关注的是对事件是否会发生的主观相信程度，而认识论者则认为，事件的可能性是相对于主体的认识论立场而言的。
要了解客观主义、主观主义和认识论观点之间的差异，我们以「轮盘赌游戏中赌球将会落在 35 」为例。从客观论者的观点来看，考虑到抛球前的所有物理事实，这一事件的概率可能为 0 ——也许球肯定会落在另一个数字上。从主观主义的角度来看，一个人可能会非理性地认为球一定会落在 35 上，而从认识论的角度来看，这种情况发生的概率可能是 1:35。
作为一个主观论者，我认为概率衡量的是行为主体对结果的预期程度，也就是说，概率应该用主体对事件发生的信念程度（即在 0 到 1 的范围内的相信程度）来表示。因此，主观主义的观点不必关注外部世界的客观特征，也不必关注主体证据所导向的结果。
要了解客观主义、主观主义和认识论观点之间的差异，我们以「轮盘赌游戏中赌球将会落在 35 」为例。从客观论者的观点来看，考虑到抛球前的所有物理事实，这一事件的概率可能为 0 ——也许球肯定会落在另一个数字上。从主观主义的角度来看，一个人可能会非理性地认为球一定会落在 35 上，而从认识论的角度来看，这种情况发生的概率可能是 1:35。
作为一个认识论者，我认为一个事件的可能性是相对于主体的认识论立场而言的，即该事件发生与否是否符合主体的证据或知识。
要了解客观主义、主观主义和认识论观点之间的差异，我们以「轮盘赌游戏中赌球将会落在 35 」为例。从客观主义的角度来看，考虑到抛球前的所有物理事实，这一事件发生的概率可能为 0 ——也许球肯定会落在另一个数字上。从主观主义的角度来看，一个人可能会非理性地认为球一定会落在 35 上，而从认识论的角度来看，发生这种情况的概率可能是 1:35。
问题2：哪种情况会构成全球性灾难？
（不正确）正确答案是 C。虽然不可否认，这样的事件是巨大的悲剧，但其规模不足以成为真正的全球灾难。只有当它产生了足够严重的次生影响，严重伤害到全世界更多的人时，它才会成为全球性灾难。
（不正确）正确答案是 C。同样，尽管这种事件显然是悲剧性的，但地区冲突并不是全球性灾难。尽管如此，地区冲突也可能发展成为真正的全球性冲突。如果地区冲突失控，很快就会发展成真正的全球灾难。此外，即使冲突仍然是局部性的，其影响也可能对全世界人民造成伤害。
（正确！）这是真正全球性灾难的典型例子。想想历史上的例子，如西班牙流感或黑死病，它们都在全世界造成数百万人死亡。
开放式问题
这些概率论有哪些优缺点？我们是否应该总是以一种概率思维方式来看待风险？
从控制或方式的角度思考风险会有什么益处？这些理论有哪些缺点？
也许并没有唯一正确的风险定义方法。也许我们不应该从客观上正确与否的角度来看待这些不同的机会思维方式，而应该将其视为评估不同「风险」情景的潜在有用方法。这种说法可信吗？如果正确，这对风险的本质有何启示？
返回单元列表