- 柯爾莫哥洛夫公理正式將機率定義為非負的、歸一化的、σ-可加性的量測。
- 從這些公理出發，可以推導出諸如 P(∅)=0、0≤P(A)≤1、加法定律以及與補集的關係等性質。
- 機率空間（Ω、F、P）、條件機率和獨立性等結構直接源自於此公理化框架。
「概率論的公理是什麼？」這個問題看似簡單，但答案卻引出了一個非常嚴密的數學結構。機率論在20世紀由安德烈·科爾莫戈羅夫的工作開始得到嚴格的系統組織。這些公理幾乎是所有現代機率論的基礎，從機會遊戲的研究到資料科學、金融和工程中使用的複雜統計模型，都離不開它們。
前 科爾莫戈羅夫形式化當時，人們對機率的理解更加直觀，將其與頻率或機會的概念聯繫起來。不同的數學家採用了不同的解釋。今天，當我們談論機率公理時，我們指的是任何機率函數都必須遵循的一組最基本的規則，這樣我們才能進行連貫的計算、避免矛盾並建立強大的定理。
基本直覺：隨機的經驗與事件
要理解機率論的基本公理，第一步是要知道什麼是隨機實驗以及我們所說的事件是什麼。隨機實驗是指任何結果無法決定預測的程序，即使我們知道所有可能的結果；經典的例子是拋硬幣或擲骰子。
我們稱樣本空間（通常以 Ω 表示）為該實驗所有可能結果的集合。例如，如果我們投擲一枚硬幣，樣本空間可以寫成 Ω = {H, T}，其中 H 表示“正面”，T 表示“反面”。 Ω 中的每個元素稱為一個基本結果。
事件是指我們有興趣觀察的 Ω 的任何子集。因此，如果實驗是拋硬幣，則集合 {H} 表示事件“正面朝上”，集合 {T} 表示事件“反面朝上”，而 Ω 本身表示事件“正面或反面朝上”，即一個確定的事件。
有些事件尤其重要：不可能發生的事件、基本事件和必然發生的事件。空集∅表示不可能的事件，因為它不包含任何結果；一個包含單一元素{ω}的集合，其中ω在Ω中，表示一個基本事件；而Ω本身就是必然事件，即在進行實驗時總是發生的事件。
集合論的語言對機率論的研究非常有幫助。如果 A 和 B 是事件，那麼 A ∩ B 表示 A 和 B 同時發生，A ∪ B 表示 A 和 B 中至少有一個發生，並且 A 的補集，通常寫作 ̄A 或 Ω \ A，表示「A 不出現」。這種符號和集合的性質將直接用於公理的表述中。
機率概念的解釋
雖然柯爾莫哥洛夫公理為機率論提供了數學基礎，但「機率」一詞本身可以有多種解釋。從歷史上看，對於將數字 P(A) 分配給事件 A 的含義，出現了不同的解釋。
在拉普拉斯定理的經典解釋中（適用於結果等機率的有限空間），A 的機率是有利情況的數量與可能情況的數量之比。如果樣本空間有 n 個等可能的結果（即 #Ω = n），事件 A 包含 n_A 個這樣的結果（#A = n_A），那麼其機率由 P(A) = n_A / n 給出。當所有結果發生的機率相同時，這個公式非常直觀。
已經 頻率學派的解釋 它將機率與重複實驗中觀察到的相對頻率聯繫起來。從這個角度來看，我們重複隨機實驗 n 次，並統計事件 A 發生的次數，記為 n_A；然後我們考察當 n 增加時，分數 n_A / n 的極限。如果這個極限存在，則 A 的機率為 P(A) = lim_{n→∞} (n_A / n)。
還有一種主觀解釋，廣泛用於貝葉斯統計學，在這種解釋中，機率與理性主體的信念程度相關。在這種方法中，P(A) 量化了某人對事件 A 發生的信心程度，並考慮了現有知識。並非經驗「承載」了機率，而是主體對不確定性進行了連貫的評估。
儘管有這些不同的解釋，但它們都可以在柯爾莫哥洛夫的同一公理框架內共存。換句話說，無論你喜歡古典的、頻率論的還是主觀的觀點，最終機率都將透過一個函數 P 來數學建模，該函數 P 遵循關於事件空間的一小部分公理。
形式化建構：機率空間與σ代數
柯爾莫戈羅夫用三元組 (Ω, F, P) 來描述機率，稱為機率空間。在這個三元組中，Ω 是樣本空間，F 是可能事件的集合（嚴格來說，是 Ω 的子集的 σ 代數），P 是機率函數。
σ-代數F是Ω的子集的特殊集合，它滿足某些性質。一般來說，集合 F 需要包含空集，對補集封閉（如果 A 屬於 F，那麼它的補集也屬於 F），並且對可數並集封閉（如果 A₁, A₂, … 屬於 F，那麼它們的並集也屬於 F）。這種結構確保我們可以在不超出機率明確的事件域的情況下進行集合運算。
形式上，當滿足以下條件時，F 是 Ω 上的 σ-代數： 空集合∅屬於F；如果A屬於F，則A在Ω中的補集也屬於F；並且如果A₁, A₂, …是F的（有限或可數無限）元素序列，則A₁∪A₂∪…的並集也屬於F。在許多情況下，F也被稱為Borel域或σ域。
機率函數 P 定義在 F 上，並將 F 中的每個事件 E 賦值為一個非負實數。我們稱 P(E) 為 ℝ，且對 F 中的所有 E，P(E) ≥ 0。在一般測度論中，測度可以取無窮值，但在標準機率論中，P(E) 總是有限的，這與更一般的測度存在一些差異。
這種結構 (Ω, F, P)，其中 P(Ω) = 1，我們稱之為機率空間。條件 P(Ω) = 1 至關重要，因為它代表了這樣一個理念：在進行實驗時，Ω 中的某些結果必然會發生；樣本空間之外不存在「隱藏的結果」。
柯爾莫戈羅夫的三大公理
柯爾莫戈羅夫公理化理論是基於任何機率函數都必須滿足的三個基本公理。它們表述簡單，但威力強大，因為幾乎所有常見的機率性質都是由此推導出來的。
第一條公理－非負性： 對於屬於σ代數F的任一事件A，我們有P(A)≥0。也就是說，機率永遠不會是負數。在一些更奇特的理論中，存在著「負機率」的概念，但這些概念偏離了柯爾莫哥洛夫的經典框架。
第二公理－規範化： 某事件發生的機率等於 1，即 P(Ω) = 1。這條公理確立了 1 代表 100% 確定性，0 代表不可能性的約定。在較簡單的版本中，這條公理也可以理解為：Ω 所有基本結果的機率總和等於 1。
第三公理－σ-可加性： 如果 A₁, A₂, … 是一組兩兩不相交（也稱為互斥）的事件，則 P(∪ᵢ Aᵢ) = Σᵢ P(Aᵢ)。對於有限事件集和可數無限事件集，此結論均成立。這種可數可加性是其與有限可加性的主要差異。
在較簡單的背景下，有些作者只研究有限可加性。要求對於互不相交的事件 A 和 B，P(A ∪ B) = P(A) + P(B)，而這項要求可以推廣到有限個集合。在這種情況下，使用集合代數就足夠了，不一定是 σ 代數，但現代機率論的標準方法是要求 σ 可加性。
正是從這第三條公理出發，產生了幾個重要的推論，例如等式、不等式和機率定律。他也是機率論和測度論之間聯繫的核心人物，測度論以相當一般的方式研究集合中的測度。
由公理推導出的性質
基於柯爾莫哥洛夫的三條公理，我們證明了幾個基本且極為有用的性質。這些性質並非預先假定的：它們是公理的邏輯結果。
機率的單調性是其首要特性之一。如果 A 和 B 是集合 F 中的事件，且 A 包含於 B (A ⊆ B)，則 P(A) ≤ P(B)。這個概念很直觀：如果 B 包含了 A 中可能發生的一切，甚至更多，那麼 B 的機率不可能低於 A。
另一個基本特性是，不可能事件發生的機率為零。從形式上看，利用σ-可加性，我們考慮一個序列，其中E₁ = A，E₂ = B \ A，且對於i ≥ 3，Eᵢ = ∅，其中A ⊆ B。由於Eᵢ互不相交且它們的並集為B，因此機率總和必須收斂於P(B)。如果我們假設P(∅) = a > 0，那麼P(∅)的無限次和將趨於無窮大，這與有限的P(B)不相容。因此，我們得出結論：P(∅) = 0。
因此，對於 F 中的任何事件 E，我們可以得到不等式 0 ≤ P(E) ≤ 1。根據第一個公理，我們已經知道 P(E) ≥ 0。已知 P(Ω) = 1，並利用 E ⊆ Ω 的單調性，可知 P(E) ≤ P(Ω) = 1。因此，任何機率都介於 0 和 1 之間（包含 0 和 1）。
常用的一個恆等式是所謂的加性定律，它適用於任兩個事件。對於集合 F 中的事件 A 和 B，有 P(A ∪ B) = P(A) + P(B) − P(A ∩ B)。此公式修正了共同事件 A ∩ B 的「重複計算」問題，即如果我們不進行修正直接將 P(A) 和 P(B) 相加，則該共同事件會被加兩次。
另一個重要的結果是事件與其互補事件之間的關係。如果我們用 ̄A 表示 A 的補集，那麼 P(̄A) = 1 − P(A)。這個等式表達了「要嘛 A 發生，要嘛 A 不發生」的意思，在 Ω 內不存在其他可能性。
由此也可以看出，P(A) = 0 並不一定表示 A 是不可能發生的事件。從數學角度來說，一個事件的機率可以為零，但集合卻不是空集合（例如，在連續空間中就會出現這種情況），但在最基本的層面上，P(A) = 0 通常與實際上不可能發生的事件相關。
實際例子：拋硬幣
拋硬幣是理解柯爾莫哥洛夫公理的一個經典且極具啟發性的例子。首先，我們假設硬幣只能正面朝上（H）或反面朝上（T），而這些是唯一可能的結果。
然後我們將樣本空間定義為 Ω = {H, T}可能的事件構成一個由{∅, {H}, {T}, {H, T}}組成的σ代數F。在此上下文中，不可能事件是∅，基本事件是{H}和{T}，必然事件是{H, T}。
根據柯爾莫哥洛夫公理，我們知道 P(∅) = 0 且 P(Ω) = 1如果我們假設這枚硬幣是公平的，也就是說，它不偏袒任何一方，那麼對稱性表明 P({H}) = P({T})。由於 P({H}) + P({T}) 總和必須等於 1，我們得出結論，正反兩面的價值均為 1/2。
因此，得到「正面或反面」的機率為 P({H, T}) = 1出現「正面」的機率為 P({H}) = 1/2，出現「反面」的機率為 P({T}) = 1/2。所有基本事件的機率總和即為該空間的總機率。
雖然這個模型很簡單，但它說明了公理在實踐中是如何運作的，以及它們是如何防止機率計算中不一致的。如果我們不仔細定義樣本空間，可能會犯嚴重的錯誤，因為任何事件總是 Ω 的子集；如果該子集不屬於 Ω，則其機率甚至沒有定義。
有限可數空間中的機率
當樣本空間是有限的或可數的時，機率可以用非常具體的方式來描述。假設 Ω = {ω₁, ω₂, …} 是一個有限或可數的可能結果集。
如果 A 是包含其中一些結果的事件，例如 A = {ω₁*, …, ω_{k*}, …}因此，A 的機率可視為對應基本事件機率總和：P(A) = P(∪ᵢ {ω_{i*}}) = Σᵢ P({ω_{i*}})。這是對不相交集合的可加性（或 σ-可加性）的直接應用。
在樣本空間有限的特殊情況下，即 #Ω = n，且所有結果均等機率。對於每個 i，我們有 P({ωᵢ}) = 1/n。如果 A 包含 Ω 中的 k 個不同結果，則 P(A) = Σ_{i=1}^k P({ω_{i*}}) = k/n = (#A)/(#Ω)。這正是經典拉普拉斯公式在現代公理框架下的重新詮釋。
當樣本空間是可數無限時，基本事件機率總和仍需要收斂到 1。也就是說，Σᵢ P({ωᵢ}) = 1。這就是 σ 可加性的優勢所在，它不僅允許我們處理有限和，還允許我們處理無限事件序列。
條件機率和公理的作用。
這個理論的核心在於理解當我們知道某個事件已經發生時，機率會如何改變。這就涉及到條件機率了，通常寫成 P(A | B)，意思是「在 B 發生的情況下 A 發生的機率」。
條件機率的基本公式為 P(A | B) = P(A ∩ B) / P(B)，前提是 P(B) > 0。這個定義與柯爾莫哥洛夫公理一致，事實上，對於每個滿足 P(B) > 0 的 B，當我們將事件空間限制在 B 上時，函數 A ↦ P(A | B) 再次滿足這三個公理。
這意味著 P(· | B) 本身是「新」樣本空間 B 上的機率函數。因此，條件機率的所有基本性質都成立：P(̄A | B) = 1 − P(A | B)，P(∅ | B) = 0，條件單調性（如果 A₁ ⊆ A₂，則 P(A₁ | B) ≤ P(A₂ | B)），以及公式 P₁₁ = ₪) | P(A₂ | B) − P(A₁ ∩ A₂ | B)。
條件機率的定義也產生了重要的關係 P(A ∩ B) = P(A) P(B | A)，其中 P(A) > 0。對稱地，我們可以寫出 P(A ∩ B) = P(B) P(A | B)，只要 P(B) > 0。這些等式有助於分解聯合機率，並且是貝葉斯定理等幾個結果的基礎。
值得注意的是，「無條件」機率可以看作是條件機率的一個特例。事實上，我們可以寫成 P(A) = P(A ∩ Ω) / P(Ω) = P(A | Ω)，因為 P(Ω) = 1。這強化了這樣一種想法：從概念上講，所有機率都取決於一些背景信息，即使僅僅是知道我們正在 Ω 內進行操作。
事件的獨立性
另一個依賴公理的關鍵概念是事件之間的獨立性。如果事件 A 和 B 的發生沒有改變事件 B 的機率，則稱這兩個事件 A 和 B 是獨立的。
用形式語言來說，當 P(A ∩ B) = P(A) P(B) 時，A 和 B 是獨立的。就條件機率而言，這意味著如果 P(B) > 0，則 P(A | B) = P(A)；如果 P(A) > 0，則 P(B | A) = P(B)。也就是說，知道 B 發生並不會改變 A 發生的機率，反之亦然。
每個事件獨立於不可能事件∅和必然事件Ω。對於空集合，P(A ∩ ∅) = 0 且 P(∅) = 0，因此該關係顯然成立。對於必然事件，P(A ∩ Ω) = P(A) 且 P(Ω) = 1，因此 P(A ∩ Ω) = P(A) P(Ω) = P(A)。
一個常見的問題是，兩個互不相交的事件是否可以互相獨立。一般來說，如果事件 A 和 B 互不相交且機率均為正，則 P(A ∩ B) = 0，但 P(A)P(B) > 0，這違反了獨立性的定義。因此，在許多情況下，兩個機率非零的互不相交事件並非獨立事件，因為一個事件的發生排除了另一個事件發生的可能性。
當處理兩個以上的事件時，會出現幾種不同的獨立性概念。我們可以假設兩兩獨立、聯合獨立以及其他類型的獨立性。然而，在所有這些情況下，出發點仍然是基於柯爾莫哥洛夫公理和條件機率定義的關係式 P(A ∩ B) = P(A) P(B)。
機率的實用規則與經典定律
除了形式屬性之外，公理還允許制定更多可操作的規律，這對於進行機率計算的人們的日常工作非常有用。其中之一是所謂的加法定律，前面已經提到 P(A ∪ B) = P(A) + P(B) − P(A ∩ B) 的形式，它可以透過容斥原理擴展到更多事件。
另一個常用的規則是事件與其「外部」部分之間的關係。對於集合 F 中的 A 和 B，以下等式成立：P(A ∩ ̄B) = P(A) − P(A ∩ B)。這實際上是將 A 分解為兩部分：與 B 同時發生的部分 (A ∩ B) 和不與 B 發生的部分 (A ∩ ̄B)。這兩部分互不相交，它們的並集為 A，這由可加性推導出前面的等式。
全機率定律和貝葉斯定理雖然在這裡沒有完全詳細地闡述，但也直接依賴這些公理。全機率定律將條件機率組合成樣本空間的一個劃分，而貝葉斯定理「反轉」了條件機率，允許根據新的證據更新機率。
在一些更具教學性的版本中，還列出了一些易於記憶的「實用公理」。例如：最大機率為 1（100%）；樣本空間中所有元素的機率總和等於 1；事件 X 的機率加上「非 X」的機率始終為 1。這些陳述直接反映了形式公理。
有了這套定律，就可以解決從簡單的機會遊戲到具有許多變數的複雜模型等各種問題。最大的優點在於，在所有公式和計算技巧背後，邏輯支撐仍然是同樣的公理三腳架。
柯爾莫哥洛夫機率論公理為處理不確定性提供了一個既嚴謹又靈活的基礎。基於非負性、歸一化和 σ 可加性這三個簡單的原則，已經建構了一個完整的、豐富的理論，能夠包含經典的、頻率學派的和主觀的解釋，處理有限或無限的空間，描述條件機率和獨立性，並支持幾乎所有科學和技術領域的應用。