- 콜모고로프의 공리에서는 확률을 음이 아닌, 정규화된, σ-가산적 측정값으로 공식적으로 정의합니다.
- 이러한 공리로부터 P(∅)=0, 0≤P(A)≤1, 덧셈 법칙, 보수와의 관계 등의 성질이 유도된다.
- 확률 공간(Ω, F, P), 조건부 확률, 독립성과 같은 구조는 이러한 공리적 틀에서 직접 발생합니다.
"확률의 공리는 무엇인가?"라는 질문은 간단해 보이지만, 그 답은 매우 견고한 수학적 구성으로 이어진다.20세기에 안드레이 콜모고로프의 연구로 엄격하게 체계화되기 시작한 공리. 이러한 공리들은 확률 게임 연구부터 데이터 과학, 금융, 공학에 사용되는 복잡한 통계 모델에 이르기까지 거의 모든 현대 확률 이론의 기초가 됩니다.
전에 콜모고로프 공식화그 당시에는 확률이 빈도나 우연의 개념과 연관되어 보다 직관적인 방식으로 이해되었습니다.그리고 서로 다른 수학자들은 다양한 해석을 사용했습니다. 오늘날 우리가 확률의 공리에 대해 이야기할 때, 우리는 모든 확률 함수가 일관된 계산을 수행하고, 모순을 피하고, 강력한 정리를 구축하기 위해 따라야 하는 최소한의 규칙 집합을 언급합니다.
기본 직관: 무작위 경험과 사건
확률의 공리를 이해하려면 첫 번째 단계는 무작위 실험이 무엇이고, 사건이라고 부르는 것이 무엇인지 아는 것입니다.무작위 실험은 모든 가능한 결과를 알고 있더라도 결과를 확실하게 예측할 수 없는 모든 절차를 말합니다. 대표적인 예로는 동전 던지기나 주사위 굴리기가 있습니다.
우리는 표본 공간이라고 부르는데, 일반적으로 Ω로 표기하며, 이 실험의 모든 가능한 결과의 집합입니다.예를 들어 동전을 던지면 표본 공간은 Ω = {H, T}로 나타낼 수 있습니다. 여기서 H는 "앞면"을, T는 "뒷면"을 나타냅니다. Ω의 각 요소를 기본 결과(elementary outcome)라고 합니다.
사건이란 우리가 관찰하고자 하는 Ω의 부분 집합입니다.따라서 실험이 동전 던지기라면, 집합 {H}는 "앞면이 나온다"는 사건이고, 집합 {T}는 "뒷면이 나온다"는 사건이고, Ω 자체는 "앞면 또는 뒷면이 나온다"는 사건, 즉 특정 사건입니다.
어떤 사건은 특히 중요합니다. 불가능한 사건, 기본적인 사건, 확실한 사건이 그렇습니다.공집합 ∅은 결과가 없으므로 불가능한 사건을 나타냅니다. ω가 Ω에 속하는 단일 원소 {ω}로 구성된 집합은 기본 사건을 나타냅니다. 그리고 Ω 자체는 확실한 사건, 즉 실험을 수행할 때 항상 발생하는 사건을 나타냅니다.
집합론의 언어는 확률을 연구하는 데 매우 유용합니다.A와 B가 사건일 경우 A ∩ B는 A와 B의 동시 발생을 나타내고, A ∪ B는 적어도 그 중 하나가 발생함을 나타냅니다. A의 보수는 종종 ̄A 또는 Ω \ A로 표기되며, "A의 비발생"을 나타냅니다. 이 표기법과 집합의 속성은 공리 공식화에 직접 사용됩니다.
확률 개념의 해석
콜모고로프의 공리가 확률의 수학적 기초를 제공하지만, '확률'이라는 단어 자체는 다양한 방식으로 해석될 수 있습니다.역사적으로 사건 A에 숫자 P(A)를 할당하는 것이 무엇을 의미하는지에 관해 다양한 해석이 나타났습니다.
라플라스의 고전적 해석에 따르면, 동등한 확률의 결과를 갖는 유한 공간에 대해 A의 확률은 유리한 경우의 수와 가능한 경우의 수의 비율입니다.표본 공간에 n개의 동등하게 발생할 수 있는 결과가 있고(즉, #Ω = n), 사건 A에 n_A개의 결과가 포함되어 있는 경우(#A = n_A), 확률은 P(A) = n_A / n으로 주어집니다. 모든 결과가 발생할 확률이 동일할 때 이 공식은 매우 직관적입니다.
이미 빈도주의적 해석 이는 확률을 실험 반복에서 관찰되는 상대 빈도와 연결합니다.이러한 관점에서, 무작위 실험을 n번 반복하고 사건 A가 몇 번 발생하는지 세어 보고, 이 수를 n_A라고 합니다. 그런 다음, n이 증가함에 따라 n_A / n의 분수의 극한을 살펴봅니다. 이 극한이 존재한다면, A가 발생할 확률은 P(A) = lim_{n→∞} (n_A / n)이 됩니다.
베이지안 통계에서 널리 사용되는 주관적 해석도 있는데, 여기서는 확률이 합리적 주체의 믿음의 정도와 연관됩니다.이 접근법에서 P(A)는 이용 가능한 지식을 고려하여 A의 발생에 대한 누군가의 확신도를 정량화합니다. 확률을 "담당하는" 것은 경험이 아니라, 불확실성을 일관되게 평가하는 주체입니다.
이러한 다양한 해석에도 불구하고, 그 모든 해석은 콜모고로프의 동일한 공리적 틀 안에서 공존할 수 있습니다.다시 말해, 고전적 관점, 빈도주의적 관점, 주관적 관점 중 어떤 것을 선호하든 궁극적으로 확률은 사건 공간에 대한 작은 공리 집합을 따르는 함수 P에 의해 수학적으로 모델링됩니다.
형식적 구성: 확률 공간과 σ-대수
콜모고로프는 확률을 (Ω, F, P)의 삼중항으로 설명했는데, 이를 확률 공간이라고 합니다.이 트리플에서 Ω는 표본 공간이고, F는 가능한 사건의 집합(기술적으로는 Ω의 부분 집합의 σ-대수)이고, P는 확률 함수입니다.
σ-대수 F는 일부 속성을 만족하는 Ω의 부분 집합의 특수한 집합입니다.일반적으로 F는 공집합을 포함하고, 여집합에 대해 닫혀 있어야 합니다(A가 F에 속하면, 그 여집합도 F에 속함). 또한 가산 합집합에 대해 닫혀 있어야 합니다(A₁, A₂, …가 F에 속하면, 이들 모두의 합집합도 F에 속함). 이러한 구조는 잘 정의된 확률을 갖는 사건들의 우주를 벗어나지 않고도 집합 연산을 수행할 수 있도록 보장합니다.
공식적으로 F는 다음과 같은 경우 Ω에 대한 σ-대수입니다. 공집합 ∅은 F에 속한다. A가 F에 속하면 Ω에 있는 A의 여집합도 F에 속한다. 그리고 A₁, A₂, …가 F의 원소로 이루어진 (유한 또는 가산 무한) 수열이면 합집합 A₁ ∪ A₂ ∪ …도 F에 속한다. 많은 맥락에서 F는 보렐 체 또는 σ-체라고도 불린다.
확률 함수 P는 F에 대해 정의되며 F의 각 사건 E에 음이 아닌 실수를 할당합니다.그러면 P(E)는 ℝ에 있고 F에 있는 모든 E에 대해 P(E) ≥ 0이라고 합니다. 일반 측도 이론에서 측도는 무한한 값을 가질 수 있지만, 표준 확률 이론에서 P(E)는 항상 유한하며, 이는 보다 일반적인 측도와 관련하여 몇 가지 차이점을 가져옵니다.
P(Ω) = 1인 이 구조(Ω, F, P)를 우리는 확률 공간이라고 부릅니다.P(Ω) = 1이라는 조건은 실험을 수행할 때 Ω의 어떤 결과가 확실히 발생한다는 개념을 나타내기 때문에 필수적입니다. 표본 공간 밖에는 "숨겨진 결과"가 없습니다.
콜모고로프의 세 가지 공리
콜모고로프의 공리 이론은 모든 확률 함수가 만족해야 하는 세 가지 기본 공리에 기초합니다.이러한 공식은 설명하기는 쉽지만, 확률의 일반적인 속성이 사실상 모두 이 공식에서 파생되기 때문에 매우 강력합니다.
첫 번째 공리 - 비음성: σ-대수 F에 속하는 모든 사건 A에 대해 P(A) ≥ 0입니다. 즉, 확률은 결코 음수가 아닙니다. 좀 더 특이한 이론에서는 "음의 확률"에 대한 논의가 있지만, 이러한 개념은 콜모고로프의 고전적 틀에서 벗어납니다.
두 번째 공리 - 정규화: 특정 사건이 발생할 확률은 1, 즉 P(Ω) = 1입니다. 이 공리는 1이 100% 확실성에 해당하고 0은 불가능에 해당한다는 관례를 확립합니다. 더 기본적인 버전에서 이 공리는 Ω의 모든 기본 결과에 대한 확률의 합이 1과 같다는 것을 의미하는 것으로도 이해될 수 있습니다.
세 번째 공리 - σ-가산성: A₁, A₂, …가 쌍으로 분리된(상호 배타적이라고도 함) 사건들의 수열이면, P(∪ᵢ Aᵢ) = Σᵢ P(Aᵢ)입니다. 이는 유한한 사건 집합과 가산 무한한 사건 집합 모두에 대해 성립합니다. 이러한 가산적 덧셈성(countable additiveness)은 단순한 유한 덧셈성과의 주요 차이점입니다.
더 단순한 맥락에서 일부 저자는 유한 덧셈성으로만 작업합니다., 서로소인 사건 A와 B에 대해 P(A ∪ B) = P(A) + P(B)가 되어야 하며, 이는 유한한 개수의 집합으로 확장되어야 합니다. 이 경우, σ-대수일 필요는 없지만 집합 대수를 사용하면 충분하지만, 현대 확률론의 표준적인 접근 방식은 σ-가산성을 요구하는 것입니다.
이 세 번째 공리로부터 등식, 부등식, 확률의 법칙과 같은 몇 가지 중요한 결과가 발생합니다.그는 확률과 측도 이론 사이의 연결고리의 중심에 서 있는데, 측도 이론은 상당히 일반적인 방식으로 집합 내의 측도를 연구합니다.
공리에서 파생된 속성
콜모고로프의 세 가지 공리를 바탕으로 우리는 몇 가지 기본적이고 매우 유용한 속성을 증명할 수 있었습니다.이러한 속성은 미리 가정된 것이 아닙니다. 이는 공리의 논리적 결과입니다.
첫 번째 속성 중 하나는 확률의 단조성입니다.A와 B가 F에 있는 사건이고 A가 B에 포함되어 있다면(A ⊆ B), P(A) ≤ P(B)입니다. 이 개념은 직관적입니다. B가 A에서 일어날 수 있는 모든 것, 그리고 어쩌면 그 이상을 포함한다면, B의 확률은 A보다 낮을 수 없습니다.
또 다른 근본적인 속성은 불가능한 사건의 확률이 0이라는 것입니다.형식적 관점에서, σ-가산성을 사용하여 E₁ = A, E₂ = B \ A, 그리고 Eᵢ = ∅(i ≥ 3)인 수열을 고려합니다. 이 수열에서 A ⊆ B가 성립합니다. Eᵢ는 서로소이고 합집합은 B이므로, 확률의 합은 P(B)로 수렴해야 합니다. P(∅) = a > 0이라고 가정하면, P(∅)의 합은 무한히 여러 번 무한대로 폭발하여 유한한 P(B)와 양립할 수 없습니다. 따라서 P(∅) = 0이라는 결론을 내립니다.
따라서 우리는 사건 F의 모든 사건 E에 대해 부등식 0 ≤ P(E) ≤ 1을 나타낼 수 있습니다.우리는 이미 첫 번째 공리에서 P(E) ≥ 0임을 알고 있었습니다. P(Ω) = 1임을 알고 E ⊆ Ω인 단조성을 적용하면, P(E) ≤ P(Ω) = 1이 됩니다. 따라서 모든 확률은 항상 0과 1 사이에 있습니다.
일반적으로 사용되는 항등식은 두 사건에 대한 소위 덧셈 법칙입니다.사건 F의 사건 A와 B에 대해 P(A ∪ B) = P(A) + P(B) − P(A ∩ B)가 성립합니다. 이 공식은 P(A)와 P(B)를 조정하지 않고 더하면 공통 사건 A ∩ B가 두 번 더해지는 "이중 계산"을 수정합니다.
또 다른 중요한 결과는 사건과 그 보완물 사이의 관계입니다.A의 여집합을 ̄A로 나타내면 P(̄A) = 1 − P(A)가 됩니다. 이 등식은 "A가 발생하거나 A가 발생하지 않는다"는 개념을 전달하며, Ω 내에는 다른 가능성이 없습니다.
이를 통해 P(A) = 0이 반드시 A가 불가능한 사건임을 의미하지는 않는다는 것도 명확해집니다.수학적으로 말하면, 공집합이 아니어도 사건이 확률이 0일 수 있습니다(예를 들어, 연속 공간에서 이러한 현상이 나타납니다). 하지만 가장 기본적인 수준에서 P(A) = 0은 일반적으로 실질적으로 불가능한 사건과 관련됩니다.
실제 예: 동전 던지기
콜모고로프의 공리를 시각화하는 데 있어 고전적이고 매우 교훈적인 예는 동전 던지기입니다.우선, 동전이 "앞면"(H) 또는 "뒷면"(T)으로만 나올 수 있고, 이것이 유일한 가능한 결과라고 가정해 보겠습니다.
그런 다음 표본 공간을 Ω = {H, T}로 정의합니다.가능한 사건들은 {∅, {H}, {T}, {H, T}}로 구성된 σ-대수 F를 형성합니다. 이 맥락에서 불가능한 사건은 ∅이고, 기본 사건은 {H}와 {T}이며, 확실한 사건은 {H, T}입니다.
Kolmogorov의 공리로부터 우리는 P(∅) = 0이고 P(Ω) = 1임을 알고 있습니다.동전이 공정하다고 가정하면, 즉 어느 쪽에도 유리하지 않다고 가정하면, 대칭성은 P({H}) = P({T})임을 시사합니다. P({H}) + P({T})의 합은 1이어야 하므로, 둘 다 1/2의 가치를 지닌다는 결론을 내릴 수 있습니다.
따라서 "앞면 또는 뒷면"이 나올 확률은 P({H, T}) = 1입니다."앞면"이 나올 확률은 P({H}) = 1/2이고, "뒷면"이 나올 확률은 P({T}) = 1/2입니다. 기본 사건들의 확률을 합하면 공간의 전체 확률이 완성됩니다.
이 모델은 간단하지만 실제로 공리가 어떻게 작용하는지, 그리고 확률 계산에서 불일치를 어떻게 방지하는지 보여줍니다.표본 공간을 주의 깊게 정의하지 않으면 심각한 실수를 저지를 수 있습니다. 모든 사건은 항상 Ω의 부분 집합이기 때문입니다. 부분 집합이 Ω에 맞지 않으면 그 확률은 정의조차 되지 않습니다.
유한 공간과 가산 공간에서의 확률
표본 공간이 유한하거나 가산적일 때, 확률은 매우 구체적인 방식으로 설명될 수 있습니다.Ω = {ω₁, ω₂, …}가 가능한 결과의 유한하거나 계산 가능한 집합이라고 가정합니다.
A가 A = {ω₁*, …, ω_{k*}, …}와 같이 이러한 결과 중 일부를 포함하는 사건인 경우따라서 A의 확률은 해당 기본 사건의 확률의 합으로 볼 수 있습니다. P(A) = P(∪ᵢ {ω_{i*}}) = Σᵢ P({ω_{i*}}). 이는 분리된 집합에 대한 덧셈성(또는 σ-덧셈성)을 직접 적용한 것입니다.
표본 공간이 유한하고 #Ω = n이며 모든 결과가 동등하게 발생할 가능성이 있는 특정 사례에서각 i에 대해 P({ωᵢ}) = 1/n입니다. A가 Ω에서 k개의 서로 다른 결과를 포함한다면 P(A) = Σ_{i=1}^k P({ω_{i*}}) = k/n = (#A)/(#Ω)입니다. 이는 현대 공리 체계 내에서 재해석된 고전적인 라플라스 공식과 정확히 일치합니다.
표본 공간이 가산적으로 무한할 때에도 기본 사건의 확률 합은 여전히 1로 수렴해야 합니다.즉, Σᵢ P({ωᵢ}) = 1입니다. 여기서 σ-가산성이 강점을 발휘하여 유한한 합뿐만 아니라 무한한 일련의 사건도 처리할 수 있습니다.
조건부 확률과 공리의 역할.
이론의 핵심 측면은 특정 사건이 이미 발생했다는 것을 알고 있을 때 확률이 어떻게 변하는지 이해하는 것입니다.여기서 조건부 확률이 등장하는데, 일반적으로 P(A | B)로 표기하는데, 이는 "B가 발생했을 때 A가 발생할 확률"을 의미합니다.
조건부 확률의 기본 공식은 P(A | B) = P(A ∩ B) / P(B)이며, P(B) > 0인 경우입니다.이 정의는 콜모고로프의 공리와 일치하며, 실제로 P(B) > 0인 각 B에 대해 사건 공간을 B로 제한하면 함수 A ↦ P(A | B)가 다시 세 가지 공리를 만족합니다.
이는 P(· | B) 자체가 "새로운" 표본 공간 B에 대한 확률 함수라는 것을 의미합니다.결과적으로 모든 기본 속성은 조건부 확률에 대해 성립합니다. P(̄A | B) = 1 − P(A | B), P(∅ | B) = 0, 조건부 단조성(A₁ ⊆ A₂이면 P(A₁ | B) ≤ P(A₂ | B)) 및 공식 P(A₁ ∪ A₂ | B) = P(A₁ | B) + P(A₂ | B) − P(A₁ ∩ A₂ | B).
조건부 확률의 정의는 또한 P(A) > 0일 때 P(A ∩ B) = P(A) P(B | A)라는 중요한 관계를 발생시킵니다.대칭적으로, P(B) > 0인 경우 P(A ∩ B) = P(B) P(A | B)로 쓸 수 있습니다. 이러한 등식은 결합 확률을 분해하는 데 도움이 되며 베이즈 정리와 같은 여러 결과의 기초가 됩니다.
"무조건적" 확률은 조건부 확률의 특별한 경우로 볼 수 있다는 점이 흥미롭습니다.실제로 P(Ω) = 1이므로 P(A) = P(A ∩ Ω) / P(Ω) = P(A | Ω)라고 쓸 수 있습니다. 이는 개념적으로 모든 확률이 어떤 배경 정보에 따라 달라진다는 생각을 강화하는데, 이는 우리가 Ω 내에서 작업하고 있는 지식에 불과하더라도 마찬가지입니다.
사건의 독립성
공리에 의존하는 또 다른 핵심 개념은 사건 간의 독립성입니다.두 사건 A와 B는 한 사건의 발생이 다른 사건의 발생 확률을 바꾸지 않을 때 서로 독립적이다.
공식 언어에서 A와 B는 P(A ∩ B) = P(A) P(B)일 때 독립적입니다.조건부 확률의 관점에서 이는 P(B) > 0이면 P(A | B) = P(A)이고, P(A) > 0이면 P(B | A) = P(B)임을 의미합니다. 즉, B가 발생했다는 것을 안다고 해서 A의 확률이 변하지 않으며, 그 반대도 마찬가지입니다.
모든 사건은 불가능한 사건 ∅와 확실한 사건 Ω에 독립적입니다.공집합에 대해 P(A ∩ ∅) = 0이고 P(∅) = 0이므로 이 관계는 자명하게 성립합니다. 특정 사건에 대해 P(A ∩ Ω) = P(A)이고 P(Ω) = 1이므로 P(A ∩ Ω) = P(A) P(Ω) = P(A)입니다.
두 개의 분리된 사건이 독립일 수 있는지 여부는 흔한 질문입니다.일반적으로 A와 B가 서로 분리되어 있고 둘 다 양의 확률을 가질 때, P(A ∩ B) = 0이지만 P(A) P(B) > 0이 되어 독립성의 정의에 위배됩니다. 따라서 많은 경우, 확률이 0이 아닌 두 개의 분리된 사건은 하나의 발생이 다른 하나의 발생 가능성을 배제하기 때문에 독립적이지 않습니다.
두 개 이상의 사건을 다룰 때, 독립성에 대한 여러 가지 개념이 생겨납니다.쌍별 독립, 결합 독립, 그리고 다른 유형의 독립이 있을 수 있습니다. 그러나 이 모든 경우에서 출발점은 콜모고로프 공리와 조건부 확률의 정의에 기반한 관계 P(A ∩ B) = P(A) P(B)입니다.
확률의 실제 규칙과 고전적 법칙
공리의 형식적 속성 외에도, 공리는 확률 계산을 수행하는 사람들의 일상 업무에 유용한 보다 실용적인 법칙을 공식화할 수 있게 해줍니다.그 중 하나는 이미 P(A ∪ B) = P(A) + P(B) − P(A ∩ B) 형태로 언급된 소위 덧셈의 법칙으로, 포함-배제 원리를 통해 더 많은 수의 사건으로 확장될 수 있습니다.
일반적으로 사용되는 또 다른 규칙은 이벤트와 다른 이벤트의 "외부" 부분 간의 관계입니다.F의 A와 B에 대해 다음이 성립합니다. P(A ∩ ̄B) = P(A) − P(A ∩ B). 이는 A를 두 부분으로 분해하는 것입니다. B와 함께 발생하는 부분(A ∩ B)과 B 없이 발생하는 부분(A ∩ ̄B)입니다. 이 두 부분은 서로소이며, 이들의 합집합은 A입니다. 이는 덧셈성에 의해 이전의 등식을 유도합니다.
전체 확률의 법칙과 베이즈 정리는 여기서 자세히 설명하지는 않았지만, 역시 공리에 직접적으로 의존합니다.전체 확률의 법칙은 조건부 확률을 표본 공간의 분할로 결합하는 반면, 베이즈 정리는 조건부를 "반전"하여 새로운 증거에 따라 확률을 업데이트할 수 있도록 합니다.
더욱 교훈적인 버전에서는 기억하기 쉬운 "실용적인 공리"도 나열되어 있습니다.예를 들어, 최대 확률은 1(100%)이고, 표본 공간에 있는 모든 요소의 확률의 합은 1이며, 사건 X의 확률에 "X가 아닐" 확률을 더하면 항상 1입니다. 이러한 진술은 형식적 공리를 직접적으로 반영한 것입니다.
이러한 법칙을 이용하면 간단한 도박 게임부터 많은 변수가 있는 정교한 모델까지 다양한 문제를 해결하는 것이 가능해집니다.가장 큰 장점은 모든 공식과 계산 기법 뒤에 있는 논리적 근거가 동일한 공리적 삼각대라는 것입니다.
콜모고로프의 확률 공리는 불확실성을 다루는 데 있어 엄격하면서도 유연한 기반을 제공합니다.비음성, 정규화, σ-가산성이라는 세 가지 간단한 원리를 바탕으로 고전적, 빈도론적, 주관적 해석을 통합하고, 유한 또는 무한 공간을 처리하고, 조건부 확률과 독립성을 설명하고, 사실상 모든 과학 및 기술 분야에서 응용 프로그램을 지원할 수 있는 전체적으로 풍부한 이론이 구축되었습니다.