Які аксіоми ймовірності? Повне пояснення.

Ініціювання » Наука » (X + XNUMX) » статистика » Які аксіоми ймовірності? Повне пояснення.

Питання «які аксіоми ймовірності?» здається простим, але відповідь призводить до дуже ґрунтовної математичної конструкції., яка почала ретельно організовуватися у 20 столітті з працями Андрія Колмогорова. Ці аксіоми є основою практично всієї сучасної теорії ймовірностей, від вивчення азартних ігор до складних статистичних моделей, що використовуються в науці про дані, фінансах та інженерії.

Раніше Формалізація КолмогороваТоді ймовірність розумілася більш інтуїтивно, пов'язано з ідеєю частоти або випадковості.І різні математики використовували різні інтерпретації. Сьогодні, коли ми говоримо про аксіоми ймовірності, ми маємо на увазі мінімальний набір правил, яким повинна підкорятися будь-яка функція ймовірності, щоб ми могли робити узгоджені обчислення, уникати суперечностей і будувати потужні теореми.

Базова інтуїція: випадкові переживання та події

Щоб зрозуміти аксіоми ймовірності, першим кроком є ​​знання того, що таке випадковий експеримент і що ми називаємо подією.Випадковий експеримент — це будь-яка процедура, результат якої неможливо передбачити з упевненістю, навіть якщо нам відомі всі можливі результати; класичними прикладами є підкидання монети або кидання кубика.

Вибірковим простором, який зазвичай позначається Ω, ми називаємо множину всіх можливих результатів цього експерименту.Якщо ми, наприклад, підкидаємо монету, простір вибірки можна записати як Ω = {H, T}, де H представляє «орел», а T — «решку». Кожен елемент Ω називається елементарним результатом.

Подія — це будь-яка підмножина Ω, яку нас цікавить спостерігати.Таким чином, якщо експериментом є підкидання монети, множина {H} – це подія «випадає орел», множина {T} – це подія «випадає решка», а сама Ω – це подія «випадає орел або решка», тобто певна подія.

Деякі події є особливо важливими: неможлива подія, елементарна подія та достовірна подія.Порожня множина ∅ представляє неможливу подію, оскільки вона не містить жодного результату; множина з одним елементом {ω}, де ω в Ω, представляє елементарну подію; а сама Ω є достовірною подією, яка завжди відбувається під час проведення експерименту.

Мова теорії множин дуже корисна при вивченні ймовірностей.Якщо A та B є подіями, то A ∩ B представляє одночасну появу A та B, A ∪ B представляє появу принаймні однієї з них, та доповнення A, який часто записують як ̄A або Ω \ A, представляє «невипадіння A». Це позначення та властивості множин будуть використані безпосередньо у формулюванні аксіом.

Інтерпретації поняття ймовірності

Хоча аксіоми Колмогорова забезпечують математичну основу для ймовірності, саме слово «ймовірність» можна інтерпретувати по-різному.Історично склалося так, що з'явилися різні інтерпретації щодо того, що означає присвоїти число P(A) події A.

У класичній інтерпретації Лапласа, справедливій для скінченних просторів з рівноймовірними результатами, ймовірність A є відношенням між кількістю сприятливих випадків та кількістю можливих випадків.Якщо вибірковий простір має n однаково ймовірних результатів (тобто #Ω = n), а подія A містить n_A цих результатів (#A = n_A), тоді ймовірність визначається як P(A) = n_A / n. Ця формула досить інтуїтивно зрозуміла, коли всі результати мають однакову ймовірність виникнення.

Вже частотна інтерпретація Він пов'язує ймовірність з відносною частотою, що спостерігається в повтореннях експерименту.З цієї точки зору, ми повторюємо випадковий експеримент n разів і підраховуємо, скільки разів відбувається подія A, називаючи це число n_A; потім ми розглядаємо границю, зі зростанням n, дробу n_A / n. Ймовірність A буде P(A) = lim_{n→∞} (n_A / n), за умови, що ця границя існує.

Існує також суб'єктивна інтерпретація, широко використовується в байєсівській статистиці, в якій ймовірність пов'язана зі ступенем переконання раціонального суб'єкта.У цьому підході P(A) кількісно визначає, наскільки людина впевнена у настанні A, враховуючи наявні знання. Ймовірність «несе» не досвід, а суб'єкт, який когерентно оцінює невизначеність.

Незважаючи на ці різні інтерпретації, всі вони можуть співіснувати в межах однієї аксіоматичної системи Колмогорова.Іншими словами, незалежно від того, чи надаєте ви перевагу класичній, частотистській чи суб'єктивній точці зору, зрештою ймовірність буде математично змодельована функцією P, яка підпорядковується невеликому набору аксіом про простір подій.

Формальна побудова: простори ймовірностей та σ-алгебри

Колмогоров описав ймовірність через трійку (Ω, F, P), яка називається простором ймовірностей.У цій трійці Ω – це вибірковий простір, F – множина можливих подій (технічно, σ-алгебра підмножин Ω), а P – функція ймовірності.

σ-алгебра F — це спеціальна колекція підмножин Ω, яка задовольняє деякі властивості.Загалом, F має містити порожню множину, бути замкнутою відносно доповнення (якщо A знаходиться в F, то його доповнення також знаходиться в F) та бути замкнутою відносно зліченних об'єднань (якщо A₁, A₂, ... знаходяться в F, то об'єднання всіх них також знаходиться в F). Така структура гарантує, що ми можемо працювати з операціями над множинами, не виходячи за межі всесвіту подій, які мають чітко визначену ймовірність.

Формально, F є σ-алгеброю над Ω, коли: Порожня множина ∅ належить F; якщо A знаходиться в F, то доповнення A в Ω також належить F; і якщо A₁, A₂, … є (скінченною або зліченно нескінченною) послідовністю елементів F, то об'єднання A₁ ∪ A₂ ∪ … також знаходиться в F. У багатьох контекстах F також називають полем Бореля або σ-полем.

Функція ймовірності P визначена на F і приписує кожній події E в F невід'ємне дійсне число.Тоді ми кажемо, що P(E) знаходиться в ℝ та P(E) ≥ 0 для всіх E в F. У загальній теорії міри міри можуть набувати нескінченних значень, але в стандартній теорії ймовірностей P(E) завжди скінченна, що приносить деякі відмінності порівняно з більш загальними мірами.

Цю структуру (Ω, F, P) з P(Ω) = 1 ми називаємо простором ймовірностей.Умова P(Ω) = 1 є суттєвою, оскільки вона відображає ідею, що під час проведення експерименту певний результат в Ω неодмінно виникає; поза простором вибірки немає «прихованих результатів».

Три аксіоми Колмогорова

Аксіоматична теорія Колмогорова базується на трьох фундаментальних аксіомах, яким повинна задовольняти будь-яка функція ймовірності.Вони прості у формулюванні, але надзвичайно потужні, оскільки практично всі звичайні властивості ймовірності виводяться з них.

Перша аксіома — Ненегативність: Для будь-якої події A, що належить до σ-алгебри F, маємо P(A) ≥ 0. Тобто, ймовірності ніколи не бувають від'ємними. У деяких більш екзотичних теоріях говорять про «від'ємні ймовірності», але ці ідеї відхиляються від класичної концепції Колмогорова.

Друга аксіома — Нормалізація: Ймовірність настання певної події дорівнює 1, тобто P(Ω) = 1. Ця аксіома встановлює умовність, що 1 відповідає 100% впевненості, а 0 відповідає неможливості. У більш елементарних версіях цю аксіому також можна розуміти як твердження, що сума ймовірностей усіх елементарних результатів Ω дорівнює 1.

Третя аксіома — σ-адитивність: Якщо A₁, A₂, … – це послідовність попарно непересічних (також званих взаємовиключними) подій, тоді P(∪ᵢ Aᵢ) = Σᵢ P(Aᵢ). Це справедливо як для скінченної, так і для зліченно нескінченної колекції подій. Ця властивість зліченної адитивності є основною відмінністю від просто скінченної адитивності.

У простіших контекстах деякі автори працюють лише зі скінченною адитивністю., що вимагає, щоб P(A ∪ B) = P(A) + P(B) для непересічних подій A та B, і що це поширюється на скінченну кількість множин. У цьому випадку достатньо працювати з алгеброю множин, не обов'язково σ-алгеброю, але стандартний підхід у сучасній теорії ймовірностей полягає у вимозі σ-адитивності.

Саме з цієї третьої аксіоми випливає кілька важливих наслідків, таких як рівності, нерівності та закони ймовірності.Це також лежить в основі зв'язку між теорією ймовірностей та теорією міри, яка вивчає міри в множинах досить загальним чином.

Властивості, що виводяться з аксіом

Спираючись на три аксіоми Колмогорова, нам вдалося довести кілька основних і надзвичайно корисних властивостей.Ці властивості не передбачаються заздалегідь: вони є логічними наслідками аксіом.

Одна з перших властивостей — монотонність ймовірності.Якщо A та B є подіями в F, а A міститься в B (A ⊆ B), то P(A) ≤ P(B). Ідея інтуїтивно зрозуміла: якщо B охоплює все, що може статися в A, і, можливо, більше, то B не може мати меншу ймовірність, ніж A.

Ще однією фундаментальною властивістю є те, що ймовірність неможливої ​​події дорівнює нулю.З формальної точки зору, використовуючи σ-адитивність, ми розглядаємо послідовність, де E₁ = A, E₂ = B \ A та Eᵢ = ∅ для i ≥ 3, у сценарії, де A ⊆ B. Оскільки Eᵢ не перетинаються, а їх об'єднання є B, сума ймовірностей повинна сходитися до P(B). Якщо припустити, що P(∅) = a > 0, то сума P(∅) нескінченну кількість разів зростатиме до нескінченності, що несумісно зі скінченним P(B). Звідси робимо висновок, що P(∅) = 0.

Отже, ми можемо сформулювати нерівність 0 ≤ P(E) ≤ 1 для будь-якої події E з F.З першої аксіоми ми вже знали, що P(E) ≥ 0. Знаючи, що P(Ω) = 1, та використовуючи монотонність з E ⊆ Ω, випливає, що P(E) ≤ P(Ω) = 1. Таким чином, кожна ймовірність завжди знаходиться між 0 та 1 включно.

Зазвичай використовується так званий адитивний закон для будь-яких двох подій.Для подій A та B у F виконується P(A ∪ B) = P(A) + P(B) − P(A ∩ B). Ця формула виправляє «подвійний підрахунок» спільної події A ∩ B, яка додається двічі, якщо ми підсумовуємо P(A) та P(B) без коригування.

Ще одним важливим наслідком є ​​зв'язок між подією та її доповненням.Якщо позначити доповнення A через ̄A, то P(̄A) = 1 − P(A). Ця рівність передає ідею, що «або A відбувається, або A не відбувається», і в межах Ω ​​немає іншої можливості.

З цього також стає зрозуміло, що P(A) = 0 не обов'язково означає, що A є неможливою подією.У математичних термінах подія може мати нульову ймовірність, не будучи порожньою множиною (це трапляється, наприклад, у неперервних просторах), але на найелементарнішому рівні P(A) = 0 зазвичай асоціюється з практично неможливими подіями.

Практичний приклад: підкидання монети

Класичним і дуже повчальним прикладом візуалізації аксіом Колмогорова є підкидання монети.Припустимо, для початку, що монета може випасти лише на «орла» (H) або «решки» (T), і що це єдині можливі результати.

Тоді ми визначаємо простір вибірки як Ω = {H, T}Можливі події утворюють σ-алгебру F, що складається з {∅, {H}, {T}, {H, T}}. У цьому контексті неможливою подією є ∅, елементарними подіями є {H} та {T}, а достовірною подією є {H, T}.

З аксіом Колмогорова ми знаємо, що P(∅) = 0 та P(Ω) = 1Якщо припустити, що монета справедлива, тобто вона не сприяє жодній зі сторін, то симетрія передбачає, що P({H}) = P({T}). Оскільки сума P({H}) + P({T}) має дорівнювати 1, ми робимо висновок, що обидві варті 1/2.

Отже, ймовірність випадіння «орел або решка» дорівнює P({H, T}) = 1Ймовірність випадіння «орла» становить P({H}) = 1/2, а ймовірність випадіння «решки» – P({T}) = 1/2. Сума ймовірностей елементарних подій вичерпує повну ймовірність простору.

Ця модель, хоча й проста, ілюструє, як аксіоми поводяться на практиці та як вони запобігають невідповідностям у розрахунках ймовірностей.Якщо ми не ретельно визначимо простір вибірки, ми можемо зробити серйозні помилки, оскільки будь-яка подія завжди є підмножиною Ω; якщо підмножина не вписується в Ω, її ймовірність навіть не визначена.

Ймовірність у скінченних та зліченних просторах

Коли простір вибірки скінченний або зліченний, ймовірність можна описати дуже конкретним способом.Припустимо, що Ω = {ω₁, ω₂, …} — це скінченна або зліченна множина можливих результатів.

Якщо A — це подія, яка містить деякі з цих результатів, наприклад, A = {ω₁*, …, ω_{k*}, …}Отже, ймовірність A можна розглядати як суму ймовірностей відповідних елементарних подій: P(A) = P(∪ᵢ {ω_{i*}}) = Σᵢ P({ω_{i*}}). Це пряме застосування адитивності (або σ-адитивності) на непересічних множинах.

У окремому випадку, коли простір вибірки скінченний, з #Ω = n, і всі результати є рівноймовірнимиМаємо P({ωᵢ}) = 1/n для кожного i. Якщо A містить k різних результатів в Ω, тоді P(A) = Σ_{i=1}^k P({ω_{i*}}) = k/n = (#A)/(#Ω). Це саме та класична формула Лапласа, переосмислена в рамках сучасних аксіоматичних норм.

Коли простір вибірки є зліченно нескінченним, сума ймовірностей елементарних подій все ще повинна сходитися до 1.Тобто, Σᵢ P({ωᵢ}) = 1. Саме тут σ-адитивність демонструє свою силу, дозволяючи нам мати справу не лише зі скінченними сумами, а й з нескінченними рядами подій.

Умовна ймовірність та роль аксіом.

Центральним аспектом теорії є розуміння того, як змінюється ймовірність, коли ми знаємо, що певна подія вже відбулася.Саме тут і з'являється умовна ймовірність, яку зазвичай записують як P(A | B), що означає «ймовірність того, що A відбулося, за умови, що B відбулося».

Основна формула для умовної ймовірності: P(A | B) = P(A ∩ B) / P(B), за умови, що P(B) > 0Це визначення узгоджується з аксіомами Колмогорова, і насправді, для кожного B з P(B) > 0, функція A ↦ P(A | B) знову задовольняє три аксіоми, коли ми обмежуємо простір подій до B.

Це означає, що P(· | B) сама по собі є функцією ймовірності над «новим» простором вибірки B.Як наслідок, усі основні властивості умовних ймовірностей мають місце: P(̄A | B) = 1 − P(A | B), P(∅ | B) = 0, умовна монотонність (якщо A₁ ⊆ A₂, то P(A₁ | B) ≤ P(A₂ | B)) та формула P(A₁ ∪ A₂ | B) = P(A₁ | B) + P(A₂ | B) − P(A₁ ∩ A₂ | B).

Визначення умовної ймовірності також призводить до важливого співвідношення P(A ∩ B) = P(A) P(B | A), коли P(A) > 0.Симетрично можна записати P(A ∩ B) = P(B) P(A | B), за умови, що P(B) > 0. Ці рівності допомагають розкласти спільні ймовірності та є основою для кількох результатів, таких як теорема Байєса.

Цікаво відзначити, що «безумовну» ймовірність можна розглядати як окремий випадок умовної ймовірності.Дійсно, ми можемо записати P(A) = P(A ∩ Ω) / P(Ω) = P(A | Ω), оскільки P(Ω) = 1. Це підтверджує ідею про те, що концептуально вся ймовірність залежить від певної фонової інформації, навіть якщо це лише знання, з яким ми працюємо в межах Ω.

Незалежність подій

Ще однією ключовою концепцією, яка спирається на аксіоми, є концепція незалежності подій.Дві події A та B є незалежними, якщо настання однієї не змінює ймовірності іншої.

Формальною мовою A та B є незалежними, коли P(A ∩ B) = P(A) P(B)З точки зору умовної ймовірності, це означає, що якщо P(B) > 0, то P(A | B) = P(A), а якщо P(A) > 0, то P(B | A) = P(B). Тобто, знання того, що B відбулася, не змінює ймовірності A, і навпаки.

Кожна подія незалежна від неможливої ​​події ∅ та достовірної події Ω.Для порожньої множини P(A ∩ ∅) = 0 та P(∅) = 0, тому співвідношення тривіально виконується. Для певної події P(A ∩ Ω) = P(A) та P(Ω) = 1, отже P(A ∩ Ω) = P(A) P(Ω) = P(A).

Поширене питання полягає в тому, чи можуть дві непересічні події бути незалежними.Загалом, якщо A та B не перетинаються і обидва мають додатну ймовірність, то P(A ∩ B) = 0, але P(A) ∩ P(B) > 0, що порушує визначення незалежності. Таким чином, у багатьох випадках дві непересічні події з ненульовою ймовірністю не є незалежними, оскільки виникнення однієї виключає можливість іншої.

Коли йдеться про більше ніж дві події, виникає кілька різних понять незалежності.Може існувати попарна незалежність, спільна незалежність та інші типи. Однак у всіх цих випадках відправною точкою залишається співвідношення P(A ∩ B) = P(A) + P(B), засноване на аксіомах Колмогорова та визначенні умовної ймовірності.

Практичні правила та класичні закони ймовірності

Окрім формальних властивостей, аксіоми дозволяють формулювати більш операційні закони, корисні в повсякденній роботі тих, хто виконує обчислення ймовірностей.Один з них — це так званий закон додавання, вже згаданий у формі P(A ∪ B) = P(A) + P(B) − P(A ∩ B), який можна поширити на більшу кількість подій за допомогою принципу включення-виключення.

Ще одне поширене правило — це зв'язок між подією та її «зовнішньою» частиною іншої події.Для A та B у F виконується наступне: P(A ∩ ̄B) = P(A) − P(A ∩ B). Це просто розкладання A на дві частини: частину, яка зустрічається разом з B (A ∩ B), і частину, яка зустрічається без B (A ∩ ̄B). Ці дві частини не перетинаються, а їх об'єднання є A, що призводить до попередньої рівності за допомогою адитивності.

Закон повної ймовірності та теорема Байєса, хоча й не повністю детально описані тут, також безпосередньо спираються на аксіоми.Закон повної ймовірності об'єднує умовні ймовірності в розбиття вибіркового простору, тоді як теорема Байєса "інвертує" умовні оператори, дозволяючи оновлювати ймовірності на основі нових даних.

У більш дидактичних версіях також перераховані деякі легкі для запам'ятовування «практичні аксіоми».Наприклад: максимальна ймовірність дорівнює 1 (100%); сума ймовірностей усіх елементів у вибірковому просторі дорівнює 1; а ймовірність події X, додана до ймовірності «не X», завжди дорівнює 1. Ці твердження є прямим відображенням формальних аксіом.

За допомогою цього набору законів стає можливим вирішувати проблеми, починаючи від простих азартних ігор і закінчуючи складними моделями з багатьма змінними.Великою перевагою є те, що за всіма формулами та розрахунковими хитрощами логічна опора залишається тим самим аксіоматичним триніжком.

Аксіоми ймовірності Колмогорова забезпечують сувору, але гнучку основу для роботи з невизначеністю.На основі трьох простих принципів — невід’ємності, нормування та σ-адитивності — було побудовано цілу багату теорію, здатну включати класичні, частотні та суб’єктивні інтерпретації, обробляти скінченні або нескінченні простори, описувати умовні ймовірності та незалежність, а також підтримувати застосування практично у всіх наукових і технологічних галузях.