מהן האקסיומות של ההסתברות? הסבר מלא.

ייזום » מדע » מתמטיקה » סטטיסטיקה » מהן האקסיומות של ההסתברות? הסבר מלא.

השאלה "מהן האקסיומות של ההסתברות?" נראית פשוטה, אך התשובה מובילה לבנייה מתמטית מוצקה מאוד., אשר החלה להיות מאורגנת בקפדנות במאה ה-20 עם עבודתו של אנדריי קולמוגורוב. אקסיומות אלו הן הבסיס כמעט לכל תורת ההסתברות המודרנית, החל מחקר משחקי מזל ועד מודלים סטטיסטיים מורכבים המשמשים במדעי הנתונים, במימון ובהנדסה.

לפני פורמליזציה של קולמוגורובאז, ההסתברות הובנה בצורה אינטואיטיבית יותר, הקשורה לרעיון של תדירות או מקריות.ומתמטיקאים שונים השתמשו בפרשנויות מגוונות. כיום, כשאנחנו מדברים על אקסיומות של הסתברות, אנחנו מתייחסים למערכת מינימלית של כללים שכל פונקציית הסתברות חייבת לציית לה כדי שנוכל לבצע חישובים קוהרנטיים, להימנע מסתירות ולבנות משפטים חזקים.

אינטואיציה בסיסית: חוויות ואירועים אקראיים

כדי להבין את האקסיומות של ההסתברות, הצעד הראשון הוא לדעת מהו ניסוי אקראי ומה אנו מכנים אירוע.ניסוי אקראי הוא כל הליך שאי אפשר לחזות בוודאות את תוצאתו, למרות שאנו יודעים את כל התוצאות האפשריות; דוגמאות קלאסיות הן הטלת מטבע או גלגול קובייה.

אנו קוראים למרחב המדגם, המסומן בדרך כלל ב-Ω, קבוצת כל התוצאות האפשריות של ניסוי זה.אם נזרוק מטבע, לדוגמה, ניתן לכתוב את מרחב הדגימה כ- Ω = {H, T}, כאשר H מייצג "עשר" ו- T מייצג "זנבות". כל איבר של Ω נקרא תוצאה אלמנטרית.

אירוע הוא כל תת-קבוצה של Ω שאנו מעוניינים לצפות בה.לכן, אם הניסוי הוא הטלת מטבע, הקבוצה {H} היא האירוע "עשוי עץ", הקבוצה {T} היא האירוע "עשוי עץ", ו-Ω עצמו הוא האירוע "עשוי עץ או עץ", כלומר, אירוע מסוים.

ישנם אירועים חשובים במיוחד: האירוע הבלתי אפשרי, האירוע האלמנטרי והאירוע הוודאי.הקבוצה הריקה ∅ מייצגת את האירוע הבלתי אפשרי, מכיוון שהיא אינה מכילה תוצאה; קבוצה עם איבר יחיד {ω}, כאשר ω ב-Ω, מייצגת אירוע אלמנטרי; ו-Ω עצמו הוא האירוע הוודאי, זה שתמיד מתרחש כאשר הניסוי מתבצע.

שפת תורת הקבוצות מועילה מאוד בחקר ההסתברות.אם A ו-B הם אירועים, אז A ∩ B מייצג את ההתרחשות הסימולטנית של A ו-B, A ∪ B מייצג את ההתרחשות של לפחות אחד מהם, ו- המשלים של A, הנכתב לעתים קרובות כ-̄A או Ω \ A, מייצג את "אי-הופעת A". סימון זה ותכונות הקבוצות ישמשו ישירות בניסוח האקסיומות.

פרשנויות של מושג ההסתברות

למרות שהאקסיומות של קולמוגורוב מספקות את הבסיס המתמטי להסתברות, ניתן לפרש את המילה "הסתברות" עצמה בדרכים שונות.מבחינה היסטורית, צצו פרשנויות שונות לגבי המשמעות של ייחוס המספר P(A) לאירוע A.

בפרשנות הקלאסית של לפלס, התקף למרחבים סופיים עם תוצאות אקוויבלסיביות, ההסתברות של A היא היחס בין מספר המקרים החיוביים למספר המקרים האפשריים.אם במרחב המדגם יש n תוצאות בעלות סבירות שווה (כלומר, #Ω = n) ואירוע A מכיל n_A מהתוצאות הללו (#A = n_A), אז ההסתברות ניתנת על ידי P(A) = n_A / n. נוסחה זו די אינטואיטיבית כאשר לכל התוצאות יש את אותו סיכוי להתרחש.

כבר הפרשנות התכופה זה מקשר את ההסתברות לתדירות היחסית שנצפתה בחזרות של ניסוי.מנקודת מבט זו, אנו חוזרים על הניסוי האקראי n פעמים וסופרים כמה פעמים מתרחש אירוע A, וקוראים למספר זה n_A; לאחר מכן אנו בוחנים את הגבול, ככל ש-n גדל, של השבר n_A / n. ההסתברות ל-A תהיה P(A) = lim_{n→∞} (n_A / n), בתנאי שגבול זה קיים.

ישנה גם פרשנות סובייקטיבית, הנמצאת בשימוש נרחב בסטטיסטיקה בייסיאנית, שבה הסתברות קשורה למידת האמונה של סובייקט רציונלי.בגישה זו, P(A) מכמת עד כמה אדם בטוח בהתרחשות A, תוך התחשבות בידע הזמין. לא הניסיון "נושא" את ההסתברות, אלא הנבדק מעריך את אי הוודאות באופן קוהרנטי.

למרות הפרשנויות השונות הללו, כולן יכולות להתקיים יחד באותה מסגרת אקסיומטית של קולמוגורוב.במילים אחרות, בין אם אתם מעדיפים נקודת מבט קלאסית, תכופה או סובייקטיבית, בסופו של דבר ההסתברות תמודל מתמטית על ידי פונקציה P אשר מצייתת לקבוצה קטנה של אקסיומות לגבי מרחב אירועים.

בנייה פורמלית: מרחבי הסתברות ואלגברות σ

קולמוגורוב תיאר את ההסתברות במונחים של משולש (Ω, F, P), הנקרא מרחב ההסתברות.במשולש זה, Ω הוא מרחב הדגימה, F הוא קבוצת האירועים האפשריים (טכנית, אלגברה σ של תת-קבוצות של Ω), ו-P היא פונקציית ההסתברות.

σ-אלגברה F היא אוסף מיוחד של תת-קבוצות של Ω המקיים תכונות מסוימות.באופן כללי, F צריכה להכיל את הקבוצה הריקה, להיות סגורה תחת משלים (אם A נמצא ב-F, אז גם המשלים שלה נמצא ב-F), ולהיות סגורה תחת איחודים ניתנים לספירה (אם A₁, A₂, ... נמצאים ב-F, אז גם האיחוד של כולם נמצא ב-F). מבנה זה מבטיח שנוכל לעבוד עם פעולות קבוצה מבלי לעזוב את יקום האירועים בעלי הסתברות מוגדרת היטב.

באופן פורמלי, F היא אלגברה של σ מעל Ω כאשר: הקבוצה הריקה ∅ שייכת ל-F; אם A נמצא ב-F, אז המשלים של A ב-Ω שייך גם הוא ל-F; ואם A₁, A₂, … הוא רצף (סופי או אינסופי לספירה) של איברים ב-F, אז האיחוד A₁ ∪ A₂ ∪ … נמצא גם הוא ב-F. בהקשרים רבים, F נקרא גם שדה בורל או שדה σ.

פונקציית ההסתברות P מוגדרת על F ומקצה לכל אירוע E ב-F מספר ממשי לא שלילי.לאחר מכן אנו אומרים ש-P(E) נמצא ב-ℝ ו-P(E) ≥ 0 עבור כל E ב-F. בתורת המידות הכללית, מידות יכולות לקבל ערכים אינסופיים, אך בתורת ההסתברות הסטנדרטית, P(E) תמיד סופית, מה שמביא כמה הבדלים ביחס למדדות כלליות יותר.

מבנה זה (Ω, F, P) כאשר P(Ω) = 1 הוא מה שאנו מכנים מרחב הסתברות.התנאי P(Ω) = 1 חיוני משום שהוא מייצג את הרעיון שכאשר מבצעים את הניסוי, תוצאה כלשהי ב-Ω בהחלט מתרחשת; אין "תוצאות נסתרות" מחוץ למרחב המדגם.

שלוש האקסיומות של קולמוגורוב

התיאוריה האקסיומטית של קולמוגורוב מבוססת על שלוש אקסיומות יסוד שכל פונקציית הסתברות חייבת לעמוד בהן.הם פשוטים לביטוי, אך חזקים ביותר, משום שכמעט כל התכונות הרגילות של ההסתברות נגזרות מהם.

אקסיומה ראשונה - אי-שליליות: עבור כל אירוע A השייך לאלגברה σ F, יש לנו P(A) ≥ 0. כלומר, הסתברויות לעולם אינן שליליות. בכמה תיאוריות אקזוטיות יותר, יש דיבור על "הסתברויות שליליות", אך רעיונות אלה חורגים מהמסגרת הקלאסית של קולמוגורוב.

אקסיומה שנייה - נורמליזציה: ההסתברות להתרחשות אירוע מסוים שווה ל-1, כלומר, P(Ω) = 1. אקסיומה זו קובעת את המוסכמה ש-1 מתאים ל-100% ודאות, ו-0 מתאים לחוסר אפשרות. בגרסאות בסיסיות יותר, ניתן להבין אקסיומה זו גם כאומרת שסכום ההסתברויות של כל התוצאות הבסיסיות של Ω שווה ל-1.

אקסיומה שלישית - σ-אדיטיביות: אם A₁, A₂, … הוא רצף של אירועים זוגיים נפרדים (הנקראים גם אירועים בלעדיים זה לזה), אז P(∪ᵢ Aᵢ) = Σᵢ P(Aᵢ). זה נכון גם לגבי אוסף סופי וגם לגבי אוסף אירועים אינסופי לספירה. תכונת הספירה הזו היא ההבדל העיקרי בהשוואה לאוסף סופית גרידא.

בהקשרים פשוטים יותר, חלק מהמחברים עובדים רק עם אדיטיביות סופית., הדורש ש-P(A ∪ B) = P(A) + P(B) עבור אירועים מנותקים A ו-B, ושזה משתרע על מספר סופי של קבוצות. במקרה זה, די לעבוד עם אלגברה של קבוצה, לאו דווקא אלגברה של σ, אבל הגישה הסטנדרטית בהסתברות מודרנית היא לדרוש חיבור של σ.

מאקסיומה שלישית זו נובעות מספר תוצאות חשובות, כגון שוויונים, אי-שוויונים וחוקי הסתברות.הוא גם נמצא בלב הקשר בין תורת ההסתברות לתורת המידה, החוקרת מידות בקבוצות באופן כללי למדי.

תכונות הנגזרות מאקסיומות

בהתבסס על שלוש האקסיומות של קולמוגורוב, הצלחנו להוכיח מספר תכונות בסיסיות ושימושיות ביותר.תכונות אלה אינן מניחות מראש: הן תוצאות לוגיות של האקסיומות.

אחת התכונות הראשונות היא המונוטוניות של ההסתברות.אם A ו-B הם אירועים ב-F ו-A נמצא ב-B (A ⊆ B), אז P(A) ≤ P(B). הרעיון הוא אינטואיטיבי: אם B כולל את כל מה שיכול לקרות ב-A, ואולי יותר, אז ל-B לא יכולה להיות הסתברות נמוכה יותר מאשר ל-A.

תכונה בסיסית נוספת היא שההסתברות לאירוע בלתי אפשרי היא אפס.מנקודת מבט פורמלית, באמצעות σ-אדיטיביות, אנו בוחנים רצף שבו E₁ = A, E₂ = B \ A ו-Eᵢ = ∅ עבור i ≥ 3, בתרחיש שבו A ⊆ B. מכיוון שה-Eᵢ אינן קשורות והאיחוד שלהן הוא B, סכום ההסתברויות חייב להתכנס ל-P(B). אם נניח ש-P(∅) = a > 0, אז סכום P(∅) אינסופי פעמים יתפוצץ לאינסוף, דבר שאינו תואם את P(B) הסופי. מכאן אנו מסיקים ש-P(∅) = 0.

לכן, נוכל לקבוע את אי השוויון 0 ≤ P(E) ≤ 1 עבור כל אירוע E ב-F.כבר ידענו ש-P(E) ≥ 0 מהאקסיומה הראשונה. בידיעה ש-P(Ω) = 1 ובשימוש במונוטוניות עם E ⊆ Ω, נובע מכך ש-P(E) ≤ P(Ω) = 1. לכן, כל הסתברות היא תמיד בין 0 ל-1, כולל.

זהות נפוצה היא מה שנקרא חוק אוסף עבור כל שני אירועים.עבור אירועים A ו-B ב-F, מתקיים ש-P(A ∪ B) = P(A) + P(B) − P(A ∩ B). נוסחה זו מתקנת את "הספירה הכפולה" של האירוע המשותף A ∩ B, אשר מתווסף פעמיים אם נסכם את P(A) ואת P(B) ללא התאמה.

תוצאה חשובה נוספת היא הקשר בין אירוע לבין ההשלמה שלו.אם נסמן את המשלים של A ב-̄A, אז P(̄A) = 1 − P(A). שוויון זה מעביר את הרעיון ש"או ש-A קורה או ש-A לא קורה", ואין אפשרות אחרת בתוך Ω.

מכאן, מתברר גם ש-P(A) = 0 לא בהכרח מרמז ש-A הוא האירוע הבלתי אפשרי.במונחים מתמטיים, ייתכן שאירוע בעל הסתברות אפסית מבלי להיות קבוצה ריקה (זה מופיע, למשל, במרחבים רציפים), אך ברמה הבסיסית ביותר, P(A) = 0 מקושר בדרך כלל לאירועים כמעט בלתי אפשריים.

דוגמה מעשית: הטלת מטבע

דוגמה קלאסית ודידקטית מאוד להמחשת האקסיומות של קולמוגורוב היא הטלת מטבע.נניח, ראשית, שהמטבע יכול לנחות רק על "עשור" (H) או "זנבות" (T), ושאלו התוצאות היחידות האפשריות.

לאחר מכן נגדיר את מרחב הדגימה כ- Ω = {H, T}האירועים האפשריים יוצרים אלגברה σ F המורכבת מ-{∅, {H}, {T}, {H, T}}. בהקשר זה, האירוע הבלתי אפשרי הוא ∅, האירועים האלמנטריים הם {H} ו-{T}, והאירוע הוודאי הוא {H, T}.

מאקסיומות קולמוגורוב, אנו יודעים ש-P(∅) = 0 ו-P(Ω) = 1אם נניח שהמטבע הוגן, כלומר, הוא אינו מעדיף אף אחד מהצדדים, אז הסימטריה מצביעה על כך ש-P({H}) = P({T}). מכיוון שסכום P({H}) + P({T}) חייב להיות שווה ל-1, נסיק ששניהם שווים 1/2.

לכן, ההסתברות לקבל "עץ או זנב" היא P({H, T}) = 1ההסתברות לקבל "עשר" היא P({H}) = 1/2 וההסתברות לקבל "זנבות" היא P({T}) = 1/2. סכום ההסתברויות של האירועים האלמנטריים ממצה את ההסתברות הכוללת של המרחב.

מודל זה, למרות היותו פשוט, ממחיש כיצד אקסיומות מתנהגות בפועל וכיצד הן מונעות סתירות בחישובי הסתברות.אם לא נגדיר בקפידה את מרחב המדגם, נוכל לעשות טעויות חמורות, משום שכל אירוע הוא תמיד תת-קבוצה של Ω; אם תת-הקבוצה אינה מתאימה ל-Ω, ההסתברות שלה אפילו לא מוגדרת.

הסתברות במרחבים סופיים וניתנים לספירה

כאשר מרחב המדגם הוא סופי או ניתן לספירה, ניתן לתאר את ההסתברות בצורה קונקרטית מאוד.נניח ש-Ω = {ω₁, ω₂, …} היא קבוצה סופית או ניתנת לספירה של תוצאות אפשריות.

אם A הוא אירוע המכיל חלק מהתוצאות הללו, כגון A = {ω₁*, …, ω_{k*}, …}לכן, ניתן לראות את ההסתברות של A כסכום ההסתברויות של האירועים האלמנטריים המתאימים: P(A) = P(∪ᵢ {ω_{i*}}) = Σᵢ P({ω_{i*}}). זהו יישום ישיר של אדיטיביות (או σ-אדדיטיביות) על קבוצות דיסקווינטיות.

במקרה המסוים שבו מרחב הדגימה סופי, כאשר #Ω = n, וכל התוצאות הן אקווי-סבירותיש לנו P({ωᵢ}) = 1/n עבור כל i. אם A מכיל k תוצאות שונות ב-Ω, אז P(A) = Σ_{i=1}^k P({ω_{i*}}) = k/n = (#A)/(#Ω). זוהי בדיוק נוסחת לפלס הקלאסית המפורשת מחדש במסגרת האקסיומטית המודרנית.

כאשר מרחב המדגם הוא אינסופי באופן ספירה, סכום ההסתברויות של האירועים האלמנטריים עדיין צריך להתכנס ל-1.כלומר, Σᵢ P({ωᵢ}) = 1. כאן σ-אדיטיביות מראה את כוחה, ומאפשר לנו להתמודד לא רק עם סכומים סופיים, אלא גם עם סדרות אינסופיות של אירועים.

הסתברות מותנית ותפקידן של אקסיומות.

היבט מרכזי של התיאוריה הוא הבנת האופן שבו ההסתברות משתנה כאשר אנו יודעים שאירוע מסוים כבר התרחש.כאן נכנסת לתמונה הסתברות מותנית, שבדרך כלל נכתבת כ-P(A | B), שמשמעותה "ההסתברות ש-A אכן התרחשה בהינתן ש-B אכן התרחש".

הנוסחה הבסיסית להסתברות מותנית היא P(A | B) = P(A ∩ B) / P(B), בתנאי ש-P(B) > 0הגדרה זו עולה בקנה אחד עם האקסיומות של קולמוגורוב, ולמעשה, עבור כל B עם P(B) > 0, הפונקציה A ↦ P(A | B) מקיימת שוב את שלוש האקסיומות כאשר אנו מגבילים את מרחב האירועים ל-B.

משמעות הדבר היא ש-P(· | B) היא בעצמה פונקציית הסתברות מעל מרחב הדגימה ה"חדש" B.כתוצאה מכך, כל התכונות הבסיסיות מתקיימות עבור הסתברויות מותנות: P(̄A | B) = 1 − P(A | B), P(∅ | B) = 0, מונוטוניות מותנית (אם A₁ ⊆ A₂, אז P(A₁ | B) ≤ P(A₂ | B)) והנוסחה P(A₁ ∪ A₂ | B) = P(A₁ | B) + P(A₂ | B) − P(A₁ ∩ A₂ | B).

הקשר החשוב P(A ∩ B) = P(A) P(B | A), כאשר P(A) > 0, נגזר גם הוא מהגדרת ההסתברות המותנית.באופן סימטרי, נוכל לכתוב P(A ∩ B) = P(B) P(A | B), בתנאי ש-P(B) > 0. שוויונים אלה עוזרים לפרק הסתברויות משותפות והם הבסיס למספר תוצאות, כגון משפט בייס.

מעניין לציין כי ניתן לראות הסתברות "בלתי מותנית" כמקרה פרטי של הסתברות מותנית.אכן, נוכל לכתוב P(A) = P(A ∩ Ω) / P(Ω) = P(A | Ω), מכיוון ש-P(Ω) = 1. זה מחזק את הרעיון שמבחינה מושגית, כל הסתברות מותנית במידע רקע כלשהו, ​​גם אם מדובר רק בידיעה שאנו עובדים בתוך Ω.

עצמאות האירועים

מושג מפתח נוסף הנשען על אקסיומות הוא מושג העצמאות בין אירועים.שני אירועים A ו-B הם בלתי תלויים אם התרחשותו של אחד מהם אינה משנה את ההסתברות לאירוע השני.

בשפה פורמלית, A ו-B בלתי תלויים כאשר P(A ∩ B) = P(A) P(B)מבחינת הסתברות מותנית, משמעות הדבר היא שאם P(B) > 0, אז P(A | B) = P(A), ואם P(A) > 0, אז P(B | A) = P(B). כלומר, ידיעה ש-B התרחשה אינה משנה את ההסתברות ל-A, ולהיפך.

כל אירוע אינו תלוי באירוע הבלתי אפשרי ∅ ובאירוע הוודאי Ω.עבור הקבוצה הריקה, P(A ∩ ∅) = 0 ו- P(∅) = 0, כך שהקשר מתקיים באופן טריוויאלי. עבור אירוע מסוים, P(A ∩ Ω) = P(A) ו- P(Ω) = 1, לכן P(A ∩ Ω) = P(A) P(Ω) = P(A).

שאלה נפוצה היא האם שני אירועים נפרדים יכולים להיות בלתי תלויים.באופן כללי, אם A ו-B אינם קשורים זה לזה ולשניהם יש הסתברות חיובית, אז P(A ∩ B) = 0, אבל P(A) P(B) > 0, דבר שמפר את הגדרת העצמאות. לכן, במקרים רבים, שני אירועים בלתי קשורים עם הסתברות שאינה אפס אינם בלתי תלויים, מכיוון שהתרחשות האחד שוללת את האפשרות של השני.

כאשר עוסקים ביותר משני אירועים, עולות מספר מושגים שונים של עצמאות.יכולה להיות לנו אי-תלות זוגית, אי-תלות משותפת וסוגים אחרים. בכל המקרים הללו, עם זאת, נקודת המוצא נותרת היחס P(A ∩ B) = P(A) P(B), המבוסס על האקסיומות של קולמוגורוב והגדרת ההסתברות המותנית.

כללים מעשיים וחוקי הסתברות קלאסיים

מעבר לתכונות הפורמליות שלהן, אקסיומות מאפשרות ניסוח של חוקים אופרטיביים יותר, שימושיים בעבודתם היומיומית של אלו המבצעים חישובי הסתברות.אחד מהם הוא חוק החיבור, שכבר הוזכר בצורה P(A ∪ B) = P(A) + P(B) − P(A ∩ B), אשר ניתן להרחיבו למספר גדול יותר של אירועים באמצעות עקרון ההכללה-הדרה.

כלל נפוץ נוסף הוא הקשר בין אירוע לחלקו "החיצוני" של אירוע אחר.עבור A ו-B ב-F, מתקיים התנאים הבאים: P(A ∩ ̄B) = P(A) − P(A ∩ B). זהו פשוט פירוק של A לשני חלקים: החלק שמופיע יחד עם B (A ∩ B) והחלק שמופיע ללא B (A ∩ ̄B). שני חלקים אלה אינם מחוברים זה לזה, ואיחודם הוא A, מה שמוביל לשוויון הקודם על ידי חיבור.

חוק ההסתברות הכוללת ומשפט בייס, למרות שלא מפורטים במלואם כאן, גם הם מסתמכים ישירות על האקסיומות.חוק ההסתברות הכוללת משלב הסתברויות מותנות לחלוקה של מרחב המדגם, בעוד שמשפט בייס "הופך" הסתברויות מותנות, ומאפשר לעדכן הסתברויות על סמך ראיות חדשות.

בגרסאות דידקטיות יותר, מופיעות גם כמה "אקסיומות מעשיות" קלות לשינון.לדוגמה: ההסתברות המקסימלית היא 1 (100%); סכום ההסתברויות של כל האלמנטים במרחב המדגם שווה ל-1; וההסתברות לאירוע X שנוספת להסתברות ל"לא X" היא תמיד 1. משפטים אלה משקפים ישירות את האקסיומות הפורמליות.

בעזרת מערכת חוקים זו, ניתן לפתור בעיות הנעות בין משחקי מזל פשוטים ועד מודלים מתוחכמים עם משתנים רבים.היתרון הגדול הוא שמאחורי כל הנוסחאות וטריקי החישוב, התמיכה הלוגית נשארת אותה חצובה אקסיומטית.

אקסיומות ההסתברות של קולמוגורוב מספקות בסיס קפדני אך גמיש להתמודדות עם אי ודאות.בהתבסס על שלושה עקרונות פשוטים - אי-שליליות, נורמליזציה ו-σ-אדיטיביות - נבנתה תיאוריה עשירה שלמה, המסוגלת לשלב פרשנויות קלאסיות, תכופות וסובייקטיביות, להתמודד עם מרחבים סופיים או אינסופיים, לתאר הסתברויות מותנות ועצמאות, ולתמוך ביישומים כמעט בכל התחומים המדעיים והטכנולוגיים.