הסתברות/מבוא/נוסחת בייס

תבנית:הסתברות חוק בייס הוא תוצאה בתורת ההסתברות המאפשרת לחשב הסתברות מותנית של מאורע כאשר יודעים דווקא את ההסתברויות המותנות ההפוכות.

הגדרה

נוסחת בייס (Bayes) נובעת משימוש כפול בנוסחת ההסתברות המותנה: תבנית:משפט

נשים לב שלפי הגדרת ההסתברות המותנית,

$\mathbb{P}(B|A)\cdot \mathbb{P}(A)=\mathbb{P}(A|B)\cdot \mathbb{P}(B)=\mathbb{P}(A\cap B)$

חוק בייס נובע מחלוקת כל האגפים ב- $\mathbb{P}(B)$ .

כעת נניח שיש לנו מאורעות זרים $A_1,\dots ,A_n$ , אשר איחודם הוא מרחב המדגם, דהיינו $\bigcup _k{A}_k=\mathrm{\Omega }$ . נשים לב שבמקרה זה, $\mathbb{P}(A)=\bigcup _k\mathbb{P}(A_k)$ , ולפי נוסחת ההסתברות השלמה נוכל לכתוב

$\mathbb{P}(B)=\sum _k\mathbb{P}(B|A_k)P(A_k)$

הדבר מוביל למשפט בייס בניסוח אחר. תבנית:משפט

דוגמאות

דוגמא א'

נניח שלפנינו שני כדים.

1. בכד א' 3 כדורים אדומים ו-2 כחולים.
2. בכד ב' 2 כדורים אדומים ו-3 כחולים. מטילים מטבע הוגן (הסתברות 0.5 לכל צד).

אם יצא עץ שולפים באקראי כדור מכד א' ואם יצא פלי שולפים באקראי כדור מכד ב'. השאלה: בהינתן ששלפנו כדור אדום, מה הסיכוי שיצא עץ?

פתרון: ברור כי בכד א' יותר כדורים אדומים מאשר בכד ב'. לכן סיכוי גדול יותר שהוצאנו כדור מכד א' (עץ) מאשר מכד ב'. נראה זאת בצורה מדויקת.תבנית:ש

נסמן מאורע H: יצא עץ בהטלת המטבע = נבחר כד א'. נסמן מאורע R: שלפנו כדור אדום. נחשב את ההסתברויות הבאות:תבנית:ש

$\mathbb{P}(H)=\mathbb{P}(H^c)=\frac{1}{2}$ כי הסיכוי לעץ ופלי שווה.תבנית:ש $\mathbb{P}(R|H)=\frac{3}{5}$ כי אם יצא עץ, סיכוי של 3 מתוך 5 לאדום.תבנית:ש $\mathbb{P}(R|H^c)=\frac{2}{5}$ כי אם יצא פלי סיכוי של 2 מתוך 5 לאדום.תבנית:ש ועכשיו ע"פ נוסחת בייס להסתברות שלמה:תבנית:ש $\mathbb{P}(H|R)=\frac{\mathbb{P}(R|H)\cdot \mathbb{P}(H)}{\mathbb{P}(R|H)\cdot \mathbb{P}(H)+\mathbb{P}(R|H^c)\cdot \mathbb{P}(H^c)}=\frac{\frac{3}{5}\cdot \frac{1}{2}}{\frac{3}{5}\cdot \frac{1}{2}+\frac{2}{5}\cdot \frac{1}{2}}=\frac{3}{5}$

דוגמא ב'

נמלה צועדת על ציר המספרים, כך שבכל צעד היא מתקדמת יחידה אחת ימינה בהסתברות p, ויחידה אחד שמאלה בהסתברות q, הכל באופן בלתי-תלוי. מהי ההסתברות שהנמלה תחזור לראשית בפעם הראשונה כעבור 6 צעדים?

פתרון: אחרי שבחרנו כיוון הליכה (לכיוון החיובי או השלילי), אין אנו יכולים לחזור לראשית לפני הצעד השישי, ולכן נבחן רק מקרה אחד. אם כן, נניח שהצעד הראשון הוא בכיוון החיובי. לכן גם הצעד השני חייב להיות בכיוון החיובי, אחרת חזרנו לראשית. כלומר כבר יש לנו בוודאות את הצירוף "pp". הצעדים היחידים שיביאו אותנו לראשונה לראשית כעבור 6 מהלכים הם שני הצירופים "pqqq", "qpqq". ולכן:

$p_1=pp(pqqq+qpqq)=2(pq{)}^3$

כעת, עבור הכיוון השלילי עלינו פשוט להחליף בצירופים הקודמים את p,q, כך שנקבל:

$p_2=qq(qppp+pqpp)=2(pq{)}^3$

שימו לב כי קיבלנו תוצאה זהה מאחר ומספר הצעדים הוא זוגי, ונדרשים מספר צעדים זהה בכל כיוון. יתרה מזאת: עקרונית, מותר להכפיל במקרה כזה את אחת ההסתברויות p₁,p₂ פי 2 כדי לקבל את ההסתברות המלאה רק כאשר p=q=0.5 כי אחרת מרחב המדגם אינו סימטרי. כאן, יצא במקרה שהכפלה פי 2 נותנת את התשובה הנכונה.

לבסוף: $p=p_1+p_2=4(pq{)}^3$ .

מהי ההסתברות שהנמלה תהיה בנקודה 1 אחרי הצעד החמישי, אם אחרי הצעד השמיני היא היתה בראשית?

פתרון: על-פי נוסחת בייס:

$\mathbb{P}(M_5=1|M_8=0)=\frac{\mathbb{P}(M_8=0|M_5=1)\cdot \mathbb{P}(M_5=1)}{\mathbb{P}(M_8=0)}$

האפשרויות להגיע בצעד החמישי ל-1 הן כל הסידורים האפשריים של {pppqq}. יש כאן 5 עצמים מ-2 סוגים שונים (2 מסוג q ו-3 מסוג p), ולכן סך כל הצירופים האפשריים הוא: $\frac{5!}{3!2!}=10$ ולכן:

$\mathbb{P}(M_5=1)=10p^3{q}^2$

האפשרויות להגיע בצעד השמיני ל-0 הן כל הסידורים האפשריים של {ppppqqqq}. יש כאן 8 עצמים מ-2 סוגים שונים (4 מסוג p ו-4 מסוג q), ולכן סך כל הצירופים האפשריים הוא: $\frac{8!}{4!4!}=70$ ולכן:

$\mathbb{P}(M_8=0)=70p^4{q}^4$

האפשרויות להגיע ל-0 בצעד השמיני אם בצעד החמישי אנו ב-1 הן כל הסידורים האפשריים של {pqq}. יש כאן 3 עצמים מ-2 סוגים שונים (1 מסוג p ו-2 מסוג q) ולכן סך כל הצירופים האפשריים הוא: $\frac{3!}{1!2!}=3$ ולכן:

$\mathbb{P}(M_8=0|M_5=1)=3p{q}^2$

לסיכום:

$\mathbb{P}(M_5=1|M_8=0)=\frac{\mathbb{P}(M_8=0|M_5=1)\cdot \mathbb{P}(M_5=1)}{\mathbb{P}(M_8=0)}=\frac{3p{q}^2\cdot 10p^3{q}^2}{70p^4{q}^4}=\frac{3}{7}$

שימו לב כי ההסתברות אינה תלויה בערכי p,q!!