הסתברות/משפט הגבול המרכזי

פילוג בינומי וגאוסי

משפט הגבול המרכזי אומר שאם נקח סדרת מ"מ בתמ"ז, אז כעבור n קונבולוציות נקבל התפלגות שקרובה להתפלגות גאוסית.

המתמטיקאי אברהם דה-מואבר הציג את ההתפלגות הנורמלית לראשונה בשנת 1733 כקירוב להתפלגות הבינומית עבור מספר גדול של דגימות. יש לשים לב לדקות הבאה: בעוד שפונקצית ההתפלגות של מ"מ בינומי דומה להתפלגות הגאוסית, כאן מדובר במספר רב של מ"מ בינומיים, אשר מתפלגים יחד התפלגות גאוסית.

מקרה פרטי

במילים אחרות, $\frac{S_n}{\sqrt{n}}\to N(0,{\sigma }^2)$ בהתפלגות.

שימו לב כי:

• $𝔼\frac{S_n}{\sigma \sqrt{n}}=0$
• $Var\left(\frac{S_n}{\sigma \sqrt{n}}\right)=\frac{Var(S_n)}{n{\sigma }^2}=\frac{n{\sigma }^2}{n{\sigma }^2}=1$

הוכחה

נגדיר מ"מ חדשים: ${\tilde{X}}_i=\frac{X_i}{\sigma }$, כך שמתקיים: $𝔼{\tilde{X}}_i=0,Var{\tilde{X}}_i=1$. על מנת להראות התכנסות להתפלגות הגאוסית נראה כי הפונקציות האופייניות זהות, כלומר ש: ${\varphi }_{\frac{S_n}{\sqrt{n}}}\to e^{-\frac{s^2}{2}}$:

${\varphi }_{\frac{S_n}{\sqrt{n}}}(s)={\varphi }_{S_n}\left(\frac{s}{\sqrt{n}}\right)=\prod _{i=1}^n{\varphi }_{{\tilde{X}}_i}\left(\frac{s}{\sqrt{n}}\right)={\left[{\varphi }_{{\tilde{X}}_1}\left(\frac{s}{\sqrt{n}}\right)\right]}^n$

כעת נפתח לטור טיילור עם שלושה איברים מובילים (בהמשך נלך לגבול ושאר האיברים יפלו ממילא):

$\begin{array}{ccc}\varphi (0)& =& 1\\ {\varphi }^{\prime }(0)& =& i𝔼{\tilde{X}}_i=0\\ {\varphi }^{″}(0)& =& i^2𝔼{\tilde{X}}_i^2=-1\\ \varphi (s)& =& 1-\frac{s^2}{2}+R_3\end{array}$

נציב ונקבל:

${\left[{\varphi }_{{\tilde{X}}_1}\left(\frac{s}{\sqrt{n}}\right)\right]}^n={(1-\frac{s^2}{2n}+\frac{R_3}{\sqrt{n}})}^n={(1+\frac{-\frac{s^2}{2}+R_3\sqrt{n}}{n})}^n\to {(1+\frac{-\frac{s^2}{2}}{n})}^n\to e^{-\frac{s^2}{2}}$

כלומר קיבלנו שלסדרת המ"מ בתמ"ז שלנו יש אותה פונקציה אופיינית כמו לפילוג הגאוסי, ולכן פונקציות ההסתברות שלהן זהות.

מקרה כללי

במילים אחרות, $\frac{S_n-n\mu }{\sqrt{n}}\to N(0,{\sigma }^2)$ בהתפלגות.

שוב,

• $𝔼\frac{S_n-n\mu }{\sigma \sqrt{n}}=0$
• $Var\left(\frac{S_n-n\mu }{\sigma \sqrt{n}}\right)=1$

הוכחה

נתקן את המ"מ לבעלי תוחלת 0 ונשתמש במקרה הפרטי: נגדיר ${\hat{X}}_i=X_i-\mu$ כך שמתקיים $𝔼{\hat{X}}_i=0,Var{\hat{X}}_i={\sigma }^2$. על פי המקרה הפרטי מתקיים:

$\lim {\mathrm{\backslash limits}}_{n\to \mathrm{\infty }}\mathbb{P}(\frac{{\hat{S}}_n}{\sigma \sqrt{n}}\le x)=\mathrm{\Phi }(x)$

אבל:

$\lim {\mathrm{\backslash limits}}_{n\to \mathrm{\infty }}\mathbb{P}(\frac{{\hat{S}}_n}{\sigma \sqrt{n}}\le x)=\lim {\mathrm{\backslash limits}}_{n\to \mathrm{\infty }}\mathbb{P}(\frac{S_n-n\mu }{\sigma \sqrt{n}}\le x)\Rightarrow \lim {\mathrm{\backslash limits}}_{n\to \mathrm{\infty }}\mathbb{P}(S_n\le \stackrel{\hat{x}}{\overbrace{n\mu +x\sigma \sqrt{n}}})=\mathrm{\Phi }(x)$

ולכן:

$\lim {\mathrm{\backslash limits}}_{n\to \mathrm{\infty }}\mathbb{P}(S_n\le \hat{x})=\mathrm{\Phi }\left(\frac{\hat{x}-n\mu }{\sigma \sqrt{n}}\right)$

סיכום

אם S הוא סכום מ"מ בתמ"ז, אז הוא בקירוב מתפלג גאוסית עם התוחלת והשונות המקוריים שלו: $S\sim N(𝔼S,VarS)$. בפירוט רב יותר:

$\begin{array}{ccc}\frac{S_n-n\mu }{\sqrt{n}}& \to & N(0,{\sigma }^2)\\ S_n-n\mu & \to & N(0,n{\sigma }^2)\\ S_n& \to & N(n\mu ,n{\sigma }^2)\end{array}$

ואז:

$\begin{array}{ccc}\mathbb{P}(\frac{S_n-n\mu }{\sigma \sqrt{n}}\le x)& \approx & \mathrm{\Phi }(x)\\ \mathbb{P}(S_n\le n\mu +\sigma \sqrt{n}x)& \approx & \mathrm{\Phi }(x)\\ \mathbb{P}(S_n\le \hat{x})& \approx & \mathrm{\Phi }\left(\frac{\hat{x}-n\mu }{\sigma \sqrt{n}}\right)\end{array}$

כאשר מגדירים:

$\hat{x}=n\mu +\sigma \sqrt{n}x,x=\frac{\hat{x}-n\mu }{\sigma \sqrt{n}}$

לרוב המקרים, הנוסחה השימושית היא זו האחרונה, ועבור קטע היא מקבלת את הצורה:

$\mathbb{P}(a\le S_n\le b)\approx \mathrm{\Phi }\left(\frac{b-n\mu }{\sigma \sqrt{n}}\right)-\mathrm{\Phi }\left(\frac{a-n\mu }{\sigma \sqrt{n}}\right)$

דוגמאות

(להשלים)