הסתברות/חזאים

חזאי אופטימלי

תבנית:מבנה תבנית חזאי (נקרא גם: משערך) הוא פונקציה אשר נותנת הערכה למשתנה מקרי כלשהו, בהינתן תוצאת דגימה של משתנה מקרי אחר. במילים אחרות: אם X הוא המצוי ו-Y הוא הרצוי אז: תבנית:משפט

כלומר אנו רוצים למצוא פונציה h כזו, כך שיתקיים: $𝔼(Y-h(X)|X)=0$.

תכונות

• אם X,Y בלתי תלויים, אז $\hat{Y}=𝔼Y$.

דוגמאות

• יהי X מ"מ חיובי, ו-Y מפולג באחידות בין 0 ל-X. כאן $\hat{Y}=\frac{X}{2}$ כי התוחלת של Y בהינתן X היא הניחוש הטוב ביותר (הקרוב ביותר) עבור ערכו של Y.

חזאי לינארי אופטימלי

כשמו כן הוא: החזאי הלינארי הוא פונקציה של קו ישר כזה, שיתן את הערך הטוב ביותר עבור מ"מ כלשהו, בהינתן מ"מ אחר. ברוב המקרים החזאי האופטימלי טוב יותר מהחזאי הלינארי האופטימלי, אך הוא גם קשה יותר לחישוב. נוח במיוחד להשתמש בחזאי הלינארי כאשר לא יודעים את חוק ההסתברות אלא רק את שני המומנטים הראשונים. תבנית:מבנה תבנית

הוכחה

אנו מחפשים את ערכו של הביטוי $\underset{a,b}{\min }𝔼(Y-aX-b{)}^2$. לכן נשווה את הנגזרת שלו לפי a ולפי b לאפס:

$𝔼(Y-aX-b{)}^2=𝔼Y^2+a^2𝔼X^2+b^2-2a𝔼XY-2b𝔼Y+2ab𝔼X$

$\Rightarrow \{\begin{array}{c}\frac{\partial }{\partial a}=2a𝔼X^2-2𝔼XY+2b𝔼X=0\\ \frac{\partial }{\partial b}=2b-2𝔼Y+2a𝔼X=0\end{array}\Rightarrow a=\frac{{\sigma }_{X,Y}}{{\sigma }_X^2},b={\mu }_Y-\frac{{\sigma }_{X,Y}}{{\sigma }_X^2}{\mu }_X$