用戶:無心十二載/Blackboard

定義

首先，定義一個和「分佈」很相似的東西，就叫它概率空間好了。 定義：由一個樣本空間中的基本事件以及基本事件相應發生的概率構成的空間稱之為概率空間 它長成這樣：

$$\left( \begin{array} {cc} 基本事件1 & 基本事件2 & ... & 基本事件n \\ 基本事件1发生的概率 & 基本事件2发生的概率 & ... & 基本事件n发生的概率\end{array} \right)$$

符號表示：

$$\left( \begin{array} {cc} x_1 & x_2 & ... & x_n \\ p_1 & p_2 & ... & p_n \end{array} \right)$$

根據定義，不難得出能夠做出概率空間的充要條件是： $$\sum_{i=1}^n p_i=1 \qquad (1-1)$$ $$x_i \cap x_j = \phi \ ( i,j \in \{1,2,...,n\} , i \neq j ) \qquad (1-2)$$

與「分佈」的兼容問題

根據「概率空間」的定義，基礎事件$x_n$不一定需要用數字表示 但有時我們可以通過一些巧妙的轉換可以求得某些數值的「期望」

例1

先後丟兩個硬幣，求硬幣正面朝上個數的期望

運用「分佈」的解法

通過一系列的計算，得到正面朝上數$X$的分佈： $$\left( \begin{array} {cc} 0 & 1 & 2 \\ \frac14 & \frac12 & \frac14 \end{array} \right)$$ $$E[X]=0 \times \frac14 + 1 \times \frac12 + 2 \times \frac14 = 1$$

運用「概率空間」的解法

和正統「期望」的思路一致：把概率作為權重，對相應取值進行加權平均，通過「概率空間」得出的期望用$F[X]$表示 用$T$表示「正」，用$F$表示「反」；$(T,F)$表示第一次正面朝上，第二次反面朝上 做出概率空間：

$$\left( \begin{array} {cc} (T,T) & (T,F) & (F,T) & (F,F) \\ \frac14 & \frac14 & \frac14 & \frac14 \end{array} \right)$$

然後用$\hat {(T,T)}$表示事件$(T,T)$在選定的觀察角度下對於期望所代表的數值，在此處$\hat {(T,T)} = 2$ $F[X]=$所有事件代表的數值與相應事件發生概率乘積之和

$$F[X]= 2 \times \frac14 + 1 \times \frac14 + 1 \times \frac14 +0 \times \frac14 = 1$$

雖然沒有嚴格證明，但的確$E[X]=F[X]$

問題1

求證： $$E[X+Y]=E[X]+E[Y]$$

解：

要證：

$$E[X+Y]=E[X]+E[Y]$$

就是證：

$$F[X+Y]=F[X]+F[Y]$$

不妨先做出$X$與$Y$的概率空間

$$X:$$ $$\left( \begin{array} {cc} x_1 & x_2 & ... & x_n \\ p_1 & p_2 & ... & p_n \end{array} \right)$$ $$\sum_{j=1}^n p_j=1 \qquad (2-1)$$ $$F[X] = \sum_{j=1}^n {p_j \hat{x_j}} \qquad (2-2)$$ $$Y:$$ $$P(y_i \mid x_j) = t_{ji}$$ $$\left( \begin{array} {cc} y_1 & y_2 & ... &y_m \\ \sum_{j=1}^n {p_j t_{j1}} & \sum_{j=1}^n {p_j t_{j2}} & ... & \sum_{j=1}^n {p_j t_{jm}} \end{array} \right)$$ $$F[Y] = \sum_{i=1}^m { \sum_{j=1}^n {p_j t_{ji} \hat{y_i} }} \qquad (2-3)$$

則$X+Y:$

$$\left( \begin{array} {cc} (x_1 , y_1) & (x_2 , y_1) & ... & (x_n , y_1) & (x_1 , y_2) & ... & (x_n , y_m) \\ p_1 t_{11} & p_2 t_{21} & ... & p_n t_{n1} & p_1 t_{12} & ... & p_n t_{nm} \end{array} \right)$$

其中$(x_1 , y_1)$表示既發生$x_1$事件，又發生$y_1$事件 且不難得出$\hat{(x_1,y_1)}=\hat{x_1}+\hat{y_1}$

$$F[X+Y]=\sum_{i=1}^m { \sum_{j=1}^n { p_i t_{ji} \hat{ (x_j y_i) } } }$$ $$=\sum_{i=1}^m { \sum_{j=1}^n { p_i t_{ji} (\hat{x_j} + \hat{y_i}) } }$$ $$=\sum_{i=1}^m { \sum_{j=1}^n { p_i t_{ji} \hat{x_j} } } + \sum_{i=1}^m { \sum_{j=1}^n { p_i t_{ji} \hat{y_i} } }$$

根據$(2-3)$

$$=\sum_{i=1}^m { p_i \sum_{j=1}^n { t_{ji} \hat{x_j} } } +F[Y]$$

根據$(2-2)$

$$=\sum_{i=1}^m { p_i F[X] } +F[Y] = F[X] \sum_{i=1}^m {p_i} +F[Y]$$

根據$(2-1)$

$$=F[X] + F[Y]$$

綜上 $$F[X+Y] = F[X] + F[Y]$$ $$Q.E.T.$$

問題2

已知： $X$與$Y$相互獨立 求證： $$D[X+Y]=D[X]+D[Y]$$

解：

$$D[X+Y]=E[(X+Y)^2]-E[X+Y]^2$$

$$=E[X^2+2XY+Y^2]-(E[X]+E[Y])^2$$ $$=E[X^2]+2E[XY]+E[Y^2]-(E[X]^2+2E[X]E[Y]+E[Y]^2)$$

$D[X+Y]=$$(E[X^2]-E[X]^2)+(E[Y^2]-E[Y]^2)$$+2(E[XY]-E[X]E[Y]) \qquad (3-1)$ $D[X]+D[Y]=$$(E[X^2]-E[X]^2)+(E[Y^2]-E[Y]^2)$$ \qquad \qquad \qquad \qquad \qquad \qquad \qquad (3-2)$ 根據$(3-1),(3-2)$ 要證

$$D[X+Y]=D[X]+D[Y]$$

就要證

$$E[XY]=E[X]E[Y]$$ $$X:$$ $$\left( \begin{array} {cc} x_1 & x_2 & ... & x_n \\ p_1 & p_2 & ... & p_n \end{array} \right)$$ $$\sum_{j=1}^n {p_j \hat{x_j} } =E[X] \qquad (4-1)$$ $$Y:$$ $$\left( \begin{array} {cc} y_1 & y_2 & ... & y_m \\ t_1 & t_2 & ... & t_m \end{array} \right)$$ $$\sum_{i=1}^m {t_i \hat{y_i} } =E[Y] \qquad (4-2)$$ $$XY:$$ $$\left( \begin{array} {cc} (x_1 , y_1) & (x_2 , y_1) & ... & (x_n , y_1) & (x_1 , y_2) & ... & (x_n , y_m) \\ p_1 t_{1} & p_2 t_{1} & ... & p_n t_{1} & p_1 t_{2} & ... & p_n t_{m} \end{array} \right)$$ $$E[XY]=\sum_{i=1}^m { \sum_{j=1}^n { p_j t_i \hat{ (x_j,y_i) } } }$$ $$=\sum_{i=1}^m { \sum_{j=1}^n { p_j t_i ( \hat{x_j} \hat{y_i} ) } }$$ $$=\sum_{i=1}^m { t_i \hat{y_i} \sum_{j=1}^n { p_j \hat{x_j} } }$$

根據$(4-1)$

$$=\sum_{i=1}^m { t_i \hat{y_i} E[X] }=E[X] \sum_{i=1}^m { t_i \hat{y_i} }$$

根據$(4-2)$

$$=E[X] E[Y]$$

綜上：$E[XY]=E[X]E[Y]$ 即：$D[X+Y]=D[X]+D[Y]$（別忽略條件$X$與$Y$相互獨立哦）

$$Q.E.T.$$

最後提一嘴，$X$與$Y$相互獨立可以推出$D[X+Y]=D[X]+D[Y]$但反過來不行

計算器

$$1^2+2^2+3^3+...+10^2=\sum_{x=1}^{10} { x^2 }$$ 像這種$\sum_{i=1}^{10} { x_i }$就別用計算器了，幫不上忙的 除非題目有告訴你$x_i$和$i$的關係，比如：$x_i=2i+1$

$$\sum_{i=1}^{10} {x_i}=\sum_{i=1}^{10} { (2i+1) } \qquad(1-1)$$

再用$x$替換$(1-1)$中的$i$（這裏的$x$和之前$x_i$的$x$完全不是一個東西，但...計算器只能用$x$我能有什麼辦法）

$$=\sum_{x=1}^{10} { (2x+1) }$$

然後就可以照着這個輸進計算器中了

上課未解決的問題

假設孟德爾老先生突然起死回生，對我堅定的說：「吾跟儂港，這豌豆啊，高莖、矮莖 以及 粉花、百花 兩種性狀相互獨立，記住了啊」，隨即鑽回了棺材裏 話說西方人用棺材嗎

我聽了當即叫上王哥去學校統計豌豆

結果我最後做出了以下表格

我	高莖	矮莖	總計
紫花	10	0	10
白花	0	10	10
總計	10	10	20

我	高莖		矮莖
	觀察值	預期值	觀察值	預期值
紫花	10	5	0	5
白花	0	5	10	5

按照預期值，世界上的豌豆花應該一半高一半矮，一半紫一半白，而且兩者互相獨立，不應該是像我這樣紫花必高，白花必矮

這可能只是因為我運氣太好選擇了這份奇特的樣本嗎，我們來算一下隨機挑選20支花得到這個結果的概率

隨機選一支，為紫高的概率為$\frac14$，為白矮的概率也為$\frac14$（暫且忽略顯隱性基因這回事） $$P=(\frac 14)^{10} \times (\frac 14 )^{10} \times C_{20}^{10} = 1.680346031 \times 10^{-7}$$

再算一下$\chi ^2$

$$\chi^2 = \frac{ 20 \times ( 10 \times 10 -0 )^2 }{ 10 \times 10 \times 10 \times 10 }= 20$$

不一會，王哥也回來了，帶着他的數據：

王哥	高莖	矮莖	總計
紫花	0	10	10
白花	10	0	10
總計	10	10	20

王哥	高莖		矮莖
	觀察值	預期值	觀察值	預期值
紫花	0	5	10	5
白花	10	5	0	5

得，這運氣也不錯

$$P=(\frac 14)^{10} \times (\frac 14 )^{10} \times C_{20}^{10} = 1.680346031 \times 10^{-7}$$ $$\chi^2 = \frac{ 20 \times ( 0 - 10 \times 10 )^2 }{ 10 \times 10 \times 10 \times 10 }= 20$$

我和王哥 $P$ 相等，$\chi^2$ 也相等，那麼：$P$ 相等是 $\chi^2$ 相等的什麼條件

冪指對

$$a^N \times a^T = a^{N+T}$$ $$\log_a N + log_a T = log_a \left( {NT} \right)$$ $$\frac{\log_a N}{\log_a T} = log_T N$$