什麽是概率? (八)
(2008-05-14 16:40:25)
下一個
公理化的好處在哪裏呢?我們來通過幾個例子體會一下。
例子1:還是拋硬幣,這裏,我們的樣本空間S={H, T}, 事件空間F={空集,{H}, {T}, S}, 概率測度P(空集)= 0, P({H})=P({T})=1/2, P(S)=1.請驗證這樣的定義確實滿足概率空間所有的要求。
例子2:離散的有限空間: S={1,2,3,。。,k}, F=2^S (S的所有子集的集合,叫做冪集合),對於任何的1<=i<=k, P({i})=1/k.(對比這個定義和前麵提到的古典概率的定義)也請驗證這樣的定義是可行的(S還有許多別的子集, 上述定義是自恰無矛盾的。)。
例子3:以自然數集為樣本空間,這一次很顯然我們不可能指望在有均勻的權重了,但是如果我們定義P({i})=2^(-i)的話,那麽因為sum(2^(-i), i= 1 to infinity)=1而且是絕對收斂的,所以S={1,2,...}(所有自然數),F=2^S, 以及上述P可以構成一個概率空間。實際上任何一個收斂到1的正項級數都可以用來取代上麵這個指數級數而構成一個合法的概率空間,因為他們是絕對收斂的。
例子4:連續的樣本空間:S=[0,1], F={[0,1]上的Borel集},P=勒貝格測度;那麽因為P([0,1])=1,所以(S, F, P)是一個概率空間。在這個概率空間裏,我們看到P(空集)=0,P({x})=0, 對於任何0<=x<=1,因為根據定義P({x})=P([x,x])=x-x=0.
進一步,我們看到,對於Q={[0,1]上的有理數},P(Q)=0,因為Q=所有[0,1]上的有理數單點集的可數並,而且前麵已經證明了每一個單點集的測度為0。
所以,對於集W={[0,1]上的無理數},P(W)=1. (為什麽?)
另外,作為一個簡單的練習,請大家舉出一個P測度為0的不可數集來。
定義:一般的,對於測度空間(S, F, P), N={s|P(s)=0}成為它的Null Space, N的元叫做Null Set. (抱歉,這兩個詞的恰當中文翻譯偶不知道,不敢亂編。)
現在我們可以引入非常核心而且有用的概念:
定義(隨機變量):對於概率空間(S,F,P), 可測函數X:S-->R叫做(實值的)隨機變量。
關於隨機變量的各種性質的研究形成了概率理論的核心。其中最簡單也是最重要的就是它的平均值---數學期望:
定義(數學期望):X是概率空間(S,F,P)上的隨機變量,E(X)=X在S上對於測度P的勒貝格積分,E(X)叫作X的數學期望。
例子5:(indicator function)有一類極其簡單卻又極其重要的隨機變量,
我們以I_a(.)來表示:對於某個F的元a(事件),I_a(s)=1 (如果s屬於a) 或者 0(其他)。這個隨機變量叫做a的indicator function,它的數學期望E(I_a)=P(a).
定義(獨立事件):事件a,b叫做獨立的,如果P(a交b)=P(a)*P(b).
定義(獨立變量):隨機變量X,Y叫做獨立的,如果對於R上任何Borel集A,B,事件{X屬於A}和事件{Y屬於B}都是獨立的。
對於獨立的隨機變量X,Y,我們有重要的性質E(X*Y)=E(X)*E(Y).
————————————————————————————
嗯,寫到這裏,我覺得我應該停住了,不然就成了抄寫教科書了----讀了這些介紹的朋友們,如果有興趣深入學習概率論,我推薦如下兩本書:
對於非數學專業的朋友,我聽說過:A Natural Introduction to Probability Theory (Kindle Edition) 作者是 Ronald Meester。 書中不涉及測度理論,但是覆蓋了很多有用的問題。我沒有讀過,隻是想象,對於不願意花費時間學習測度理論的朋友們,這樣可能實際一些。
對於數學專業的朋友,我比較喜歡:A Course in Probability Theory Revised 作者是有趣的Kai Lai Chung 嗬嗬,偶喜歡這本書倒不是因為他是個華裔,主要是我個人比較喜歡這本書簡潔清晰的風格。關於Chung本人,估計大家都有不少好笑的故事,以後有空可以分享:)
接下來,如果有空的話,偶可能會簡單的寫寫現代概率理論的分支和應用。如果動態老大願意幫忙寫一些,就更好了 :)
我當年的概率是最糟的了,二項式定理更是不明它到底有什麽用。今天看您的文章還是比較頭大,所以想走捷徑先看看您的應用,如果先明白了用途,也許再回來看理論就比較看得進去?沒辦法,實用主義是現代潮流啊:)
LOTTO 的 E(X)=?