統計學系列條目 |
概率論 |
---|
概率空間是概率論的基礎。概率的嚴格定義基於這個概念。
定義
概率空間(Ω, F, P)是一個總測度為1的測度空間(即P(Ω)=1).
第一項Ω是一個非空集合,有時稱作「樣本空間」。Ω 的集合元素稱作「樣本輸出」,可寫作ω。
第二項F是樣本空間Ω的冪集的一個非空子集。F的集合元素稱為事件Σ。事件Σ是樣本空間Ω的子集。集合F必須是一個σ-代數:
- ;
- 若,則;
- 若,,則
(Ω, F)合起來稱為可測空間。事件就是樣本輸出的集合,在此集合上可定義其概率。
第三項P稱為概率,或者概率測度。這是一個從集合F到實數體R的函數,。每個事件都被此函數賦予一個0和1之間的概率值。
概率測度經常以黑體表示,例如或,也可用符號"Pr"來表示。
離散模式
離散概率理論僅需要可數集的樣本空間 。 概率指的是由概率質量函數求得上的使得的點。 全部的子集合可視為隨機事件(也就是為冪集)。概率測度可簡寫為
使用σ-代數能夠完整描述樣本空間。一般來說,σ-代數相當於一個有限或可數的集合劃分,事件A的一般型 且
是被定義允許的情況但極少使用,因為這樣的可以安全地從樣本空間中移除。
一般模式
如果Ω不可數,存在某些ω使得p(ω) ≠ 0 的情況仍然存在,那些ω稱為原子。他們大部分都是可數的集合(有可能為空集合) ,其可能性為所有原子概率的和。如果這個和等於1,那麼其他的點可以安全地從樣本空間中移除,回歸離散模式。反之,如果和少與1(有可能為零)那麼概率空間分解成為離散(原子)部分(可能為零),以及非原子部分。
例子
若樣本空間是關於一個機會均等的拋硬幣動作,則樣本輸出為「正面」或「反面」。事件為:
- {正面},其概率為0.5。
- {反面},其概率為0.5。
- { }=∅ 非正非反,其概率為0.
- {正面,反面},不是正面就是反面,這是Ω,其概率為1。
相關概念
隨機變量
隨機變量是一個從Ω映射到另一個集合(通常是實數體R)的函數。 它必須是一個可測函數。比如說,若X是一個實隨機變量,則使X為正的樣本輸出的集合{ω∈Ω:X(ω)>0}是一個事件。
為簡便起見,{ω∈Ω:X(ω)>0}經常隻寫作{X>0}。P({X>0})更被簡化為P(X>0)。
獨立
若P(A∩B)=P(A)P(B),則A和B兩個事件是獨立的。
若任何與隨機變量X有關的事件和任何與隨機變量Y有關的事件獨立,則X和Y兩個隨機變量是獨立的。
互斥
若P(A∩B)=0,則稱A和B兩個事件互斥或不相交(這個性質要比A∩B=∅弱一些,後者是集合不相交的定義)。
若兩個事件A和B不相交,則P(A∪B)=P(A)+P(B)。這個性質可以擴展到由(有限個或者可數無限個)事件組成的事件序列。 但不可數無限個事件組成的事件集合對應的概率與集合元素對應概率之和未必相等,例如若Z是正態分佈的隨機變量,則對任意x有P(Z=x)=0,但是P(Z是實數)=1。
事件A∩B的意思是A並且B;事件A∪B的意思是A或者B.