《概率论备要与随机数.docx》由会员分享,可在线阅读,更多相关《概率论备要与随机数.docx(11页珍藏版)》请在第一文库网上搜索。
1、概率论备要与随机数报告人:高波2022年11月28日内容提要:1随机大事,随机大事的概率,随机变量,随机变量的分布函数,随机变量的期望和方差,随机变量的矩母函数和特征函数,随机向量,随机变量的独立性2极限定理3随机数4Gauss 系一概率论备要(一)概率公理系统一次随机试验可能消失的一个结果,称为一个基本领件,或样本点,记为卬。全体基本领件的集合记为Q,称为必定大事,或样本空间。对Q的某些子集组成的类F,假如它满意下列条件:(1) F(2) VAF=Ar=-AF yAneF(nl)=JUneFn则称尸为一个大事体,或。代数。尸中的集合称为随机大事。直观上可以理解为可以描述其概率的事情。它实际上
2、包含了全部我们“感爱好”的集合。概率理论就是在这个基础上绽开的。由F的定义可以推出:F中元素的有限交,任两个元素的差,对称差,交均在F中。在F上定义的非负集函数P:尸0,l,称为概率,假如满意下列条件:(1) P(Q) = 1(2)vaf(i),只要AnA=0,i,就有p(ua)=Zp(a),其中0示没有II基本领件的空集。值得留意的是,当样本空间。与大事体尸都确定以后,Kolmogorov公理系统照旧容纳不止一个取概率运算。也就是说在同一个样本空间与同一个大事体上,可以存在不同的取概率运算。下面举一个闻名的贝郎特(Bertrand)奇论来说明。问题是:在半径为1的圆内随机地取一条弦,问其长超
3、过G的概率等于多少?解法1任何弦交圆周两点,不失一般性,先固定其中一点于圆周上,以此点为顶点作一等边三角形,只有落入此三角形内的弦才满意要求,这种弦的另一端跑过的弧长为整个圆周的1/3,故概率为1/3.如图(a)解法2弦长只跟它与圆心的距离有关,而与方向无关,因此可以假定它垂直于某始终径.当且仅当它与圆心的距离小于1/2时,其长才大于百,因此所求概率为1/2.如图(b)解法3弦被其中点唯一确定,当且仅当其中点属于半径为1/2的同心圆内时,弦长才大于6,此小圆面积为大圆面积的1/4,所以概率为1/4.如图(c)同一问题有三种不同的答案,细究其缘由,发觉是在取弦时采纳了不同的等可能假设.解法1假定
4、端点在圆周上匀称分布,解法2假设弦的中点在直径上匀称分布,解法3认为弦的中点在圆内匀称分布.这三种答案是针对三种不同的随机试验,对于各自的随机试验而言,它们都是正确的。概率空间:给定样本空间。及。上的一个域尸,以及上面提到的F上的集函数P (概率),则称三元组(Q,fP)为概率空间。此时称(Q,尸)为可测空间。Borel集与Borel函数样本空间Q的子集族F,满意:非空 Ab= Ab00 4 Ri = 1,2,n Ja 尸i=l则称F是一个b域。由测度论学问可以知道,对样本空间。的任意子集族F,都存在包含F的最小。域。R中包含全部开区间的最小。域,称为Borel集,记为B。值得一提的是,B和包
5、含全部形如(-,幻的最小。域是一样的。K中包含全部开矩形的最小。域,称为d维Borel集,记为6。由实变函数学问,Borel集中的元素都是Lebesgue可测的,但Borel集 Lebesgue可测集,他们之间相差一个Lebesgue零测集。可测空间(Rn9Bn)到可测空间(R,B)的可测映射,即满意 B,广(a) 3的函数/: R R ,称为Borel可测函数,简称Borel函数。(二)随机变量一个随机地取实数值的量二或卬)(卬。)称为随机变量,假如对于任意实数X,样本点的集合叩:式w)x都是一个随机大事。用测度论的观点来看,随机变量4就是概率空间(Q, F)到可测空间(A, 8)的一个可测
6、映射。可见随机变量的定义依靠于给定的大事体。实值函数F(x) = P(卬:夕卬) x)就是随机变量4的分布函数。前面已经举例说明一个可测空间(Q,F)可以定义不同的概率,下面举例说明一个概率空间(。,。)也可以定义无穷多个随机变量,而且可以不相关。设。=0,尸=区口0,1,对任意c = ,j xO,l,定义P(A) = x0 对每一个正整数n,定义映射:Q(Q,F,P)fR,*(x) = x,简单验证,是随机变量,而且石2,,当,是线性无关的。随机过程:设(Q,P)为概率空间,丁为实的参数集(可以是离散的,也可以是连续的),定义在和7上的二元函数X(uv): xTR,假如对任意固定的fT,X(
7、w)是(C,尸,尸)上的随机变量,则称X(6ZV),gQj7为该概率空间上的随机过程。一般而言,依据随机变量取值的类型,把随机变量分为离散型随机变量和连续型随机变量。对于前者,常用概率函数/(1)=尸(4 =1)。=,.)来描述,对于实值函数g(x),随机变量g(J的期望为:E(gC) = Zg(x,)(王)。对于后者,常用分布密度I(x) = Fx)描述,对Borel可测函数g(x),随机变量g(J)的期望为:E(g() = g(x)(x)d。期望实际上就是一种平均,它是刻画随机变量的一个重要指标。-在概率论中具有相当重要的角色。下面的例子说明白期望的不足:(圣.彼得堡悖论)传奇在圣.彼得堡
8、街头曾流行过一种赌博,参见者实现垫付一笔钱,比如100个卢布,然后开头连续掷一枚匀称的硬币,直至首次消失人像朝上。若记首次消失人像朝上时投掷次数为n,则赌博者可得到2个卢布, =1,2,这时的决策问题是:参见赌博和不参与赌博哪个结果更合算?用变量X表示某人参与赌博的净回报,即X=2T00,则可以计算出石(X) = +,P(XO)aO.O156,也就是说赢的期望为无穷大,但赢的概率却很小。正是所谓的辜负了期望“。可见仅有期望,对于随机变量的刻画是不够的。方差定义为:丫=七6石4)2二七铲一(七92,可见,方差实际上也是一种期望,是用来刻画随机变量波动程度的量。下面介绍概率论中两个重要的函数:矩母
9、函数和特征函数。+ z3 + .,当然前提是E(4)3!凡?2矩母函数定义为M(z) = E(*) = 1 + EJz + z2存在且有限。它包含了任意阶矩的信息,进一步地,4的分布也可由矩母函数唯一确定。离散的情形很好理解,对于连续的状况,矩母函数的可以看成密度函数的“拉普拉斯变换”,做“拉普拉斯逆变换”可得密度函数,这里用号是由于存在一点非本质的细节差别。实际上矩母函数就是拉普拉斯在19世纪引进的,它是概率论中第一个被系统地应用的变换法,对后来在概率论中引进其他更有用的变换-如立刻要介绍的特征函数有启发作用。矩母函数还有一个特别重要的性质就是独立随机变量和的母函数等于各自母函数的乘积。在概
10、率论进展史上具有重大意义的是特征函数的引进。随机变量的特征函数定义为:f(t) = E(*)= eitf()d = 1 + Eit + (z7)2 + 竽(OP +.-co特征函数克服了矩母函数有可能不存在的不足,对每一个随机变量,都存在一个唯一的特征函数与之对应,这是由Lebesgue掌握收敛定理所保证。反过来,对每一个特征函数,假如是肯定可积的,则存在唯一的密度函数与之对应,这里的唯一性是在忽视一个Lebesgue零测集意义下的唯一性。实际上特征函数可以看成密度函数的Fourier变换,上面介绍的对应关系可以用Fourier变换和Fourier逆变换的观点来看。和矩母函数一样,独立随机变量
11、和的特征函数等于各自特征函数的乘积,正是这共性质,在证明中心极限定理时显示出了非凡的威力。(三)随机向量直观的看,随机变量放在一起就是随机向量。这里有一个前提,就是这些随机变量有相同的概率空间。考虑d维随机向量伍或 J=-,其分布函数为/(x) = PCx) = P(0x20,有尸(|女一c)0,则称随机变量(一)生成随机数的逆函数方法若随机变量X的分布函数为尸(X)或密度函数/(X),则X的一个样本值称为F.随机数或f-随机数。特殊的若XUO,1,则X的样本值就是匀称随机数。命题:若分布函数月(X)严格单调,是一个匀称随机数,则E-()是一个F-随机数。证明:设U是0,1上的匀称随机变量,那
12、么 P(F-l(U) x) = P(U F(x) = F(x) 故逆函数方法的关键一步是生成匀称随机数,而后面讲到的Von-Neumann取舍原则也是以匀称随机数为基础,因此下面简要谈谈匀称随机数的生成方法。产生匀称随机数的方法许多,这里只介绍几种用计算机产生随机数的方法。物理方法。在计算机上安装一台物理随机数发生器,把具有随机性质的物理过程变换为随机数,这样就可以得到随机性和匀称性都很好的真正随机数。但此方法有一些缺点,其中最重要的是我们不能产生与原来完全相同的随机数,对计算结果不能进行复算检查;加上物理随机数发生器的稳定性常常需进行检查和修理。因此大大降低了这种方法的使用价值。北师大校物理
13、系李晓文副教授与马里兰高校同事合作,最近在物理随机数发生器设计方面取得了突破性进展。她们设计了一个多通道、相互独立的、高速物理随机数发生器,采用超发光二极管放大自发辐射的宽频光学噪声,通过两个透过率互不重叠的光学滤波器分出两路信号,每个通道的比特率可以达到10GSo采用这种并行随机比特的方法同时产生多个比特,极大地提高了随机数发生器的产生速率及升级力量。李晓文等第一次证明,从单个光噪声源,不需外部光学放大及增益,即可同时得到多个独立的比特流。这是迄今为止第一个并行输出的物理真随机数系统,向基于芯片的超快并行物理随机数发生器迈出了重要一步。此外,通过使用更多的滤波器,并行输出的通道数目最多可以达到20个,累计比特率可以达到200G/S。数学方法,这样产生的随机数并不是真正的随机数,故称伪随机数,但由于它占用内存少,速度快又便于复算,因此这是目前使用最广,进展最快的一类方法。这里介绍其中两种的设计思想。线性同余发生器:%, 二 (40 + l