這是一個機率的入門課程，著重的是教授機率基本概念。另外我們的作業將搭配臺大電機系所開發的多人競技線上遊戲方式，讓同學在遊戲中快樂的學習，快速培養同學們對於機率的洞察力與應用能力。
9-2.c：MGF (下)
Loading...
Из курса от партнера National Taiwan University
頑想學概率：機率二
34 оценки
Из урока
WEEK 9
頑想學概率最後一週課程，內容一樣有趣又充實！如果有好幾個隨機變數我們把它加在一起， 那加在一起之後產生的這個新的隨機變數，它的這個機率分布到底是什麼呢？MGF (Moment Generating Function) 是什麼？該怎麼用它找到隨機變數的機率分布？還有一定要知道的機率學中最重要的「萬佛朝宗」定理──中央極限定理！
Познакомьтесь с преподавателями
葉丙成教授(Professor)
電機系(Department of Electrical Engineering)
好 那接下来我们介绍MGF的一些重要性质
怎么样做运算
比如说 你今天有一个Y 这个新的random variable等于aX加b
就是a跟b都是常数
a乘上一个随机变量X
再加上b 那我们就很好奇 那Y这个随机变数
它的Moment Generating长什么样子呢
那你看下 那φY（s）
Y的moment Generating按照定义是
等于exponential的s乘上Y次方 它的期望值 对不对
好 那Y是什么 Y等于aX加b
刚才不是写了嘛 对不对
所以就把这个s乘上Y 把它改写成s乘上aX加b
那这个东西呢
你就把它乘开 这个是什么
这个exponential的s乘上ax加b
可以把它写成e的exponential sax次方
就是前面这个s跟它这个相乘
乘上后面这个exponential s乘上b次方 e的sb次方
好 这个时候 老师再问你一个问题
在这一个取期望值的东西里面
这个式子里面 哪一个东西是乱的
哪一个东西是random
s有没有random s没有
s就是个变数 它不是随机变量
所以s不是乱的 a是个 constant
x是什么 x是ran
好 s不乱 b不乱 这对这个来讲的话 这个东西
一点都不乱 它不是随机变量
你可以把它看成是一个常数或常变数 对不对
这个就可以拉到外面 对不对
好 这最后变成什么
e的sb次方放到外面来 里面是什么 剩e的sax
好 e的sax是什么
你想想看 如果我有x的pmf或pdf的话
我是不是可以表示s的MGF
那S的MGF是什么
s的MGF φ（s）等于exponential的sx这个函数的期望值
对不对 好
如果这个函数你有的话
exponential的sx的期望值 这个东西你会不会有
它是exponential sax的期望值 也就是什么
原来s这个角色
改成用sa来表示 对不对
所以exponential sax这个东西如果是φ x（s）的话
那表示这个东西是什么
这个是φX(（as）
因为在这边的s这个角色已经被as取代了
所以这整个东西的期望值φX(s)（s）的话
那这种就应该是φX(as)
所以把它整理一下就是exponential的sb乘上φX（as）
ok 好 这就是Moment Generating的一个性质
那接下来我们就看一下
那既然我们讲那么多Moment Generating Function的定义和性质
那就来一些常见的随机变量
概率分布 他的Moment Generating长什么样子呢
好 我们来看一下 先看一下
比如这个最简单的Bernoulli Bernoulli是什么
它等于零 x等于0的概率是1减p 等于1的概率是p 对不对
好 这个中间有个Moment Generating是什么
记得Moment Generating是什么
Moment Generating是exponential的sx次方 这个就是它的期望值
拿这东西是什么 这个期望值看起来 把之前的式子再写一下
它是x从负无穷大到无穷大
你的函数值是什么 是exponential sx乘上你的PMF
所有的PMF值乘上exponential sx
x从负无穷大到无穷大
那问题是 你看这东西x是不是真的要从sum负无穷大到无穷大
不用 因为x真正不等于零的概率是什么
只有x在零这个地方 x在1这个地方 这两项而已
所以 你只要算这pmf不等于零的地方 只有x等于零和x等于1
好 x等于零的时候是什么
x等于零的时候 那你这边
前面exponential的sx就变成exponential x乘上0
现在x等于零 然后乘上P x 的概率
就是P x等于0的概率 接下来就是
x等于1 所以这个函数值就是exponential s乘上1乘上x等于1的概率
那这个东西 你记得这是什么
1减p 那这东西是什么 是p 对不对
再把它整理一下 就会变成
1减p加上e的x次方乘以p
ok 这就是Bernoulli （p）的Moment Generating Function
老师这边推导出来
好 Bernoulli （p）的motion 如果你有的话
那现在就是 我们来看 那BIN（n，p）呢
回想一下 BIN（n，p）代表什么意思
BIN（n，p）代表我作n次实验会成功的次数 对不对
我作n次实验里面会成功多少次
这是个随机变量 对不对
说n次实验里面有成功多少次
你先看一下 我做n次实验成功多少次是不是等于
我把第一次实验有没有成功的次数
第一次成功的次数是什么
不是零就是1 对不对
第二次成功的次数是什么
也是一样 不是零就是1
第n次实验成功的次数是什么 不是零就是1
你如果把第一次实验成功次数加上第二次成功的次数
一直加到第n次成功次数 全部把它加起来 就像这个样子
那我问你
这个x1 是第一次实验有没有成功
一次实验有没有成功 不是零就是一 那是什么
是个Bernoulli的p的ditrubution 对不对
第二次实验有没有成功也是一样
不是零就是一 对不对
是个Bernoulli 也是同样的p
一直到第n次实验 有没有成功 不是零就是一
它也是个Bernoulli p 那重点是什么
每一次实验是独立
我这一次实验有没成功和下一次实验有没成功
或是跟之前的实验有没有成功 完全都没有关系
各自述说各自的 那老师问你
我把第一次实验有没有成功
的次数 零或一 加上 第二次实验有没有成功 零或一
加到第n次实验有没有成功 的零或一
这Xn ，从X1加到Xn这些数字都加起来
n个零或一加起来
一的个数是什么
加起来就是看 就是变成X1到Xn里面到底有多少个一
X1到Xn里面到底有多少个一 是不是就代表
我做了n次实验里面 有多少次成功
是不是
也就是 这是不是就是那个Bernoulli这个随机变量呢
Bin（n，p）代表是做n次实验里面 有多少次成功
那n次实验里面有多少次成功
是不是等于第一次有没有成功 零或一
加上第二次有没有成功的零或一
一直加到第n次实验有没有成功 零或一 加起来
对不对 所以我们就发现
原来Binomial它的随机变量可以表示成什么
可以表示成n个独立的Bernoulli p 的和
它可以表示成n个Bernoulli随机变量的和
所以一个Bin（n，p）可以表示成
n个Bernoulli 而且是independent的Bernoulli 和
我们刚才讲过
那x的PMF会是什么
你这个x的PMF哟可以表示成n个独立随机变量的和的话
那x的PMF会等于X1的PMF跟X2的PMF
一直到Xn的PMF的n个的卷积 对不对
所以我们知道说 如果是这样的话
那你算Moment Generating Function的话
φX(s)会等于
他们所有的X1
X1的moment generating function 乘上φX2(s)
乘上φXn(s) 这是我们刚才讲的 偷懒的方法 有没有
在 X dominant
在X世界里面 如果是
n 个 PMF的相乘
的卷积的话
在X的世界 如果是n个PF的卷积的话
会等于这个 X世界上面的
n个 moment generating function的相乘
有没有 所以利用这个性质
所以 我们就知道说
如果 BIN(n,p)可以表示成
BIN(n,p)的x 可以表示成
它这个 random valuable 会等价于是
n个独立的Bernoulli
这个随机变数的和的话
那它的 moment generating function
就会等于这 n个Bernoulli的
moment generating function 的相乘
那问题是 这n个x
这个Xi 这每一个X
它都是同样的Bernoulli(p)
它们都是同样的Bernoulli
然后每次做实验 成功的概率都
成功的概率都是p 都是一样
所以表示 它们的moment generating function
统统长得都一样 都是什么
就是我们上面算的这个
1 - p + pe^s
所以 每一个
X1的 moment generating function 也是长这个样子
X2的 moment generating function 也是长这个样子
Xn的 也长这个样子
所以n个相乘以后 就变成什么
就变成这个东西的n次方
所以 这东西呢 也是一样
Bernoulli的moment generating function 要不要背
不用背 直接推导就好了
对不对 但是
那BIN(n,p)要不要背
不用背 BIN(n,p)就是它的n次方而已
也不用背 对不对
这就是 之前 老师跟你讲
期望值的公式可以不用背
一个是 另一个n倍中来
就是从 moment generating function来的
因为我的moment generating function是你的n倍
所以 当我微分n次的时候 我会多出一个n跑出来
所以 为什么 这也是为什么我期望值
BIN(n,p)的期望值 会等于
Bernoulli的期望值的n倍
那我们再来看一下 那Geometric呢？
这东西呢 老师就留给你们自己推导
因为 老师的
这个 我一直认为 这东西就是你要自己能够推导
你才能真正学会 这个moment generating function
它的这个推导 还有它的这个应用
所以这东西 按照这定义
去推导一下 这东西 就按照定义 就应该
x等于 -∞到∞
exponential(sx) Px(X) 对不对
那Px(X) 就是
Geometric那个PMF 你把它代进去
去推导一下 化简一下
这是 会是个 等比级数的形式
你应该可以推导出来
Geometric(p)化简出来的话
那接下来是什么 Pascal(k,p)能不能推导出来
Pascal(k,p)呢 也是一样
先看看Binomial(n,p)跟
刚才那个BIN(n,p)跟Bernoulli有些关系 对不对
Pascal(k,p)跟
Geometric(p)也有关系 什么关系呢？
回想一下 Pascal(k,p)是什么
Pascal(k,p)是你做实验
做到第k次成功
前面总共做多少次
你做到第k次成功
前面做了 总共做了多少次
试了多少次 才看到第k次成功
我问你 你试的次数
是不是 会等于
我先试出第一号成功
第一次成功我做了多少次
好 第一次成功
你说 第一次成功 我试了三次才看到第一次成功
那我接下来看
那我第二次 第二号成功
试了多少次
那第二号成功
比如说 试了4次
好 那第三次成功
我又 第三号成功 我又试了多少次
比如说第三号成功 是五次
所以 你看看
你 光看到 第一号成功
从第一 从零开始
一直试 试到一号成功
我试了三次看到第一号成功
接下来 我又重新reset
又开始 我又试了多少次看到第二号成功
我试了四次实验 才看到第二次成功
第二号成功 好 又reset
那我 又从头 开始算
我试了多少次 才看到第三号成功 对不对
所以 你看看
这三个加起来 是不是就等于
你要看到 第三次成功
总共需要 试了多少次
所以呢 看到第k次成功
中间 总共做了多少次尝试
跟 你只看一号成功而已
试了多少次 加上 第二号成功又试了多少次
加上 第三号成功试了多少次
加上第四号成功试了多少次
一直加到第k号成功本身试了多少次
才看到第k号成功
这么多个加起来 就等于你
从头到尾 看到k
第k次成功 试了多少次
所以 Pascal(k,p)跟Geometric
也有个关系 什么关系
因为你看到第一次 你一直试试试试
从零 一直试试 试到
看到第一号成功 试了多少次
才看到 这是个Geometric 的random variable
好 好 第一次成功 看到了
从第一次成功 在开始来算说
我要试多少次 才能看到第二次成功
对不对 从第一次成功
到第二次成功 中间出现多少次成功
就只有一次嘛
所以 它的第二次成功
又要再多做多少次
那其实也是个 Geometric的随机变量
所以 你会发现说 “哇”
任何一个 Pascal(k,p)都可以写成什么
写成是 k个
独立的Geometric(p)的和
所以呢
φX(s)就可以写成什么
它就可以写成是
φX1(s)乘上.......乘上φXk(s) 对不对
那因为 每个呢
都是Geometric(p) 对不对 所以就变成是
其中 随便选一个来代表
它的什么 k次方 对不对
所以 只要前面 上面那个Geometric你有去算过的话
那这个东西你就会算
好 还有一样 Poisson的
还有discrete uniform 的 moment generating function
老师都让你们算
另外呢 Exponential也是一样
你也要推导 这些都是你要会推导
你会推导的话 才真正有学会
然后呢 Erlang(n,λ)
Erlang(n,λ) 记不记得
上次我有讲 Erlang(n,λ)其实
就是说 打电动
过n关 需要花多久时间 对不对
或者说 到第n关 总共花多少时间
那每一关都是Exponential(λ)
你过n关 所需要的总时间 就是 Erlang(n,λ)
所以 你看看
Erlang(n,λ)这个 random valuable
等于 每一关 第一关
要花多少时间 加上
第二关要花多少时间 一直加到
第n关要花多少时间
就是 整个n关要花的总时间 对不对
那其中 刚才讲说
之前有讲 每个Xi都是 Exponential(λ)的话
那X 就会是Erlang(n,λ) 对不对 所以
Erlang(n,λ)可以写成
n个 独立的Exponential(λ)这样的随机变量的和
所以 也是一样 那这样子的话
φX(s)它的moment generating function
就会等于是 φX1(s)
乘上……乘上φXn(s)
这个呢 因为每一个Xi长相都是一样
都是同样的 Exponential(λ) 所以这东西就会等于
我们用其中一个来代表 (φX1(s))^n
所以你只要 如果是上面这东西
Exponential的moment generating function你有算出来的话
代到下面来 它的n次方就好了
所以 这也是一样
需不需要背 Erlang(n,λ)
不用 你只要记得Erlang(n,λ)
是等于 n个独立的 Exponential(λ)的和的话
那只要 算出Exponential(λ)的moment generating function
你直接n次方 就得到Erlang(n,λ)
好 那接下来呢
continuous 的 uniform 的
这个 这个UNIF(a,b)的moment generating function你要推导
Gaussian呢 比较复杂 去找书
老师要训练你去 自己去找答案
找书 把这些moment generating function把它填进去
这就是你以后的表
以后你要做逆转换什么
看这个表 就会算了 OK
好 那这就是我们这个 moment generating function的部分
Ознакомьтесь с нашим каталогом
Присоединяйтесь бесплатно и получайте персонализированные рекомендации, обновления и предложения.
Coursera делает лучшее в мире образование доступным каждому, предлагая онлайн-курсы от ведущих университетов и организаций.
© Coursera Inc., 2018 Все права защищены.
