好 那接下来我们介绍MGF的一些重要性质 怎么样做运算 比如说 你今天有一个Y 这个新的random variable等于aX加b 就是a跟b都是常数 a乘上一个随机变量X 再加上b 那我们就很好奇 那Y这个随机变数 它的Moment Generating长什么样子呢 那你看下 那φY(s) Y的moment Generating按照定义是 等于exponential的s乘上Y次方 它的期望值 对不对 好 那Y是什么 Y等于aX加b 刚才不是写了嘛 对不对 所以就把这个s乘上Y 把它改写成s乘上aX加b 那这个东西呢 你就把它乘开 这个是什么 这个exponential的s乘上ax加b 可以把它写成e的exponential sax次方 就是前面这个s跟它这个相乘 乘上后面这个exponential s乘上b次方 e的sb次方 好 这个时候 老师再问你一个问题 在这一个取期望值的东西里面 这个式子里面 哪一个东西是乱的 哪一个东西是random s有没有random s没有 s就是个变数 它不是随机变量 所以s不是乱的 a是个 constant x是什么 x是ran 好 s不乱 b不乱 这对这个来讲的话 这个东西 一点都不乱 它不是随机变量 你可以把它看成是一个常数或常变数 对不对 这个就可以拉到外面 对不对 好 这最后变成什么 e的sb次方放到外面来 里面是什么 剩e的sax 好 e的sax是什么 你想想看 如果我有x的pmf或pdf的话 我是不是可以表示s的MGF 那S的MGF是什么 s的MGF φ(s)等于exponential的sx这个函数的期望值 对不对 好 如果这个函数你有的话 exponential的sx的期望值 这个东西你会不会有 它是exponential sax的期望值 也就是什么 原来s这个角色 改成用sa来表示 对不对 所以exponential sax这个东西如果是φ x(s)的话 那表示这个东西是什么 这个是φX((as) 因为在这边的s这个角色已经被as取代了 所以这整个东西的期望值φX(s)(s)的话 那这种就应该是φX(as) 所以把它整理一下就是exponential的sb乘上φX(as) ok 好 这就是Moment Generating的一个性质 那接下来我们就看一下 那既然我们讲那么多Moment Generating Function的定义和性质 那就来一些常见的随机变量 概率分布 他的Moment Generating长什么样子呢 好 我们来看一下 先看一下 比如这个最简单的Bernoulli Bernoulli是什么 它等于零 x等于0的概率是1减p 等于1的概率是p 对不对 好 这个中间有个Moment Generating是什么 记得Moment Generating是什么 Moment Generating是exponential的sx次方 这个就是它的期望值 拿这东西是什么 这个期望值看起来 把之前的式子再写一下 它是x从负无穷大到无穷大 你的函数值是什么 是exponential sx乘上你的PMF 所有的PMF值乘上exponential sx x从负无穷大到无穷大 那问题是 你看这东西x是不是真的要从sum负无穷大到无穷大 不用 因为x真正不等于零的概率是什么 只有x在零这个地方 x在1这个地方 这两项而已 所以 你只要算这pmf不等于零的地方 只有x等于零和x等于1 好 x等于零的时候是什么 x等于零的时候 那你这边 前面exponential的sx就变成exponential x乘上0 现在x等于零 然后乘上P x 的概率 就是P x等于0的概率 接下来就是 x等于1 所以这个函数值就是exponential s乘上1乘上x等于1的概率 那这个东西 你记得这是什么 1减p 那这东西是什么 是p 对不对 再把它整理一下 就会变成 1减p加上e的x次方乘以p ok 这就是Bernoulli (p)的Moment Generating Function 老师这边推导出来 好 Bernoulli (p)的motion 如果你有的话 那现在就是 我们来看 那BIN(n,p)呢 回想一下 BIN(n,p)代表什么意思 BIN(n,p)代表我作n次实验会成功的次数 对不对 我作n次实验里面会成功多少次 这是个随机变量 对不对 说n次实验里面有成功多少次 你先看一下 我做n次实验成功多少次是不是等于 我把第一次实验有没有成功的次数 第一次成功的次数是什么 不是零就是1 对不对 第二次成功的次数是什么 也是一样 不是零就是1 第n次实验成功的次数是什么 不是零就是1 你如果把第一次实验成功次数加上第二次成功的次数 一直加到第n次成功次数 全部把它加起来 就像这个样子 那我问你 这个x1 是第一次实验有没有成功 一次实验有没有成功 不是零就是一 那是什么 是个Bernoulli的p的ditrubution 对不对 第二次实验有没有成功也是一样 不是零就是一 对不对 是个Bernoulli 也是同样的p 一直到第n次实验 有没有成功 不是零就是一 它也是个Bernoulli p 那重点是什么 每一次实验是独立 我这一次实验有没成功和下一次实验有没成功 或是跟之前的实验有没有成功 完全都没有关系 各自述说各自的 那老师问你 我把第一次实验有没有成功 的次数 零或一 加上 第二次实验有没有成功 零或一 加到第n次实验有没有成功 的零或一 这Xn ,从X1加到Xn这些数字都加起来 n个零或一加起来 一的个数是什么 加起来就是看 就是变成X1到Xn里面到底有多少个一 X1到Xn里面到底有多少个一 是不是就代表 我做了n次实验里面 有多少次成功 是不是 也就是 这是不是就是那个Bernoulli这个随机变量呢 Bin(n,p)代表是做n次实验里面 有多少次成功 那n次实验里面有多少次成功 是不是等于第一次有没有成功 零或一 加上第二次有没有成功的零或一 一直加到第n次实验有没有成功 零或一 加起来 对不对 所以我们就发现 原来Binomial它的随机变量可以表示成什么 可以表示成n个独立的Bernoulli p 的和 它可以表示成n个Bernoulli随机变量的和 所以一个Bin(n,p)可以表示成 n个Bernoulli 而且是independent的Bernoulli 和 我们刚才讲过 那x的PMF会是什么 你这个x的PMF哟可以表示成n个独立随机变量的和的话 那x的PMF会等于X1的PMF跟X2的PMF 一直到Xn的PMF的n个的卷积 对不对 所以我们知道说 如果是这样的话 那你算Moment Generating Function的话 φX(s)会等于 他们所有的X1 X1的moment generating function 乘上φX2(s) 乘上φXn(s) 这是我们刚才讲的 偷懒的方法 有没有 在 X dominant 在X世界里面 如果是 n 个 PMF的相乘 的卷积的话 在X的世界 如果是n个PF的卷积的话 会等于这个 X世界上面的 n个 moment generating function的相乘 有没有 所以利用这个性质 所以 我们就知道说 如果 BIN(n,p)可以表示成 BIN(n,p)的x 可以表示成 它这个 random valuable 会等价于是 n个独立的Bernoulli 这个随机变数的和的话 那它的 moment generating function 就会等于这 n个Bernoulli的 moment generating function 的相乘 那问题是 这n个x 这个Xi 这每一个X 它都是同样的Bernoulli(p) 它们都是同样的Bernoulli 然后每次做实验 成功的概率都 成功的概率都是p 都是一样 所以表示 它们的moment generating function 统统长得都一样 都是什么 就是我们上面算的这个 1 - p + pe^s 所以 每一个 X1的 moment generating function 也是长这个样子 X2的 moment generating function 也是长这个样子 Xn的 也长这个样子 所以n个相乘以后 就变成什么 就变成这个东西的n次方 所以 这东西呢 也是一样 Bernoulli的moment generating function 要不要背 不用背 直接推导就好了 对不对 但是 那BIN(n,p)要不要背 不用背 BIN(n,p)就是它的n次方而已 也不用背 对不对 这就是 之前 老师跟你讲 期望值的公式可以不用背 一个是 另一个n倍中来 就是从 moment generating function来的 因为我的moment generating function是你的n倍 所以 当我微分n次的时候 我会多出一个n跑出来 所以 为什么 这也是为什么我期望值 BIN(n,p)的期望值 会等于 Bernoulli的期望值的n倍 那我们再来看一下 那Geometric呢? 这东西呢 老师就留给你们自己推导 因为 老师的 这个 我一直认为 这东西就是你要自己能够推导 你才能真正学会 这个moment generating function 它的这个推导 还有它的这个应用 所以这东西 按照这定义 去推导一下 这东西 就按照定义 就应该 x等于 -∞到∞ exponential(sx) Px(X) 对不对 那Px(X) 就是 Geometric那个PMF 你把它代进去 去推导一下 化简一下 这是 会是个 等比级数的形式 你应该可以推导出来 Geometric(p)化简出来的话 那接下来是什么 Pascal(k,p)能不能推导出来 Pascal(k,p)呢 也是一样 先看看Binomial(n,p)跟 刚才那个BIN(n,p)跟Bernoulli有些关系 对不对 Pascal(k,p)跟 Geometric(p)也有关系 什么关系呢? 回想一下 Pascal(k,p)是什么 Pascal(k,p)是你做实验 做到第k次成功 前面总共做多少次 你做到第k次成功 前面做了 总共做了多少次 试了多少次 才看到第k次成功 我问你 你试的次数 是不是 会等于 我先试出第一号成功 第一次成功我做了多少次 好 第一次成功 你说 第一次成功 我试了三次才看到第一次成功 那我接下来看 那我第二次 第二号成功 试了多少次 那第二号成功 比如说 试了4次 好 那第三次成功 我又 第三号成功 我又试了多少次 比如说第三号成功 是五次 所以 你看看 你 光看到 第一号成功 从第一 从零开始 一直试 试到一号成功 我试了三次看到第一号成功 接下来 我又重新reset 又开始 我又试了多少次看到第二号成功 我试了四次实验 才看到第二次成功 第二号成功 好 又reset 那我 又从头 开始算 我试了多少次 才看到第三号成功 对不对 所以 你看看 这三个加起来 是不是就等于 你要看到 第三次成功 总共需要 试了多少次 所以呢 看到第k次成功 中间 总共做了多少次尝试 跟 你只看一号成功而已 试了多少次 加上 第二号成功又试了多少次 加上 第三号成功试了多少次 加上第四号成功试了多少次 一直加到第k号成功本身试了多少次 才看到第k号成功 这么多个加起来 就等于你 从头到尾 看到k 第k次成功 试了多少次 所以 Pascal(k,p)跟Geometric 也有个关系 什么关系 因为你看到第一次 你一直试试试试 从零 一直试试 试到 看到第一号成功 试了多少次 才看到 这是个Geometric 的random variable 好 好 第一次成功 看到了 从第一次成功 在开始来算说 我要试多少次 才能看到第二次成功 对不对 从第一次成功 到第二次成功 中间出现多少次成功 就只有一次嘛 所以 它的第二次成功 又要再多做多少次 那其实也是个 Geometric的随机变量 所以 你会发现说 “哇” 任何一个 Pascal(k,p)都可以写成什么 写成是 k个 独立的Geometric(p)的和 所以呢 φX(s)就可以写成什么 它就可以写成是 φX1(s)乘上.......乘上φXk(s) 对不对 那因为 每个呢 都是Geometric(p) 对不对 所以就变成是 其中 随便选一个来代表 它的什么 k次方 对不对 所以 只要前面 上面那个Geometric你有去算过的话 那这个东西你就会算 好 还有一样 Poisson的 还有discrete uniform 的 moment generating function 老师都让你们算 另外呢 Exponential也是一样 你也要推导 这些都是你要会推导 你会推导的话 才真正有学会 然后呢 Erlang(n,λ) Erlang(n,λ) 记不记得 上次我有讲 Erlang(n,λ)其实 就是说 打电动 过n关 需要花多久时间 对不对 或者说 到第n关 总共花多少时间 那每一关都是Exponential(λ) 你过n关 所需要的总时间 就是 Erlang(n,λ) 所以 你看看 Erlang(n,λ)这个 random valuable 等于 每一关 第一关 要花多少时间 加上 第二关要花多少时间 一直加到 第n关要花多少时间 就是 整个n关要花的总时间 对不对 那其中 刚才讲说 之前有讲 每个Xi都是 Exponential(λ)的话 那X 就会是Erlang(n,λ) 对不对 所以 Erlang(n,λ)可以写成 n个 独立的Exponential(λ)这样的随机变量的和 所以 也是一样 那这样子的话 φX(s)它的moment generating function 就会等于是 φX1(s) 乘上……乘上φXn(s) 这个呢 因为每一个Xi长相都是一样 都是同样的 Exponential(λ) 所以这东西就会等于 我们用其中一个来代表 (φX1(s))^n 所以你只要 如果是上面这东西 Exponential的moment generating function你有算出来的话 代到下面来 它的n次方就好了 所以 这也是一样 需不需要背 Erlang(n,λ) 不用 你只要记得Erlang(n,λ) 是等于 n个独立的 Exponential(λ)的和的话 那只要 算出Exponential(λ)的moment generating function 你直接n次方 就得到Erlang(n,λ) 好 那接下来呢 continuous 的 uniform 的 这个 这个UNIF(a,b)的moment generating function你要推导 Gaussian呢 比较复杂 去找书 老师要训练你去 自己去找答案 找书 把这些moment generating function把它填进去 这就是你以后的表 以后你要做逆转换什么 看这个表 就会算了 OK 好 那这就是我们这个 moment generating function的部分