切尔诺夫界的拓展
某些情况下更好的界推导
相互独立的$r.v.$序列$X_1,X_2,…X_n$满足：
$$
Pr\left( X_i=1 \right) =Pr\left( X_i=-1 \right) =\frac{1}{2}
$$
记$X=\sum_{i=……继续阅读 »
yanzexi
1年前 (2023-10-04) 273浏览 0评论
0个赞
最为基本的线性结构统称为序列$（sequence）$，根据其中数据项的逻辑次序与其物理存储地址的对应关系不同，又可进一步地将序列区分为向量$（vector）$和列表$（list）$。在向量中，所有数据项的物理存放位置与其逻辑次序完全吻合，此时的逻辑次序也称作秩$（rank）$；而在列表中，逻辑上相邻的数据项在物理上未必相邻，而是采用间接定址的方式……继续阅读 »
yanzexi
1年前 (2023-10-03) 243浏览 0评论
2个赞
切尔诺夫界的导出
引入
假设$X$为一个$r.v.$，若存在$h>0$使得对任意的$\lambda \in \left[ 0,h \right] $都有$\mathbb{E}\left[ e^{\lambda x} \right] $存在，则称$X$存在一个矩母函数$(MGF)$记作$M_X\left( \lambda \right) $。
&……继续阅读 »
yanzexi
1年前 (2023-10-03) 491浏览 0评论
1个赞
引入
概念
特征函数可以理解为是矩母函数的一种变换，其被定义为：
$$
\varphi _X\left( t \right) =\mathbb{E}\left[ e^{itX} \right] ,i=\sqrt{-1}
$$
可以通过傅里叶变换进行表达：
$$
\varphi _X\left( t \right) =\int{e^{itx}\ dF_X\left( x \right) =\mathbb{E}\lef……继续阅读 »
yanzexi
1年前 (2023-09-30) 216浏览 0评论
0个赞
大数定理
伯努利大数定理
当$n$趋于无穷时$n$次伯努利试验的样本均值依概率收敛于期望：
LLN
Weak LLN Assuming Bounded Variance
中心极限定理
棣莫弗－拉普拉斯定理（局部极限定理）
CLT
CLT 的收敛率
……继续阅读 »
yanzexi
1年前 (2023-09-28) 235浏览 0评论
0个赞
继续探讨收敛模式
几乎必定收敛的条件
几乎必定收敛 $VS$ 依概率收敛
延伸
耦合
Skorokhod 定理：对于一个概率空间$(X,\mathscr{F},\mu)$中的依分布收敛的随机变量列$f_n\overset{d}\rightarrow f$，总是存在另一个概率空间 $(\tilde{X},\tilde{\mathscr{F}},\tilde{\mu})$中的随机变量列$\tilde{f_……继续阅读 »
yanzexi
1年前 (2023-09-27) 228浏览 0评论
0个赞
引入
极限定理
敛散性
关于函数列逐点收敛的直观理解可以参考视频
收敛模式
这部分内容可以看看视频
引入
依分布收敛
依概率收敛
依分布收敛是依概率收敛的必要条件：
几乎必然收敛
依概率收敛是几乎处处收敛的必要条件：
相关概念引入
概率测度的连续性
详见：
$Borel–Cantelli Lemmas$
可以参考：
……继续阅读 »
yanzexi
1年前 (2023-09-26) 327浏览 0评论
1个赞
引入
正态分布
一些性质
线性变换
卷积
线性变换的卷积证明
标准正态分布
Large Deviation (Concentration) Bound
引入
矩母函数与标准正态分布的矩母函数
引入矩母函数后的再探讨
衍生分布
二元正态分布
已知二元正态分布服从$\mathscr{……继续阅读 »
yanzexi
1年前 (2023-09-22) 305浏览 0评论
0个赞
均匀分布拓展
拒绝采样
此处的拒绝采样其实和 AIMA 的拒绝采样一样，用于计算条件概率，对于每次采样如果符合证据就采样不符合则拒绝样本。
逆变换采样
逆变换采样（Inverse Transform Sampling）是伪随机数采样的一种基本方法。在已知任意概率分布的累积分布函数$CDF$时，可用其生成该概率分布的随机样本。
简单来说，假设$X$为一个连续随机变量，其概率密度函数为$PDF(X)$，累计分布函……继续阅读 »
yanzexi
1年前 (2023-09-20) 256浏览 0评论
1个赞
魏尔施特拉斯逼近定理
魏尔施特拉斯逼近定理
证明推导
证明归纳
$k$阶矩法
说明
……继续阅读 »
yanzexi
1年前 (2023-09-19) 259浏览 0评论
1个赞
