常见分布

$X$ 表示随机变量/向量，其余小写黑体表示向量，大写黑体表示矩阵。

1. 离散分布

记 $q = 1 - p$。

概率分布	记法	累积分布函数	均值	方差
0-1 分布（伯努利分布）	$X \sim B(1, p)$	$P(X = 1) = p \\P(X = 0) = q$	$p$	$pq$
二项分布（$n$ 重伯努利分布）	$X \sim B(n, p)$	$P(X = k) = C_n^k p^k q^{n-k}$	$np$	$npq$
多项式分布	$X \sim PN(p_1, \cdots, p_n)$	$P(X = \boldsymbol{x}) = \frac{n!}{x_1! \cdots x_k!}p_1^{x_1} \cdots p_k^{x_k}, \sum_{i=1}^k x_i = n \\\boldsymbol{x} = [x_1,\cdots,x_k]^\top, x_i \in \{0, \cdots, n\}, \sum_{i=1}^k p_i = 1$	$n\boldsymbol{p}$	$n\boldsymbol{p} \odot \boldsymbol{q}$
泊松分布	$X \sim \pi(\lambda)$	$P(X = k) = {\lambda^k \over k!}e^\lambda, \ \lambda > 0$	$\lambda$	$\lambda$
超几何分布	$X \sim H(n,N,M)$	$P(X = k) = {C_M^k \cdot C_{N-M}^{n-k} \over C_N^n}$	$n\frac{K}{N}$	$n\frac{K}{N}\frac{N-K}{N}\frac{N-n}{N-1}$
几何分布	$X \sim G(p)$	$P(X = k) = q^{k-1}p$	$\frac{1}{p}$	$\frac{1-p}{p^2}$

2. 连续分布

$\Gamma(x)$ 表示伽玛函数，$B(x, y)$ 表示贝塔函数。

概率分布	记法	概率密度函数	均值	方差
均匀分布	$X \sim U(a,b)$	$f(x) = \frac{1}{b-a}, a \leq x \leq b$	$\frac{a+b}{2}$	$\frac{1}{12}(b-a)^2$
指数分布	$X \sim \mathrm{Exp}(\lambda)$	$f(x) = \lambda e^{-\lambda x}, x \geq 0$	$\frac{1}{\lambda}$	$\frac{1}{\lambda^2}$
拉普拉斯分布	$X \sim \mathrm{Laplace}(\mu, \lambda)$	$f(x) = \frac{1}{2 \lambda}e^{-\frac{\lvert x-\mu \rvert}{\lambda}}$	$\mu$	$2\lambda^2$
正态分布	$X \sim N(\mu, \sigma^2)$	$f(x) = {1 \over \sqrt{2\pi}\sigma}e^{-{(x-\mu)^2 \over 2\sigma^2}}$	$\mu$	$\sigma^2$
多元正态分布	$X \sim \mathcal{N}(\boldsymbol{\mu}, \boldsymbol{\Sigma})$	$f(\boldsymbol{x}) = \frac{1}{\sqrt{\lvert 2\pi \boldsymbol{\Sigma} \rvert}} e^{-\frac{1}{2}(\boldsymbol{x} - \boldsymbol{\mu})^\top \boldsymbol{\Sigma}^{-1} (\boldsymbol{x} - \boldsymbol{\mu})}$	$\boldsymbol{\mu}$	$\boldsymbol{\Sigma}$
伽玛分布	$X \sim \Gamma(\alpha, \beta)$	$f(x) = \frac{\beta^\alpha x^{\alpha - 1}}{\Gamma(\alpha)} e^{-\beta x}$	$\frac{\alpha}{\beta}$	$\frac{\alpha}{\beta^2}$
威尔沙特分布	$X \sim W(\boldsymbol{V}, v)$	$f(x) = \frac{1}{(2^v \lvert \boldsymbol{V} \rvert)^{\frac{M}{2}} \Gamma_M(\frac{v}{2})} \det(X)^{\frac{v-M-1}{2}} e^{-\frac{\mathrm{tr}(\boldsymbol{V}^{-1} X)}{2}}\\X \in \mathbb{S}_{++}^M, \boldsymbol{V} \in \mathbb{S}_{++}^M, v > M - 1$	$n\boldsymbol{V}$	$n(\boldsymbol{V} \odot \boldsymbol{V} + \mathrm{diag}(\boldsymbol{V})\mathrm{diag}(\boldsymbol{V})^\top)$
贝塔分布	$X \sim \mathrm{Be}(\alpha, \beta)$	$f(x) = \frac{x^{\alpha-1}(1-x)^{\beta - 1}}{B(\alpha, \beta)}$	$\frac{\alpha}{\alpha + \beta}$	$\frac{\alpha \beta}{(\alpha + \beta)^2 (\alpha + \beta + 1)}$
狄利克雷分布	$X \sim \mathrm{Dir}(\boldsymbol{\alpha})$	$f(x) = \frac{1}{B(\boldsymbol{\alpha})} \prod_{i=1}^K x_i^{\alpha_i - 1}$	$\frac{\boldsymbol{\alpha}}{\boldsymbol{1}^\top\boldsymbol{\alpha}}$	$\frac{\boldsymbol{\alpha} \odot (\boldsymbol{1}^\top\boldsymbol{\alpha} - \boldsymbol{\alpha})}{(\boldsymbol{1}^\top \boldsymbol{\alpha})^2(\boldsymbol{1}^\top \boldsymbol{\alpha} + 1)}$