概率分布

均匀分布

均匀分布（Uniform Distribution）是概率论中最简单且常见的概率分布之一，它描述了一个随机变量在一定区间内取值的概率是均匀的，均匀分布可以是离散的，也可以是连续的

---

连续均匀分布的概率密度函数

连续均匀分布定义在一个区间 $[a,b]$ 中，随机变量在该区间内取值的概率密度是常数

$f(x)=\left\{\begin{aligned}&\frac{1}{b-a}&如果x\in[a,b]\\&0&其他\end{aligned}\right.$

• $a$ 是区间下限， $b$ 是区间上限， $b>a$

---

性质

• 期望值为 $E[X]=\frac{a+b}{2}$
• 方差 $Var(X)=\frac{(b-a)^2}{12}$
• 累积分布函数 $F(x)=\left\{\begin{aligned}&0&x<a\\&\frac{x-a}{b-a}&x\in[a,b]\\&1&x>b\end{aligned}\right.$
• 形状：概率密度在 $[a,b]$ 区间上是平坦的，区间外为 0

---

卡方分布

定义

设 $x_1,…x_n\sim N(0,1)$ ，令 $X=\sum_i^nx_i^2$ ，则称 $X$ 是自由度为 $n$ 的 $\chi^2$ 分布，记作 $X\sim\chi^2$

对于随机变量 $X\sim\chi^2$ ，其概率密度函数如下

$g_n(x)=\left\{\begin{aligned}&\frac{x^{\frac{n}{2}-1}e^{-\frac{x}{2}}}{2^{\frac{n}{2}}\Gamma(\frac{n}{2})}&x>0\\&0&x\leq 0\end{aligned}\right.$

其中 $\Gamma(x)=\int_0^\infty t^{x-1}e^{-t}dt\quad (x>0)$

---

性质

• 卡方分布的定义域为 $x>0$ ，卡方随机变量总是非负的
• 期望值为 $E[X]=n$
• 方差为 $Var(X)=2n$
• 当自由度 $n$ 较小时，卡方分布右偏，随着 $n$ 增大，分布逐渐对称并接近正态分布
• 对于随机变量 $X\sim \chi_n^2$ 有 $E(X)=n,Var(X)=2n$
• 对于两个随机变量 $Z_1\sim\chi_{n_1}^2$ 和 $Z_2\sim\chi_{n_2}^2$ ，并且两个随机变量相互独立，则 $Z_1+Z_2\sim\chi_{n_1+n_2}^2$
• 当 $n\rightarrow\infty$ 时，卡方分布趋近于正态分布 $N(n,2n)$

---

t 分布

定义

设随机变量 $X\sim N(0,1)$ 和 $Y\sim\chi_n^2$ ，且 $X$ 和 $Y$ 独立，则称

$T=\frac{X}{\sqrt{\frac{Y}{n}}}$

为自由度 $n$ 的 $t$ 变量，其分布称为自由为 $n$ 的 t 分布，记作 $T\sim t_n$

对于随机变量 $T\sim t_n$ ，其密度函数如下

$p_n(t)=\frac{\Gamma(\frac{n+1}{2})}{\Gamma(\frac{n}{2})\sqrt{n\pi}}(1+\frac{t^2}{n})^{-\frac{n+1}{2}}\quad t\in(-\infty,+\infty)$

---

性质

• 期望值为 $E[T]=0\quad n>1$
• 方差为 $Var(T)=\frac{n}{n-2}\quad n>2$ ，否则方差不存在
• 对于随机变量 $T\sim t_n$ ，则当 $n\geq2$ 时，均值 $E(T)=0$ 。当 $n\geq3$ 时，方差 $Var(T)=\frac{n}{n-2}$
• 当 $n\rightarrow\infty$ 时，t 变量的极线分布为 $N(0,1)$

---

F 分布

定义

对于两个随机变量 $X\sim\chi_m^2$ 和 $Y\sim\chi_n^2$ ，并且两个变量相互独立，则称

$F=\frac{X/m}{Y/n}$

为自由度分别是 $m$ 和 $n$ 的 F 变量，其分布称为自由度分别是 $m$ 和 $n$ 的 F 分布，记作 $F\sim F_{m,n}$

对于随机变量 $X\sim F_{m,n}$ 其概率密度函数如下

$f_{m,n}(x)=\left\{\begin{aligned}&\frac{\Gamma(\frac{m+n}{2})}{\Gamma(\frac{n}{2})\Gamma(\frac{m}{2})}m^{\frac{m}{2}}n^{\frac{n}{2}}x^{\frac{m}{2}-1}(n+mx)^{-\frac{m+n}{2}}&x>0\\&0&x\leq0\end{aligned}\right.$

---

性质

• 期望值为 $E[F]=\frac{n}{n-2}\quad n>2$
• 方差为 $Var(F)=\frac{2n^2(m+n-2)}{m(n-2)^2(n-4)}\quad n>4$
• 若 $X\sim F_{m,n}$ 则 $\frac{1}{X}\sim F_{n,m}$
• 若 $X\sim t_n$ 则 $X^2\sim F_{1,n}$
• $F_{m,n}(1-\alpha)=\frac{1}{F_{n,m}(\alpha)}$
• 当 $m$ 和 $n$ 较小时，分布偏右，随着逐渐增大，分布逐渐对称

---

二项分布

二项分布（Binomial Distribution）是一种离散概率分布，用于描述在 $n$ 次独立实验中，某事件正好发生 $k$ 次的概率。对于一个随机变量 $X$ ，如果其满足二项分布，则称其 $X\sim Binomial(n,p)$

---

概率质量函数

$P(X=k)=\left(\begin{matrix}n\\k\end{matrix}\right)p^k(1-p)^{n-k}\quad k=0,1,....n$

• $X$ 是随机变量，表示事件发生的次数
• $k$ 是事件发生的具体次数
• $n$ 是试验的总次数
• $p$ 是每次实验中事件发生的概率
• $\left(\begin{matrix}n\\k\end{matrix}\right)$ 是组合数，表示从 $n$ 次试验中选出 $k$ 次成功的方式数 $\left(\begin{matrix}n\\k\end{matrix}\right)=\frac{n!}{k!(n-k)!}$

---

性质

• 期望值为 $E[X]=np$
• 方差为 $Var(X)=np(1-p)$
• 矩生成函数 $M_X(t)=(1-p+pe^t)^n$
• 特征函数为 $\Phi_X(t)=(1-p+pe^{it})^n$ 其中 $i$ 是虚数单位
• 可加性：对于两个独立的二项随机变量 $X_1\sim Binomial(n_1,p)$ 和 $X_2\sim Binomial(n_2,p)$ ，则它们的和也满足二项分布 $X_1+X_2\sim Binomial(n_1+n_2,p)$

---

负二项分布

负二项分布（Negative Binomial Distribution）是一种离散概率分布，用于描述在一系列独立伯努利试验中，达到指定次数的成功所需的试验次数

---

负二项分布的概率质量函数

• 根据试验次数定义：随机变量 $X$ 表示达到 $r$ 次成功所需要的总实验次数，包括成功的

  $P(X=k)=\left(\begin{matrix}k-1\\r-1\end{matrix}\right)p^r(1-p)^{k-r}\quad k=0,1...$

• 根据失败次数定义：随机变量 $Y$ 表示达到 $r$ 次成功前的失败次数

  $P(Y=k)=\left(\begin{matrix}k+r-1\\r-1\end{matrix}\right)p^r(1-p)^{k-r}\quad k=0,1...$

其中

• $k$ 是试验次数或者失败次数
• $r\geq1$ 是成功次数
• $p$ 是每次试验的成功概率
• $1-p$ 是每次试验中失败的概率
• $\left(\begin{matrix}n\\k\end{matrix}\right)$ 是组合数，表示从 $n$ 次试验中选出 $k$ 次成功的方式数 $\left(\begin{matrix}n\\k\end{matrix}\right)=\frac{n!}{k!(n-k)!}$

---

性质

• 期望值为 $E[X]=\frac{r}{p}\quad E[Y]=\frac{r(1-p)}{p}$
• 方差为 $Var(X)=\frac{r(1-p)}{p^2}\quad Var(Y)=\frac{r(1-p)}{p^2}$
• 矩生成函数为 $M_X(t)=(\frac{pe^t}{1-(1-p)e^t})^r\quad M_Y(t)=(\frac{pe^t}{1-(1-p)e^t})^r\quad t<-\ln(1-p)$
• 可加性：对于两个独立的负二项随机变量 $X_1\sim NegativeBinomial(r_1,p)$ 和 $X_2\sim NegativeBinomial(r_2,p)$ ，则它们的和也满足二项分布 $X_1+X_2\sim NegativeBinomial(r_1+r_2,p)$
• 当 $r=1$ 时退化为几何分布，几何分布描述第一次成功所需的试验次数，而负二项分布描述第 $r$ 次成功所需的试验次数
• 当 $r\rightarrow\infty,p\rightarrow1$ 时，负二项分布可近似为泊松分布
• 二项分布描述固定试验次数中的成功次数，而负二项分布描述固定成功次数所需的试验次数

---

泊松分布

泊松分布（Poisson Distribution）是一种离散概率分布，用于描述在固定时间或空间内某事件发生的次数的概率分布。对于一个随机变量 $X$ ，如果其满足泊松分布，则称其 $X\sim Poisson(\lambda)$

---

概率质量函数

泊松分布的概率质量函数为

$P(X=k)=\frac{\lambda^ke^{-\lambda}}{k!}\quad k=0,1,....n$

• $X$ 是随机变量，表示事件发生的次数
• $k$ 是事件发生的具体次数
• $\lambda$ 是分布的参数，示在固定时间或空间内事件发生的平均次数
• $e$ 是自然对数的底

---

性质

• 期望值为 $E[X]=\lambda$

• 方差为 $Var(X)=\lambda$

• 矩生成函数为 $M_X(t)=\exp(\lambda(e^t-1))$

• 特征函数 $\Phi_X(t)=\exp(\lambda(e^{it}-1))$ ，其中 $i$ 是虚数单位

• 可加性：对于两个独立的泊松随机变量 $X_1\sim Poisson(\lambda_1)$ 和 $X_2\sim Poisson(\lambda_2)$ ，则它们的和也满足泊松分布 $X_1+X_2\sim Poisson(\lambda_1+\lambda_2)$

• 泊松分布可以看作是二项分布的极限情况，当二项分布的试验次数 $n$ 很大时，并且单次成功概率很小，并且 $\lambda=np$ 保持常数时，二项分布近似于泊松分布

  $Binomial(n,p)\approx Poisson(\lambda=np)\quad n\rightarrow\infty,p\rightarrow0$

---

几何分布

几何分布（Geometric Distribution）是一种离散概率分布，用于描述在一系列独立伯努利试验中，第一次成功所需的试验次数

---

几何分布的概率质量函数

• 对于第一次成功所需要的试验次数

  $P(X=k)=(1-p)^{k-1}p\quad k=1,2,....$

• 对于第一次成功前的失败次数

  $P(Y=k)=(1-p)^{k}p\quad k=1,2,....$

其中

• $k$ 是失败的次数或者试验次数
• $p$ 是每次试验中成功的概率

---

性质

• 期望值为 $E[X]=\frac{1}{p}\quad E[Y]=\frac{1-p}{p}$

• 方差为 $Var(X)=\frac{1-p}{p^2}\quad Var(Y)=\frac{1-p}{p^2}$

• 矩生成函数为 $M_X(t)=\frac{pe^t}{1-(1-p)e^t}\quad M_Y(t)=\frac{pe^t}{1-(1-p)e^t}\quad t<-\ln(1-p)$

• 无记忆性：几何分布是唯一具有无记忆性的离散分布，过去的失败对未来成功的概率没有影响

  $P(X>k+n\vert X>k)=P(x>n)\quad k,n>0$

• 几何分布是负二项分布的特例，当负二项分布的成功次数 $r=1$ 时，负二项分布退化为几何分布

---

指数分布

指数分布（Exponential Distribution）是一种连续概率分布，通常用于描述事件之间的时间间隔或等待时间，是唯一具有无记忆性（Memoryless Property）的连续分布

---

指数分布的概率密度函数

$f(x\vert\lambda)=\lambda e^{-\lambda x}\quad x\geq0$

• $x$ 是随机变量，表示事件之间的事件间隔或等待时间
• $\lambda>0$ 是速率参数，表示单位时间内事件发生的平均次数

也可以用尺度参数 $\theta=\frac{1}{\lambda}$ 来表示

$f(x\vert\theta)=\frac{1}{\theta}e^{-x/\theta}$

• $\theta$ 是尺度参数，表示事件之间的平均时间间隔

---

性质

• 期望值为 $E[X]=\frac{1}{\lambda}=\theta$

• 方差为 $Var(X)=\frac{1}{\lambda^2}=\theta^2$

• 矩生成函数为 $M_X(t)=\frac{\lambda}{\lambda-t}\quad t<\lambda$

• 特征函数为 $M_X(t)=\frac{\lambda}{\lambda-it}$

• 无记忆性：过去的事件对未来事件的概率没有影响

  $P(X>s+t\vert X>s)=P(X>t)\quad s,t>0$

• 如果事件在单位时间内发生的次数服从泊松分布 $Poisson(\lambda)$ ，则事件之间的时间间隔服从指数分布 $EXP(\lambda)$

• 指数分布是伽马分布的特例，当伽马分布的形状参数 $k=1$ 时伽马分布退化为指数分布

• 指数分布是几何分布的连续版本

---

伽马分布

伽马分布是一种连续概率分布，用于建模正实数值的随机变量，如果一个随机变量服从于伽马分布，记作 $X\sim\Gamma_p(\alpha,\beta)$

---

概率密度函数

$f(x\vert\alpha,\beta)=\frac{\beta^\alpha}{\Gamma(\alpha)}x^{\alpha-1}e^{-\beta x}\quad x>0$

• $x>0$ 是随机变量
• $\alpha>0$ 是形状参数
• $\beta>0$ 是尺度参数
• $\Gamma(\alpha)=\int_0^\infty x^{\alpha-1}e^{-x}dx$ 是伽马参数

---

性质

• 期望值为 $E[X]=\frac{\alpha}{\beta}$
• 方差值为 $Var(X)=\frac{\alpha}{\beta^2}$
• 当 $\alpha=1$ 时，伽马分布退化为指数分布
• 当 $\alpha=\frac{n}{2}$ 并且 $\beta=\frac{1}{2}$ 时，伽马分布就是自由度为 $n$ 的卡方分布
• 可加性，对于两个独立的随机变量 $X\sim \Gamma_p(a,\beta)$ 和 $Y\sim \Gamma_p(b,\beta)$ ，则 $Z=X+Y\sim \Gamma_p(a+b,\beta)$
• 特征函数 $\Phi_X(t)=(1-i\cdot\theta t)^{-k}$ ，其中 $i$ 是虚数单位
• 矩生成函数 $M_X(t)=(1-\theta t)^{-k}\quad t<\frac{1}{\theta}$

---

逆伽马分布

逆伽马分布是伽马分布的逆分布，通常用于建模正实数值的随机变量，如果一个随机变量服从于逆伽马分布，记作 $X\sim\Gamma_p^{-1}(\alpha,\beta)$

---

概率密度函数

$f(x\vert\alpha,\beta)=\frac{\beta^\alpha}{\Gamma(\alpha)}x^{-\alpha-1}e^{-\beta x}\quad x>0$

• $\alpha>0$ 是形状参数
• $\beta>0$ 是尺度参数

---

性质

• 如果 $X\sim\Gamma_p(\alpha,\beta)$ ，则 $Y=\frac{1}{X}\sim\Gamma_p^{-1}(\alpha,\beta)$
• 期望值为 $E[X]=\frac{\beta}{\alpha-1}\quad\alpha>1$
• 方差为 $Var(X)=\frac{\beta^2}{(\alpha-1)^2(\alpha-2)}\quad\alpha>2$

---

威沙特分布

威沙特分布是多元高斯分布的协方差矩阵的分布，通常用于建模正定对称矩阵

---

定义

对于 $X\in R^{n\times p}$ 的随机矩阵，其列向量独立同分布于 $N_p(M,\Sigma)$ ，则 $W=X^TX$ 服从自由度为 $n$ ，非中心参数矩阵 $\Omega=M^T\Sigma^{-1}M$ 的非中心威沙特分布，记作 $W\sim W_p(n,\Sigma,\Omega)$

• $p$ 维度
• $n\geq p$ 自由度
• $\Sigma\in R^{p\times p}$ 协方差矩阵
• $\Omega\in R^{p\times p}$ 的非中心参数矩阵

特别的，当 $M=0$ 时 $W=X^TX$ 服从于自由度为 $n$ 的中心威沙特分布，记作 $W\sim W_p(n,\Sigma)$

---

性质

• 非中心威沙特分布的期望值为 $E[W]=n\Sigma+M^TM$
• 中心威沙特分布的期望值为 $E[W]=n\Sigma$
• 协方差为 $Cov(W_{ij},W{kl})=n(\Sigma_{ik}\Sigma_{jl}+\Sigma_{il}\Sigma_{jk})$
• 非中心威沙特分布特征函数为 $\Phi_W(T)=\vert I_p-2i\Sigma T\vert^{-n/2}\exp(i\cdot tr(T(I_p-2i\Sigma T)^{-1}\Omega))$ 其中 $i$ 是虚数单位
• 非中心威沙特分布特征函数为 $\Phi_W(T)=\vert I_p-2i\Sigma T\vert^{-n/2}$

---

逆威沙特分布

逆威沙特分布是威沙特分布的逆分布，通常用于建模正定对称矩阵的逆矩阵，如果一个随机变量服从于逆伽马分布，记作 $X\sim W_p^{-1}(v,\Psi)$

---

概率密度函数

$f(X\vert v,\Psi)=\frac{\vert\Psi\vert^{v/2}\vert X\vert^{-(v+d+1)/2}\exp(-\frac{1}{2}tr(\Psi X^{-1}))}{2^{vd/2}\Gamma_d(v/2)}$

• $X\in R^{p\times p}$ 是正定矩阵
• $\Psi\in R^{p\times p}$ 是正定矩阵
• $\Gamma_d$ 是多变量伽马分布
• $tr$ 表示矩阵的迹

---

性质

• 如果一个正定矩阵 $W$ 的逆矩阵遵从自由度为 $v$ 的威沙特分布 $W^{-1}\sim W_p(v,\Sigma)$ 的话，那么该矩阵遵从逆威沙特分布 $W\sim W_p^{-1}(v,\Sigma^{-1})$

• 期望 $E[X]=\frac{\Psi}{v-p-1}\quad v>p+1$

• 协方差，对于 $X$ 的元素 $X_{ij},X_{kl}$ ，协方差为

  $Cov(X_{ij},X_{kl}=\frac{(v-p-1)\Psi_{ik}\Psi_{jl}+(v-p-1)\Psi_{il}\Psi_{jk}}{(v-p)(v-p-1)(v-p-3)}\quad v>p+3$

• 逆的期望 $E[X^{-1}]=v\Psi^{-1}$

---

高斯分布

高斯分布（Gaussian Distribution）又称为正态分布（Normal Distribution）

---

概率密度函数

$f(x)=\frac{1}{\sqrt{2\pi\sigma^2}}\exp(-\frac{(x-\mu)^2}{2\sigma^2})$

• $\mu$ 是均值，决定分布的中心值
• $\sigma^2$ 是方差

---

性质

• 对称性：关于均值对称
• 钟形曲线：呈单峰钟形，峰值在 $x=\mu$ 处
• 有 68% 在 $\mu\plusmn\sigma$ 内
• 有 95% 在 $\mu\plusmn2\sigma$ 内
• 有 99.7% 在 $\mu\plusmn3\sigma$ 内
• 线性变换：若 $x\sim\mathcal{N}(\mu,\sigma^2)$ 则 $aX+b\sim\mathcal{N}(a\mu+b,a^2\sigma^2)$

---

标准正态分布

当 $\mu=0$ 且 $\sigma=1$ 时称为标准正态分布，概率密度函数为

$f(x)=\frac{1}{\sqrt{2\pi}}\exp(-\frac{x^2}{2})$

---

混合高斯分布

混合高斯分布（Gaussian Mixture Model, GMM）是由多个高斯分布线性组合而成的概率分布，常用于对复杂数据分布的建模

---

概率密度函数

$p(x)=\sum_k^K\pi_k\mathcal{N}(x\vert\mu_k,\Sigma_k)$

• $K$ 是高斯分布的数量
• $\pi_k$ 是第 $k$ 个高斯分布的混合系数（权重），满足 $\sum_k^K\pi_k=1,\pi_k\geq0$
• $\mathcal{N}(x\vert\mu_k,\Sigma_k)$ 是第 $k$ 个高斯分布的概率密度函数， $\mu_k$ 是均值， $\Sigma_k$ 是协方差

---

性质

• 期望值为 $E[X]=\sum_k^K\pi_k\mu_k$
• 协方差矩阵为 $Cov(X)=\sum_k^K\pi_k(\Sigma_k+(\mu_k-E[X])(\mu_k-E[X])^T)$
• 灵活性：通过调整高斯分布的数量 $K$ 和参数，可以模拟各种复杂分布
• 多峰性：混合高斯分布可以描述多峰数据，而单一高斯分布只能描述单峰数据

---

狄利克雷分布

狄利克雷分布（Dirichlet Distribution）是概率论中的一种连续多元概率分布，常用于贝叶斯统计和多元数据分析，它是贝塔分布（Beta Distribution）在高维空间中的推广

---

定义

对于一个 $K$ 维随机向量 $X=\{x_1,…x_k\}$ ，如果其满足如下条件

• 对于任意 $i$ 都满足 $x_i\geq0$
• $\sum_i^Kx_i=1$

并且其概率密度函数为

$f(X\vert\alpha)=\frac{1}{B(\alpha)}\prod_i^Kx_i^{\alpha_i-1}$

• $\alpha=(\alpha_1,…\alpha_K)$ 是一个正实数，称为浓度参数（concentration parameters）
• $B(\alpha)=\frac{\prod_i^K\Gamma(\alpha_i)}{\Gamma(\sum_i^K\alpha_i)}$ 是多元贝塔函数，其中 $\Gamma$ 是伽马函数

---

性质

• 期望值为 $E[x_i]=\frac{\alpha_i}{\sum_j^K\alpha_j}$
• 方差 $Var(x_i)=\frac{\alpha_i(\sum_j^K\alpha_j-\alpha_i)}{(\sum_j^K\alpha_j)^2(\sum_j^K\alpha_j+1)}$
• 协方差为 $Cov(x_i,x_j)=\frac{-\alpha_i\alpha_j}{(\sum_k^K\alpha_k)^2(\sum_k^K\alpha_k+1)}\quad i\neq j$
• 狄利克雷分布是多项分布的共轭先验，即如果先验分布是狄利克雷分布，似然函数是多项分布，那么后验分布也是狄利克雷分布
• 狄利克雷分布具有聚集性质，即对于 $p\sim Dir(\alpha)$ ，则 $p$ 的某些分量可以合并，合并之后仍然是狄利克雷分布
• 当所有的 $\alpha_i$ 相等时，狄利克雷分布是对称的，分布的形状在各个方向上相同

---

贝塔分布

贝塔分布（Beta Distribution）是定义在区间 $[0,1]$ 上的一种连续概率分布，常用于表示概率的概率分布

---

定义

贝塔分布由两个正实数参数 $\alpha$ 和 $\beta$ 定义，其概率密度函数为

$f(x\vert\alpha,\beta)=\frac{x^{\alpha-1}(1-x)^{\beta-1}}{B(\alpha,\beta)}$

• $x\in[0,1]$ 是随机变量
• $\alpha>0$ 和 $\beta>0$ 是形状参数
• $B(\alpha,\beta)=\frac{\Gamma(\alpha)\Gamma(\beta)}{\Gamma(\alpha+\beta)}$ 是贝塔函数，其中 $\Gamma$ 是伽马函数

---

性质

• 期望值为 $E[X]=\frac{\alpha}{\alpha+\beta}$
• 方差为 $Var(X)=\frac{\alpha\beta}{(\alpha+\beta)^2(\alpha+\beta+1)}$
• 众数为 $Mode(X)=\frac{\alpha-1}{\alpha+\beta-2}$
• 对称性：
  • 当 $\alpha=\beta$ 时分布是对称
  • 当 $\alpha>\beta$ 时分布左偏
  • 当 $\alpha<\beta$ 时分布右偏
• 当 $\alpha=\beta=1$ 时，贝塔分布退化为均匀分布
• 形状
  • 当 $\alpha>1,\beta>1$ 时，分布呈单峰
  • 当 $\alpha<1,\beta<1$ 时，分布呈 U 形
  • 当 $\alpha<1,\beta\geq1$ 或 $\alpha\geq1,\beta<1$ 时，分布呈 J 形

---

多元高斯分布

多元高斯分布（Multivariate Gaussian Distribution）是单变量高斯分布在多维空间中的推广，用于描述多个随机变量的联合分布

---

概率密度函数

$p(x)=\frac{1}{(2\pi)^{n/2}\vert\Sigma\vert^{1/2}}\exp(-\frac{1}{2}(x-\mu)^T\Sigma^{-1}(x-\mu))$

• $x$ 是 n 维随机向量
• $\mu$ 是均值向量，表示各变量的期望值
• $\Sigma$ 是协方差矩阵
• $\vert\Sigma\vert$ 是协方差矩阵的行列式

---

性质

• 均值向量 $\mu$ 决定分布的中心位置
• 协方差矩阵 $\Sigma$ 控制分布的形态和方向
• 若协方差矩阵为对角矩阵，变量间相互独立
• 对多元高斯随机向量进行线性变换，结果仍为多元高斯分布

---