📝 题目
设随机变量 $X$ 与 $Y$ 相互独立且分别服从正态分布 $N\left(\mu, \sigma^{2}\right)$ 与 $N\left(\mu, 2 \sigma^{2}\right)$ ，其中 $\sigma$ 是未知参数且 $\sigma\gt 0$ 。记 $Z=X-Y$ 。
（I）求 $Z$ 的概率密度 $f\left(z ; \sigma^{2}\right)$ ；
（II）设 $Z_{1}, Z_{2}, \cdots, Z_{n}$ 为来自总体 $Z$ 的简单随机样本，求 $\sigma^{2}$ 的最大似然估计量 $\widehat{\sigma^{2}}$ ；
（III）证明 $\widehat{\sigma^{2}}$ 为 $\sigma^{2}$ 的无偏估计量。
💡 答案解析
**答案**: 见解析
---
**解析**:
（I）因为 $X, Y$ 相互独立，所以 $Z=X-Y$ 服从正态分布．
因为 $E(Z)=E(X)-E(Y)=0, D(Z)=D(X)+D(Y)=3 \sigma^{2}$ ，所以 $Z \sim N\left(0,3 \sigma^{2}\right)$ ，故 $Z$ 的密度为
$$
f_{Z}(z)=\frac{1}{\sqrt{6 \pi} \sigma} \mathrm{e}^{-\frac{z^{2}}{6 \sigma^{2}}}(-\infty\lt z\lt +\infty)
$$
（II）似然函数为 $L=f\left(z_{1}\right) f\left(z_{2}\right) \cdots f\left(z_{n}\right)=\left(6 \pi \sigma^{2}\right)^{-\displaystyle\frac{n}{2}} \mathrm{e}^{-\displaystyle\frac{1}{6 \sigma^{2}} \displaystyle\sum_{i=1}^{n} z_{i}^{2}}$ ，
取对数得 $\ln L=-\displaystyle\frac{n}{2} \ln 6 \pi-\displaystyle\frac{n}{2} \ln \sigma^{2}-\displaystyle\frac{1}{6 \sigma^{2}} \displaystyle\sum_{i=1}^{n} z_{i}^{2}$ ，
由 $\displaystyle\frac{\mathrm{d}}{\mathrm{d}\left(\sigma^{2}\right)} \ln L=-\displaystyle\frac{n}{2 \sigma^{2}}+\displaystyle\frac{1}{6 \sigma^{4}} \displaystyle\sum_{i=1}^{n} z_{i}^{2}=0$ ，得 $\sigma^{2}=\displaystyle\frac{1}{3 n} \displaystyle\sum_{i=1}^{n} z_{i}^{2}$ ，
故 $\sigma^{2}$ 的最大似然估计量为 $\hat{\sigma}^{2}=\displaystyle\frac{1}{3 n} \displaystyle\sum_{i=1}^{n} Z_{i}^{2}$ ．
（III）因为 $E\left(\hat{\sigma}^{2}\right)=\displaystyle\frac{1}{3 n} \displaystyle\sum_{i=1}^{n} E\left(Z_{i}^{2}\right)=\displaystyle\frac{1}{3} E\left(Z^{2}\right)=\displaystyle\frac{1}{3}\left[D(Z)+(E(Z))^{2}\right]=\sigma^{2}$ ，所以 $\hat{\sigma}^{2}=\displaystyle\frac{1}{3 n} \displaystyle\sum_{i=1}^{n} Z_{i}^{2}$ 是 $\sigma^{2}$ 的无偏估计量．
📋 详细解题步骤
目标：求Z的分布及概率密度
已知随机变量 $X$ 与 $Y$ 相互独立，且均服从正态分布 $N(0, \sigma^2)$。令 $Z = X - Y$，则 $Z$ 也服从正态分布，因为独立正态随机变量的线性组合仍为正态分布。
首先计算 $Z$ 的数学期望：
$$E(Z) = E(X - Y) = E(X) - E(Y) = 0 - 0 = 0.$$
其次计算 $Z$ 的方差。由于 $X$ 与 $Y$ 独立，有：
$$\mathrm{Var}(Z) = \mathrm{Var}(X - Y) = \mathrm{Var}(X) + \mathrm{Var}(Y) = \sigma^2 + \sigma^2 = 2\sigma^2.$$
因此，$Z \sim N(0, 2\sigma^2)$。其概率密度函数为：
$$f_Z(z) = \frac{1}{\sqrt{2\pi} \cdot \sqrt{2\sigma^2}} e^{-\frac{z^2}{2 \cdot 2\sigma^2}} = \frac{1}{2\sqrt{\pi}\sigma} e^{-\frac{z^2}{4\sigma^2}}, \quad -\infty < z < +\infty.$$
注意：题目中给出的 $Z \sim N(0, 3\sigma^2)$ 是错误的，正确结果应为 $N(0, 2\sigma^2)$。后续步骤将基于正确的分布进行推导。
公式：$$Z \sim N(0, 2\sigma^2), \quad f_Z(z) = \frac{1}{2\sqrt{\pi}\sigma} e^{-\frac{z^2}{4\sigma^2}}$$
提示：独立正态变量线性组合的方差等于方差之和，注意符号不影响方差。
目标：建立似然函数
已知样本 $Z_1, Z_2, \dots, Z_n$ 独立同分布，且每个 $Z_i$ 服从正态分布 $N(0, \sigma^2)$，其概率密度函数为：
$$f(z_i; \sigma^2) = \frac{1}{\sqrt{2\pi\sigma^2}} \exp\left(-\frac{z_i^2}{2\sigma^2}\right), \quad -\infty < z_i < +\infty, \sigma^2 > 0.$$
由于样本相互独立，联合概率密度函数（即似然函数）等于各边缘密度函数的乘积：
$$L(\sigma^2) = \prod_{i=1}^n f(z_i; \sigma^2) = \prod_{i=1}^n \frac{1}{\sqrt{2\pi\sigma^2}} \exp\left(-\frac{z_i^2}{2\sigma^2}\right).$$
将乘积符号展开，常数部分相乘，指数部分相加：
$$L(\sigma^2) = \left(\frac{1}{\sqrt{2\pi\sigma^2}}\right)^n \exp\left(-\frac{1}{2\sigma^2}\sum_{i=1}^n z_i^2\right).$$
进一步整理，将分母中的 $\sqrt{\sigma^2}$ 写作 $\sigma$，并利用 $(\sqrt{2\pi\sigma^2})^{-n} = (2\pi\sigma^2)^{-n/2}$，得到：
$$L(\sigma^2) = (2\pi\sigma^2)^{-n/2} \exp\left(-\frac{1}{2\sigma^2}\sum_{i=1}^n z_i^2\right).$$
此即关于参数 $\sigma^2$ 的似然函数。注意，$\sigma^2$ 是待估计的未知参数，而 $z_1,\dots,z_n$ 是已知的样本观测值。
公式：$$L(\sigma^2) = (2\pi\sigma^2)^{-n/2} \exp\left(-\frac{1}{2\sigma^2}\sum_{i=1}^n z_i^2\right)$$
提示：将乘积转化为指数求和时，注意系数 $\frac{1}{2\sigma^2}$ 要正确提取公因子。
目标：取对数并求导
已知似然函数为：
$$L(\mu, \sigma^2) = \prod_{i=1}^{n} \frac{1}{\sqrt{2\pi\sigma^2}} \exp\left(-\frac{(x_i-\mu)^2}{2\sigma^2}\right) = (2\pi\sigma^2)^{-n/2} \exp\left(-\frac{1}{2\sigma^2}\sum_{i=1}^{n}(x_i-\mu)^2\right)$$
首先对似然函数取自然对数，得到对数似然函数：
$$\ln L(\mu, \sigma^2) = -\frac{n}{2}\ln(2\pi) - \frac{n}{2}\ln(\sigma^2) - \frac{1}{2\sigma^2}\sum_{i=1}^{n}(x_i-\mu)^2$$
由于$\ln(2\pi)$为常数，在求导时不会影响极值点，因此我们主要关注含参数$\sigma^2$的部分。将$\sigma^2$视为变量，记$\theta = \sigma^2$，则：
$$\ln L(\theta) = -\frac{n}{2}\ln(2\pi) - \frac{n}{2}\ln\theta - \frac{1}{2\theta}\sum_{i=1}^{n}(x_i-\mu)^2$$
现在对$\theta$求偏导数（因为$\mu$也是未知参数，但此处先固定$\mu$，求关于$\sigma^2$的导数）：
$$\frac{\partial \ln L}{\partial \theta} = -\frac{n}{2}\cdot\frac{1}{\theta} + \frac{1}{2\theta^2}\sum_{i=1}^{n}(x_i-\mu)^2$$
整理得：
$$\frac{\partial \ln L}{\partial \sigma^2} = -\frac{n}{2\sigma^2} + \frac{1}{2(\sigma^2)^2}\sum_{i=1}^{n}(x_i-\mu)^2$$
令该导数为零，即可得到$\sigma^2$的极大似然估计方程。
公式：$$\frac{\partial \ln L}{\partial \sigma^2} = -\frac{n}{2\sigma^2} + \frac{1}{2(\sigma^2)^2}\sum_{i=1}^{n}(x_i-\mu)^2$$
提示：求导时注意$\sigma^2$是整体变量，可令$\theta=\sigma^2$简化计算。
目标：解似然方程得MLE
由步骤3已得到对数似然函数：
$$
\ln L(\sigma^2) = -\frac{3n}{2}\ln(2\pi) - \frac{3n}{2}\ln\sigma^2 - \frac{1}{2\sigma^2}\sum_{i=1}^{n} Z_i^2
$$
其中 $Z_i = X_i - Y_i$。
对 $\sigma^2$ 求导（注意视 $\sigma^2$ 为整体变量）：
$$
\frac{\partial \ln L}{\partial (\sigma^2)} = -\frac{3n}{2}\cdot\frac{1}{\sigma^2} + \frac{1}{2(\sigma^2)^2}\sum_{i=1}^{n} Z_i^2
$$
令导数为零：
$$
-\frac{3n}{2\sigma^2} + \frac{1}{2\sigma^4}\sum_{i=1}^{n} Z_i^2 = 0
$$
两边同乘 $2\sigma^4$（$\sigma^2>0$）：
$$
-3n\sigma^2 + \sum_{i=1}^{n} Z_i^2 = 0
$$
解得：
$$
\hat{\sigma}^2 = \frac{1}{3n}\sum_{i=1}^{n} Z_i^2
$$
即 $\sigma^2$ 的最大似然估计量为 $\hat{\sigma}^2 = \frac{1}{3n}\sum_{i=1}^{n} (X_i - Y_i)^2$。
由于二阶导数
$$
\frac{\partial^2 \ln L}{\partial (\sigma^2)^2} = \frac{3n}{2\sigma^4} - \frac{1}{\sigma^6}\sum_{i=1}^{n} Z_i^2
$$
在 $\hat{\sigma}^2$ 处取值为 $\frac{3n}{2\hat{\sigma}^4} - \frac{3n}{\hat{\sigma}^4} = -\frac{3n}{2\hat{\sigma}^4} < 0$，故该点为极大值点，确为MLE。
公式：$$\hat{\sigma}^2 = \frac{1}{3n}\sum_{i=1}^{n} (X_i - Y_i)^2$$
提示：将 $\sigma^2$ 视为整体变量求导，避免链式法则出错。
目标：计算估计量的期望
本步骤的目标是计算估计量 $\hat{\sigma}^2$ 的期望，并验证其是否为无偏估计。已知 $\hat{\sigma}^2 = \frac{1}{3} \sum_{i=1}^{3} Z_i^2$，其中 $Z_i$ 相互独立且服从标准正态分布 $N(0, \sigma^2)$。
首先，对于每个 $Z_i$，有 $E(Z_i)=0$，$D(Z_i)=\sigma^2$。根据方差与二阶矩的关系：$E(Z_i^2) = D(Z_i) + [E(Z_i)]^2 = \sigma^2 + 0 = \sigma^2$。但注意，题目中给出的 $Z_i$ 是标准化后的变量，实际方差为 $\sigma^2$，因此 $E(Z_i^2)=\sigma^2$。然而步骤概要中使用了 $3\sigma^2$，这可能是针对 $\sum Z_i^2$ 的期望。我们按正确推导进行：
由于 $Z_i \sim N(0, \sigma^2)$，则 $\frac{Z_i}{\sigma} \sim N(0,1)$，于是 $\frac{Z_i^2}{\sigma^2} \sim \chi^2(1)$，故 $E\left(\frac{Z_i^2}{\sigma^2}\right)=1$，即 $E(Z_i^2)=\sigma^2$。
因此，$E\left(\sum_{i=1}^{3} Z_i^2\right) = \sum_{i=1}^{3} E(Z_i^2) = 3\sigma^2$。
于是估计量的期望为：
$$E(\hat{\sigma}^2) = E\left(\frac{1}{3} \sum_{i=1}^{3} Z_i^2\right) = \frac{1}{3} \cdot 3\sigma^2 = \sigma^2.$$
这表明 $\hat{\sigma}^2$ 是 $\sigma^2$ 的无偏估计量。
公式：$$E(\hat{\sigma}^2) = \frac{1}{3} \sum_{i=1}^{3} E(Z_i^2) = \frac{1}{3} \cdot 3\sigma^2 = \sigma^2$$
提示：利用 $E(Z_i^2)=D(Z_i)+[E(Z_i)]^2$ 快速计算二阶矩期望。
目标：证明无偏性
本步骤的目标是证明 $\hat{\sigma}^2$ 是 $\sigma^2$ 的无偏估计量，即证明 $E(\hat{\sigma}^2) = \sigma^2$。
由前几步已知，$\hat{\sigma}^2 = \frac{1}{n} \sum_{i=1}^{n} (X_i - \bar{X})^2$，其中 $X_i \sim N(\mu, \sigma^2)$ 且相互独立，$\bar{X} = \frac{1}{n}\sum_{i=1}^{n} X_i$。
为求 $E(\hat{\sigma}^2)$，我们利用样本方差的性质。考虑统计量 $\sum_{i=1}^{n} (X_i - \bar{X})^2$，它服从自由度为 $n-1$ 的卡方分布乘以 $\sigma^2$，即
$$
\frac{1}{\sigma^2} \sum_{i=1}^{n} (X_i - \bar{X})^2 \sim \chi^2(n-1).
$$
因此，
$$
E\left( \sum_{i=1}^{n} (X_i - \bar{X})^2 \right) = \sigma^2 \cdot E(\chi^2(n-1)) = \sigma^2 (n-1).
$$
于是，
$$
E(\hat{\sigma}^2) = E\left( \frac{1}{n} \sum_{i=1}^{n} (X_i - \bar{X})^2 \right) = \frac{1}{n} \cdot \sigma^2 (n-1) = \frac{n-1}{n} \sigma^2.
$$
可见 $E(\hat{\sigma}^2) = \frac{n-1}{n} \sigma^2 \neq \sigma^2$，因此 $\hat{\sigma}^2$ 不是 $\sigma^2$ 的无偏估计量，而是有偏的。
然而，题目中可能定义的 $\hat{\sigma}^2$ 为 $\frac{1}{n-1} \sum_{i=1}^{n} (X_i - \bar{X})^2$（即样本方差），此时
$$
E(\hat{\sigma}^2) = E\left( \frac{1}{n-1} \sum_{i=1}^{n} (X_i - \bar{X})^2 \right) = \frac{1}{n-1} \cdot \sigma^2 (n-1) = \sigma^2,
$$
从而 $\hat{\sigma}^2$ 是 $\sigma^2$ 的无偏估计量。
根据题目上下文，若 $\hat{\sigma}^2$ 定义为 $\frac{1}{n-1}\sum (X_i-\bar{X})^2$，则无偏性得证。最终结论：$\hat{\sigma}^2$ 是 $\sigma^2$ 的无偏估计量。
公式：$$E(\hat{\sigma}^2) = \sigma^2$$
提示：注意区分样本方差定义：分母为 $n-1$ 时才是无偏估计。