矩估计法的基本思想是用样本矩代替总体矩,从而建立方程求解参数。本题中,总体分布为均匀分布 $U(0,\theta)$,其概率密度函数为 $f(x)=\frac{1}{\theta},\ 0
公式:$$\hat{\theta}_{M} = 2\bar{X}$$
提示:牢记矩估计步骤:先求总体矩(用参数表示),再令其等于样本矩,最后解方程。
目标:构造似然函数
已知总体 $X$ 的概率密度函数为 $f(x;\theta)=\theta^2 x^{-3} e^{-\theta/x}$,$x>0$,$\theta>0$。设 $x_1,x_2,\dots,x_n$ 为来自该总体的样本观测值,且相互独立。根据似然函数的定义,似然函数 $L(\theta)$ 等于所有样本点概率密度函数的乘积,即
$$L(\theta)=\prod_{i=1}^n f(x_i;\theta)=\prod_{i=1}^n \left(\theta^2 x_i^{-3} e^{-\theta/x_i}\right).$$
将乘积展开,常数因子 $\theta^2$ 连乘 $n$ 次得到 $\theta^{2n}$;$x_i^{-3}$ 连乘得到 $\prod_{i=1}^n x_i^{-3} = \left(\prod_{i=1}^n x_i\right)^{-3}$;指数部分 $e^{-\theta/x_i}$ 连乘得到 $e^{-\theta\sum_{i=1}^n (1/x_i)}$。因此似然函数可写为
$$L(\theta)=\theta^{2n} \left(\prod_{i=1}^n x_i\right)^{-3} e^{-\theta\sum_{i=1}^n \frac{1}{x_i}}.$$
这就是本步骤需要构造的似然函数。
公式:$$L(\theta)=\theta^{2n} \left(\prod_{i=1}^n x_i\right)^{-3} e^{-\theta\sum_{i=1}^n \frac{1}{x_i}}$$
提示:注意指数部分求和与乘积的转换,保持符号规范。
目标:取对数似然函数
已知样本 $x_1, x_2, \ldots, x_n$ 独立同分布,其概率密度函数为 $f(x;\theta) = 2\theta x^{-3} e^{-\theta/x}$,$x>0$,$\theta>0$。在步骤3中已得到似然函数:
$$L(\theta) = \prod_{i=1}^n f(x_i;\theta) = \prod_{i=1}^n \left( 2\theta x_i^{-3} e^{-\theta/x_i} \right) = (2\theta)^n \left( \prod_{i=1}^n x_i^{-3} \right) e^{-\theta \sum_{i=1}^n \frac{1}{x_i}}.$$
为了便于求导和求解极大似然估计,对似然函数取自然对数。对数似然函数为:
$$\ln L(\theta) = \ln\left[ (2\theta)^n \left( \prod_{i=1}^n x_i^{-3} \right) e^{-\theta \sum_{i=1}^n \frac{1}{x_i}} \right].$$
利用对数运算性质,将乘积转化为求和:
$$\ln L(\theta) = \ln(2\theta)^n + \ln\left( \prod_{i=1}^n x_i^{-3} \right) + \ln\left( e^{-\theta \sum_{i=1}^n \frac{1}{x_i}} \right).$$
分别计算每一项:
- $\ln(2\theta)^n = n \ln(2\theta) = n(\ln 2 + \ln \theta) = n\ln 2 + n\ln \theta$;
- $\ln\left( \prod_{i=1}^n x_i^{-3} \right) = \sum_{i=1}^n \ln(x_i^{-3}) = \sum_{i=1}^n (-3\ln x_i) = -3\sum_{i=1}^n \ln x_i$;
- $\ln\left( e^{-\theta \sum_{i=1}^n \frac{1}{x_i}} \right) = -\theta \sum_{i=1}^n \frac{1}{x_i}$。
因此,对数似然函数为:
$$\ln L(\theta) = n\ln 2 + n\ln \theta - 3\sum_{i=1}^n \ln x_i - \theta \sum_{i=1}^n \frac{1}{x_i}.$$
通常,在求极大似然估计时,常数项 $n\ln 2$ 和 $-3\sum \ln x_i$ 对求导无影响,但为了完整,我们保留所有项。题目中给出的形式为 $\ln L(\theta) = 2n\ln\theta - \theta\sum(1/x_i) - 3\sum\ln x_i$,这里 $2n\ln\theta$ 的出现可能是因为原题中 $\theta$ 的指数为 $2n$(即 $(\theta^2)^n$ 或类似形式),但根据我们推导的密度函数,应为 $n\ln\theta$。请根据实际题目中的密度函数确认系数。本步骤关键公式为:
$$\ln L(\theta) = n\ln\theta - \theta\sum_{i=1}^n \frac{1}{x_i} - 3\sum_{i=1}^n \ln x_i + \text{常数}.$$
公式:\ln L(\theta) = n\ln\theta - \theta\sum_{i=1}^n \frac{1}{x_i} - 3\sum_{i=1}^n \ln x_i + n\ln 2
提示:取对数时注意常数项可省略,但保留完整形式有助于后续求导。
目标:求导并令导数为零
在第4步中,我们得到了对数似然函数:
$$
\ln L(\theta) = 2n \ln \theta - \theta \sum_{i=1}^{n} x_i + \sum_{i=1}^{n} \ln(1 - e^{-\theta x_i}) + \text{常数}.
$$
但根据题目给定的指数分布形式(参数为$\theta$的指数分布,样本独立同分布),正确的对数似然函数应为:
$$
\ln L(\theta) = n \ln \theta - \theta \sum_{i=1}^{n} x_i.
$$
(注:此处假设题目中样本来自参数为$\theta$的指数分布,密度函数为$f(x;\theta)=\theta e^{-\theta x}, x>0$。)
现在对$\ln L(\theta)$关于$\theta$求导:
$$
\frac{d}{d\theta} \ln L(\theta) = \frac{n}{\theta} - \sum_{i=1}^{n} x_i.
$$
令导数为零,得到似然方程:
$$
\frac{n}{\theta} - \sum_{i=1}^{n} x_i = 0.
$$
整理得:
$$
\frac{n}{\theta} = \sum_{i=1}^{n} x_i \quad \Rightarrow \quad \theta = \frac{n}{\sum_{i=1}^{n} x_i}.
$$
因此,$\theta$的极大似然估计量为:
$$
\hat{\theta} = \frac{n}{\sum_{i=1}^{n} X_i} = \frac{1}{\bar{X}}.
$$
其中$\bar{X} = \frac{1}{n}\sum_{i=1}^{n} X_i$为样本均值。
公式:\frac{d}{d\theta} \ln L(\theta) = \frac{n}{\theta} - \sum_{i=1}^{n} x_i = 0 \quad \Rightarrow \quad \hat{\theta} = \frac{1}{\bar{X}}
提示:求导后注意检查每一项是否都正确,解方程时注意将$\theta$单独放在一边。
目标:解出最大似然估计量
由第5步得到的似然方程:
$$
\frac{2n}{\theta} = \sum_{i=1}^{n} \frac{1}{x_i}
$$
将方程两边同时乘以 $\theta$,得:
$$
2n = \theta \sum_{i=1}^{n} \frac{1}{x_i}
$$
再两边同时除以 $\sum_{i=1}^{n} \frac{1}{x_i}$(注意 $x_i > 0$,故 $\sum 1/x_i > 0$),解得:
$$
\theta = \frac{2n}{\sum_{i=1}^{n} \frac{1}{x_i}}
$$
因此,参数 $\theta$ 的最大似然估计量为:
$$
\hat{\theta} = \frac{2n}{\sum_{i=1}^{n} \frac{1}{X_i}}
$$
**验证**:由于样本 $X_i$ 独立同分布且取值大于0,分母 $\sum 1/X_i > 0$,故 $\hat{\theta} > 0$,符合参数 $\theta > 0$ 的定义域。该估计量是样本观测值的函数,满足最大似然估计的定义。
公式:$$\hat{\theta} = \frac{2n}{\sum_{i=1}^{n} \frac{1}{X_i}}$$
提示:解似然方程时,先整理出含参数的项,再通过代数变形分离参数。