哈尔滨工业大学 2011年数学分析第0题

设 $n$ 元函数 $f(x_1,\ldots,x_n)$ 具有连续二阶偏导数，$\vec{u}=(u_1,\ldots,u_n)$ 为单位行向量。Hessian 矩阵 $H=(f_{ij})$，其中 $f_{ij}=\frac{\partial^2 f}{\partial x_i \partial x_j}$。需要判断 $\vec{u} H \vec{u}^T$ 与 $f$ 沿 $\vec{u}$ 的二阶方向导数的关系。

沿方向 $\vec{u}$ 的一阶方向导数为： $$\frac{\partial f}{\partial \vec{u}} = \nabla f \cdot \vec{u}^T = \sum_{i=1}^n f_i u_i,$$ 其中 $f_i = \frac{\partial f}{\partial x_i}$。

二阶方向导数是一阶方向导数的方向导数： $$\frac{\partial^2 f}{\partial \vec{u}^2} = \frac{\partial}{\partial \vec{u}}\left(\frac{\partial f}{\partial \vec{u}}\right) = \sum_{i=1}^n \frac{\partial}{\partial \vec{u}}(f_i) u_i = \sum_{i=1}^n \left(\sum_{j=1}^n f_{ij} u_j\right) u_i = \sum_{i=1}^n \sum_{j=1}^n f_{ij} u_i u_j.$$

将 $\vec{u}$ 视为行向量，$H$ 为 $n\times n$ 矩阵，则 $$\vec{u} H \vec{u}^T = \sum_{i=1}^n \sum_{j=1}^n u_i f_{ij} u_j = \sum_{i=1}^n \sum_{j=1}^n f_{ij} u_i u_j.$$

由步骤2和步骤3，二阶方向导数等于 $\sum_{i,j} f_{ij} u_i u_j$，而步骤4中 $\vec{u} H \vec{u}^T$ 也等于该表达式。因此， $$\frac{\partial^2 f}{\partial \vec{u}^2} = \vec{u} H \vec{u}^T.$$ 即 $\vec{u} H \vec{u}^T$ 等于 $f$ 沿 $\vec{u}$ 的二阶方向导数。

利用方向导数的极限定义： $$\frac{\partial f}{\partial \vec{u}}(\mathbf{x}_0) = \lim_{t\to 0}\frac{f(\mathbf{x}_0+t\vec{u})-f(\mathbf{x}_0)}{t} = \nabla f(\mathbf{x}_0)\cdot\vec{u}^T.$$ 再求一次方向导数： $$\frac{\partial^2 f}{\partial \vec{u}^2}(\mathbf{x}_0) = \lim_{t\to 0}\frac{\frac{\partial f}{\partial \vec{u}}(\mathbf{x}_0+t\vec{u})-\frac{\partial f}{\partial \vec{u}}(\mathbf{x}_0)}{t} = \lim_{t\to 0}\frac{\nabla f(\mathbf{x}_0+t\vec{u})\cdot\vec{u}^T - \nabla f(\mathbf{x}_0)\cdot\vec{u}^T}{t}.$$ 由泰勒展开，$\nabla f(\mathbf{x}_0+t\vec{u}) = \nabla f(\mathbf{x}_0) + H(\mathbf{x}_0)(t\vec{u}^T) + o(t)$，代入得 $$\frac{\partial^2 f}{\partial \vec{u}^2} = \lim_{t\to 0}\frac{(H(\mathbf{x}_0)(t\vec{u}^T)+o(t))\cdot\vec{u}^T}{t} = H(\mathbf{x}_0)\vec{u}^T \cdot \vec{u}^T = \vec{u} H(\mathbf{x}_0) \vec{u}^T.$$