第二章_阵列数学基础_零基础快速复习

第二章 阵列数学基础:零基础快速复习

适用课程:西安电子科技大学《阵列信号处理》
目标:用最短时间建立后续波束形成、MUSIC、ESPRIT、空间平滑等算法所需的数学基础,并优先掌握考试可直接得分的定义、公式、判断和 MATLAB 用法。
本文以当前课程大纲的 13 项要求为主线,交叉核对第二章讲义、2021/2022 年试题及后续章节中的相关知识。

0. 使用方法

0.1 掌握等级

  • 【必须掌握】:能脱离资料写出定义和公式,并完成简单计算。
  • 【熟悉】:能解释意义、辨别条件、看懂或补全推导。
  • 【了解】:知道表达式、用途和 MATLAB 函数即可。

0.2 时间紧时的学习路线

如果只有约 3 小时:

  1. 先背第 1 节“一页必背清单”。
  2. 重点学习第 2~8 节:线性空间、内积、子空间、投影、EVD、复变量求导。
  3. 学习第 9~11 节:噪声、常用矩阵、Kronecker/Khatri–Rao。
  4. 完成第 14 节专项练习和第 15 节自测。

如果有半天:

  1. 按顺序完整学习。
  2. 所有例题手算一遍。
  3. 在 MATLAB 中运行第 12 节代码。
  4. 自测达到 80 分再进入第三章。

0.3 当前大纲 13 项要求与复习深度

大纲要求应达到的程度常见考法重要度
1. 线性空间会定义“加法、数乘封闭”填空、判断★★★★
2. 内积与希尔伯特空间会写复内积及性质填空、名词解释★★★
3. 子空间与基会判断、会求 span、基和维数填空、选择★★★★
4. 值域与零空间会写集合定义和秩-零度关系填空、选择★★★★
5. 独立与不相关会写数学定义和逻辑关系填空、判断、简答★★★★
6. 线性变换会写线性条件填空、判断★★★
7. 正交投影与正交变换会计算投影矩阵和正交补选择、推导、后续算法★★★★★
8. 特征分解会写 EVD、性质和 eig程序、推导、后续算法★★★★★
9. SVD 与 QR会写表达式、用途和函数填空、程序★★★
10. 实函数对复变量求导会用 Wirtinger 导数求二次型推导题★★★★★
11. 白噪声与色噪声会写相关函数和功率谱填空、判断★★★★
12. 阵列常用矩阵掌握范德蒙、Hermitian、正定、广义特征分解填空、选择、推导★★★★★
13. Kronecker 与 Khatri–Rao会写定义、维数和列式填空、建模★★★

1. 一页必背清单

1.1 线性空间与子空间

集合 (V) 是域 (\mathbb F) 上的线性空间,核心条件是:

$$ \forall\mathbf x,\mathbf y\in V,\quad \forall a,b\in\mathbb F,\quad a\mathbf x+b\mathbf y\in V $$

也就是对加法和数乘封闭

由向量组 ({\mathbf a_1,\ldots,\mathbf a_p}) 张成的子空间:

$$ \operatorname{span}\{\mathbf a_1,\ldots,\mathbf a_p\} = \left\{ \sum_{i=1}^{p}c_i\mathbf a_i: c_i\in\mathbb F \right\} $$

基 = 线性无关 + 能张成整个空间。基中向量数等于维数。

1.2 内积、范数与正交

复向量的标准内积:

$$ \langle\mathbf x,\mathbf y\rangle =\mathbf x^H\mathbf y $$

范数:

$$ \|\mathbf x\|_2 =\sqrt{\mathbf x^H\mathbf x} $$

正交:

$$ \mathbf x^H\mathbf y=0 $$

标准正交:

$$ \mathbf q_i^H\mathbf q_j=\delta_{ij} $$

1.3 值域、零空间与秩

对 (\mathbf A\in\mathbb C^{m\times n}):

$$ \mathcal R(\mathbf A) =\{\mathbf y\in\mathbb C^m: \mathbf y=\mathbf A\mathbf x,\ \mathbf x\in\mathbb C^n\} $$

$$ \mathcal N(\mathbf A) =\{\mathbf x\in\mathbb C^n: \mathbf A\mathbf x=\mathbf0\} $$

$$ \operatorname{rank}(\mathbf A) =\dim\mathcal R(\mathbf A) $$

秩-零度定理:

$$ \operatorname{rank}(\mathbf A) +\dim\mathcal N(\mathbf A)=n $$

1.4 独立与不相关

不相关:

$$ \operatorname{cov}(X,Y) =E[(X-\mu_X)(Y-\mu_Y)^*]=0 $$

零均值时:

$$ E[XY^*]=0 $$

关系:

$$ \text{独立}\Longrightarrow\text{不相关} $$

反过来一般不成立;若 (X,Y) 联合高斯,则不相关等价于独立。

1.5 正交投影

若 (\mathbf A) 列满秩:

$$ \boxed{ \mathbf P_{\mathbf A} =\mathbf A(\mathbf A^H\mathbf A)^{-1}\mathbf A^H } $$

若 (\mathbf A) 的列标准正交:

$$ \boxed{\mathbf P_{\mathbf A}=\mathbf A\mathbf A^H} $$

正交补投影:

$$ \boxed{\mathbf P_{\mathbf A}^{\perp} =\mathbf I-\mathbf P_{\mathbf A}} $$

投影矩阵性质:

$$ \mathbf P^H=\mathbf P,\qquad \mathbf P^2=\mathbf P $$

1.6 特征分解、SVD 与 QR

Hermitian 矩阵:

$$ \mathbf A=\mathbf A^H $$

特征分解:

$$ \boxed{\mathbf A=\mathbf U\boldsymbol\Lambda\mathbf U^H} $$

奇异值分解:

$$ \boxed{\mathbf A=\mathbf U\boldsymbol\Sigma\mathbf V^H} $$

QR 分解:

$$ \boxed{\mathbf A=\mathbf Q\mathbf R,\qquad \mathbf Q^H\mathbf Q=\mathbf I} $$

1.7 复变量求导

令 (\mathbf w=\mathbf x+j\mathbf y):

$$ \frac{\partial}{\partial\mathbf w} =\frac12 \left( \frac{\partial}{\partial\mathbf x} -j\frac{\partial}{\partial\mathbf y} \right) $$

$$ \frac{\partial}{\partial\mathbf w^*} =\frac12 \left( \frac{\partial}{\partial\mathbf x} +j\frac{\partial}{\partial\mathbf y} \right) $$

若:

$$ f(\mathbf w)=\mathbf w^H\mathbf R\mathbf w $$

则:

$$ \boxed{ \frac{\partial f}{\partial\mathbf w^*} =\mathbf R\mathbf w } $$

1.8 白噪声

离散时间白噪声:

$$ R_n[k]=\sigma_n^2\delta[k] $$

功率谱:

$$ S_n(e^{j\omega})=\sigma_n^2 $$

空间白噪声:

$$ \mathbf R_n=E[\mathbf n\mathbf n^H] =\sigma_n^2\mathbf I $$

1.9 范德蒙、广义特征值

范德蒙向量:

$$ \mathbf v(z) = \begin{bmatrix} 1&z&z^2&\cdots&z^{N-1} \end{bmatrix}^T $$

ULA 导向矢量属于范德蒙形式。

广义特征值问题:

$$ \boxed{\mathbf A\mathbf v =\lambda\mathbf B\mathbf v} $$

1.10 Kronecker 与 Khatri–Rao

Kronecker 积:

$$ \boxed{ \mathbf A\otimes\mathbf B = \begin{bmatrix} a_{11}\mathbf B&\cdots&a_{1n}\mathbf B\\ \vdots&\ddots&\vdots\\ a_{m1}\mathbf B&\cdots&a_{mn}\mathbf B \end{bmatrix}} $$

Khatri–Rao 积(两矩阵列数相同):

$$ \boxed{ \mathbf A\odot\mathbf B = \begin{bmatrix} \mathbf a_1\otimes\mathbf b_1& \cdots& \mathbf a_K\otimes\mathbf b_K \end{bmatrix}} $$


2. 符号、复向量与内积

2.1 学到什么程度

【必须掌握】

  • 区分转置 (T)、共轭 (*)、共轭转置 (H)。
  • 会计算复内积、范数和正交条件。
  • 会写内积的基本性质。

来源

2.2 常用符号

对复向量 (\mathbf x):

  • (\mathbf x^T):只转置,不共轭;
  • (\mathbf x^*):逐元素复共轭;
  • (\mathbf x^H=(\mathbf x^*)^T):共轭转置。

例如:

$$ \mathbf x= \begin{bmatrix}1+j\\2\end{bmatrix} $$

则:

$$ \mathbf x^H= \begin{bmatrix}1-j&2\end{bmatrix} $$

2.3 内积的性质

采用:

$$ \langle\mathbf x,\mathbf y\rangle =\mathbf x^H\mathbf y $$

则有:

  1. 正定性

    $$ \langle\mathbf x,\mathbf x\rangle\ge0 $$

    且等号仅在 (\mathbf x=\mathbf0) 时成立。

  2. 共轭对称性

    $$ \langle\mathbf x,\mathbf y\rangle = \langle\mathbf y,\mathbf x\rangle^* $$

  3. 对第二个变量线性

    $$ \langle\mathbf x, a\mathbf y+b\mathbf z\rangle = a\langle\mathbf x,\mathbf y\rangle +b\langle\mathbf x,\mathbf z\rangle $$

  4. 对第一个变量共轭线性

    $$ \langle a\mathbf x+b\mathbf y,\mathbf z\rangle = a^*\langle\mathbf x,\mathbf z\rangle +b^*\langle\mathbf y,\mathbf z\rangle $$

有些教材把内积定义为对第一个变量线性,此时性质的写法会交换。考试中只要先写明 (\langle x,y\rangle=x^Hy),后续保持一致即可。

2.4 内积空间与希尔伯特空间

  • 赋予内积的线性空间称为内积空间
  • 完备的内积空间称为希尔伯特空间
  • “完备”表示空间中的每个 Cauchy 序列都收敛到空间内部的元素。
  • 所有有限维内积空间都自动完备,因此有限维复向量空间 (\mathbb C^N) 是希尔伯特空间。

2.5 例题

$$ \mathbf x= \begin{bmatrix}1\\j\end{bmatrix}, \qquad \mathbf y= \begin{bmatrix}j\\1\end{bmatrix} $$

内积:

$$ \mathbf x^H\mathbf y = \begin{bmatrix}1&-j\end{bmatrix} \begin{bmatrix}j\\1\end{bmatrix} =j-j=0 $$

所以两向量正交。

范数:

$$ \|\mathbf x\|_2 =\sqrt{1+1} =\sqrt2 $$


3. 线性空间、线性无关、子空间与基

3.1 学到什么程度

【必须掌握】

  • 会写线性空间和子空间的封闭条件。
  • 会判断向量组是否线性无关。
  • 会写 span、基和维数的定义。

来源

  • 课程大纲 PDF 第 2 页,第(1)、(3)项。
  • 第二章讲义 PDF 第 2~7 页。
  • 2021 年试题.pdf>):PDF 第 2 页第 8 题。
  • 2022 年试题 PDF 第 2 页关于导向矢量张成空间的填空。

3.2 线性空间

最实用的考试定义:

线性空间是对向量加法和标量数乘封闭的向量集合。

统一写成:

$$ \forall\mathbf x,\mathbf y\in V, \quad\forall a,b\in\mathbb F, \quad a\mathbf x+b\mathbf y\in V $$

常见线性空间:

  • (\mathbb R^N)、(\mathbb C^N);
  • 所有 (m\times n) 矩阵构成的集合;
  • 某矩阵的值域、零空间;
  • 某组向量张成的集合。

3.3 子空间判断

非空集合 (S\subseteq V) 是子空间,当且仅当:

$$ \forall\mathbf x,\mathbf y\in S,\quad \forall a,b,\quad a\mathbf x+b\mathbf y\in S $$

快速判断时至少检查:

  1. (\mathbf0\in S);
  2. 对加法封闭;
  3. 对数乘封闭。

例:

$$ S=\left\{ \begin{bmatrix}x\\y\end{bmatrix}: x+y=0 \right\} $$

因为约束是齐次线性的,所以是子空间。

但:

$$ S=\left\{ \begin{bmatrix}x\\y\end{bmatrix}: x+y=1 \right\} $$

不包含零向量,不是子空间。

3.4 线性无关

向量组 ({\mathbf a_1,\ldots,\mathbf a_p}) 线性无关,当且仅当:

$$ \sum_{i=1}^{p}c_i\mathbf a_i=\mathbf0 $$

只有零解:

$$ c_1=\cdots=c_p=0 $$

将向量组成矩阵:

$$ \mathbf A= \begin{bmatrix} \mathbf a_1&\cdots&\mathbf a_p \end{bmatrix} $$

则列向量线性无关等价于:

$$ \operatorname{rank}(\mathbf A)=p $$

3.5 张成空间、基和维数

张成空间:

$$ \operatorname{span} \{\mathbf a_1,\ldots,\mathbf a_p\} = \left\{ \sum_{i=1}^{p}c_i\mathbf a_i \right\} $$

一组向量是空间 (S) 的基,需要同时满足:

  1. 线性无关;
  2. 能张成 (S)。

基中向量的数量是空间维数:

$$ \dim S=p $$

3.6 历年题型

若:

$$ \mathbf A= \begin{bmatrix} \mathbf a(\theta_1)& \cdots& \mathbf a(\theta_P) \end{bmatrix} $$

则这些导向矢量张成的信号子空间可写为:

$$ \boxed{ \mathcal S= \mathcal R(\mathbf A) = \operatorname{span} \{\mathbf a(\theta_1),\ldots, \mathbf a(\theta_P)\}} $$

若各列线性无关,则:

$$ \dim\mathcal S=P $$


4. 矩阵的值域、零空间与秩

4.1 学到什么程度

【必须掌握】

  • 会写值域和零空间的集合定义。
  • 会用秩-零度定理。
  • 会判断“列满秩是否能覆盖整个输出空间”。

来源

  • 课程大纲 PDF 第 2 页,第(4)项。
  • 第二章讲义 PDF 第 8~9 页。
  • 2021 年试题 PDF 第 2 页第 9 题。
  • 2022 年试题 PDF 第 2 页选择题第 1 题。

4.2 值域/列空间

设:

$$ \mathbf A\in\mathbb C^{m\times n} $$

值域:

$$ \boxed{ \mathcal R(\mathbf A) = \{\mathbf y\in\mathbb C^m: \mathbf y=\mathbf A\mathbf x, \mathbf x\in\mathbb C^n\}} $$

它也等于 (\mathbf A) 的列向量张成的空间:

$$ \mathcal R(\mathbf A) =\operatorname{span} \{\mathbf a_1,\ldots,\mathbf a_n\} $$

4.3 零空间

$$ \boxed{ \mathcal N(\mathbf A) = \{\mathbf x\in\mathbb C^n: \mathbf A\mathbf x=\mathbf0\}} $$

4.4 秩与秩-零度

$$ \operatorname{rank}(\mathbf A) =\dim\mathcal R(\mathbf A) $$

$$ \boxed{ \operatorname{rank}(\mathbf A) +\dim\mathcal N(\mathbf A)=n} $$

4.5 2022 年选择题陷阱

若:

$$ \mathbf y=\mathbf A\mathbf x,\qquad \mathbf A\in\mathbb C^{m\times n}, \quad m>n,\quad \operatorname{rank}(\mathbf A)=n $$

虽然 (\mathbf A) 列满秩,但:

$$ \dim\mathcal R(\mathbf A)=n<m $$

所以 (\mathbf y) 只能取遍 (\mathbb C^m) 中一个 (n) 维子空间,不能占满整个 (\mathbb C^m)。

若要:

$$ \mathcal R(\mathbf A)=\mathbb C^m $$

必须行满秩:

$$ \operatorname{rank}(\mathbf A)=m $$

4.6 最小二乘联系

当 (m>n)、(\mathbf A) 列满秩时,方程:

$$ \mathbf A\mathbf x=\mathbf y $$

对一般 (\mathbf y) 可能无精确解。最小二乘解为:

$$ \boxed{ \hat{\mathbf x} = (\mathbf A^H\mathbf A)^{-1} \mathbf A^H\mathbf y} $$

对应拟合向量:

$$ \hat{\mathbf y} =\mathbf A\hat{\mathbf x} =\mathbf P_{\mathbf A}\mathbf y $$

这就是把 (\mathbf y) 正交投影到 (\mathcal R(\mathbf A))。


5. 随机变量的独立与不相关

5.1 学到什么程度

【必须掌握】

  • 会写独立和不相关的数学定义。
  • 会说出“独立推出不相关,反之一般不成立”。
  • 知道联合高斯时二者等价。

来源

  • 课程大纲 PDF 第 2 页,第(5)项。
  • 大纲明确提示“零均值的两个随机过程 (X,Y),不相关不一定独立”。
  • 第五章讲义:PDF 第 9、11 页在信源协方差和子空间模型中使用独立/不相关假设。

5.2 独立

随机变量 (X,Y) 独立,表示联合分布可以分解:

$$ f_{X,Y}(x,y)=f_X(x)f_Y(y) $$

随机过程可按所有有限维联合分布的乘积分解定义独立。

5.3 不相关

$$ \operatorname{cov}(X,Y) =E[(X-\mu_X)(Y-\mu_Y)^*] $$

若:

$$ \operatorname{cov}(X,Y)=0 $$

则 (X,Y) 不相关。

零均值时:

$$ \boxed{E[XY^*]=0} $$

5.4 二者关系

在二阶矩存在时:

$$ \boxed{ \text{独立}\Longrightarrow\text{不相关}} $$

但是:

$$ \boxed{ \text{不相关}\centernot\Longrightarrow \text{独立}} $$

联合高斯是重要特例。对实联合高斯变量,有:

$$ \boxed{ \text{联合高斯时:不相关} \Longleftrightarrow\text{独立}} $$

对复随机变量应更严谨:若变量是联合正规(proper)复高斯,或广义协方差与伪协方差中的交叉项均为零,才能由不相关推出独立。考试若沿用课程的实变量口径,写“联合高斯时二者等价”即可。

5.5 反例

令:

$$ X\sim U[-1,1],\qquad Y=X^2 $$

显然 (Y) 完全由 (X) 决定,因此不独立。

但:

$$ E[X]=0,\qquad E[XY]=E[X^3]=0 $$

所以:

$$ \operatorname{cov}(X,Y)=0 $$

即不相关但不独立。

5.6 阵列处理中的意义

多个信源不相关时,信源协方差矩阵通常为对角阵:

$$ \mathbf R_s =E[\mathbf s\mathbf s^H] = \operatorname{diag} (\sigma_1^2,\ldots,\sigma_P^2) $$

相干信源则会使 (\mathbf R_s) 降秩,这正是后续空间平滑要处理的问题。


6. 线性变换与正交/酉变换

6.1 学到什么程度

【必须掌握】

  • 会写线性变换定义。
  • 会写酉矩阵条件。
  • 知道酉变换保持内积、长度和信息。

来源

  • 课程大纲 PDF 第 2 页,第(6)、(7)项。
  • 第二章讲义 PDF 第 12、17~22 页。

6.2 线性变换

变换 (T) 是线性的,当:

$$ \boxed{ T(a\boldsymbol\alpha+b\boldsymbol\beta) = aT(\boldsymbol\alpha) +bT(\boldsymbol\beta)} $$

有限维空间中,线性变换可用矩阵表示:

$$ \mathbf y=\mathbf A\mathbf x $$

6.3 正交矩阵与酉矩阵

实数域中通常称正交矩阵:

$$ \mathbf Q^T\mathbf Q=\mathbf I $$

复数域中应称酉矩阵:

$$ \boxed{ \mathbf Q^H\mathbf Q =\mathbf Q\mathbf Q^H =\mathbf I} $$

酉变换:

$$ \mathbf y=\mathbf Q\mathbf x $$

保持范数:

$$ \|\mathbf y\|_2^2 =\mathbf x^H\mathbf Q^H\mathbf Q\mathbf x =\|\mathbf x\|_2^2 $$

也保持内积:

$$ (\mathbf Q\mathbf x)^H (\mathbf Q\mathbf y) =\mathbf x^H\mathbf y $$

6.4 DFT 与波束空间

归一化 DFT 矩阵是酉矩阵。对阵列空间采样数据做 DFT,相当于把阵元空间数据变换到波束空间。

归一化 DFT 矩阵元素:

$$ [\mathbf F]_{k,n} =\frac1{\sqrt N} e^{-j2\pi kn/N} $$

满足:

$$ \mathbf F^H\mathbf F=\mathbf I $$

它是不依赖数据的固定正交/酉变换。


7. 正交投影、正交补与信号子空间

这是第二章最关键的部分之一,也是后续 MUSIC、GSC、最小二乘和波束形成的共同基础。

7.1 学到什么程度

【必须掌握】

  • 能从最小二乘推导投影矩阵。
  • 能写标准正交基和非正交基两种投影公式。
  • 会写正交补投影。
  • 会检查投影矩阵的 Hermitian 与幂等性质。
  • 会写信号子空间和噪声子空间的投影。

来源

  • 课程大纲 PDF 第 2 页,第(7)项。
  • 第二章讲义 PDF 第 9~17 页。
  • 旧卷多次考查“正交投影、信号子空间与噪声子空间”。

7.2 正交补

子空间 (S) 的正交补:

$$ S^\perp = \{\mathbf y: \mathbf y^H\mathbf x=0,\ \forall\mathbf x\in S\} $$

有限维空间有:

$$ \mathbb C^N=S\oplus S^\perp $$

任意向量都可唯一分解为:

$$ \mathbf x=\mathbf x_S+\mathbf x_{S^\perp} $$

7.3 非正交基的投影推导

设:

$$ \mathbf A= \begin{bmatrix} \mathbf a_1&\cdots&\mathbf a_p \end{bmatrix} $$

列满秩,目标是把 (\mathbf b) 投影到 (\mathcal R(\mathbf A))。

投影向量写成:

$$ \mathbf p=\mathbf A\mathbf c $$

正交投影要求残差:

$$ \mathbf e=\mathbf b-\mathbf A\mathbf c $$

与 (\mathcal R(\mathbf A)) 正交:

$$ \mathbf A^H (\mathbf b-\mathbf A\mathbf c)=\mathbf0 $$

得到正规方程:

$$ \mathbf A^H\mathbf A\mathbf c =\mathbf A^H\mathbf b $$

所以:

$$ \mathbf c =(\mathbf A^H\mathbf A)^{-1} \mathbf A^H\mathbf b $$

因此:

$$ \boxed{ \mathbf p = \mathbf A(\mathbf A^H\mathbf A)^{-1} \mathbf A^H\mathbf b} $$

投影矩阵为:

$$ \boxed{ \mathbf P_{\mathbf A} = \mathbf A(\mathbf A^H\mathbf A)^{-1} \mathbf A^H} $$

若 (\mathbf A) 不一定列满秩,更一般的表达式是:

$$ \mathbf P_{\mathbf A} =\mathbf A\mathbf A^+ $$

其中 (\mathbf A^+) 是 Moore–Penrose 伪逆。

7.4 标准正交基的投影

若:

$$ \mathbf A^H\mathbf A=\mathbf I $$

则:

$$ \boxed{\mathbf P_{\mathbf A} =\mathbf A\mathbf A^H} $$

7.5 正交补投影

$$ \boxed{ \mathbf P_{\mathbf A}^{\perp} =\mathbf I-\mathbf P_{\mathbf A}} $$

对应分解:

$$ \mathbf b =\mathbf P_{\mathbf A}\mathbf b +(\mathbf I-\mathbf P_{\mathbf A})\mathbf b $$

7.6 投影矩阵性质

正交投影矩阵满足:

  1. Hermitian:

    $$ \mathbf P^H=\mathbf P $$

  2. 幂等:

    $$ \mathbf P^2=\mathbf P $$

  3. 特征值只能是 0 或 1。
  4. 秩等于被投影子空间的维数。

7.7 信号子空间和噪声子空间

若信号子空间的标准正交基为:

$$ \mathbf U_s = \begin{bmatrix} \mathbf u_1&\cdots&\mathbf u_P \end{bmatrix} $$

则:

$$ \boxed{ \mathbf P_s =\mathbf U_s\mathbf U_s^H} $$

噪声子空间基为 (\mathbf U_n),则:

$$ \boxed{ \mathbf P_n =\mathbf U_n\mathbf U_n^H =\mathbf I-\mathbf P_s} $$

后续 MUSIC 的核心正交关系就是:

$$ \mathbf U_n^H\mathbf a(\theta_i)=\mathbf0 $$

7.8 例题

令:

$$ \mathbf a =\frac1{\sqrt2} \begin{bmatrix}1\\1\end{bmatrix}, \qquad \mathbf b= \begin{bmatrix}2\\0\end{bmatrix} $$

因为 (\mathbf a^H\mathbf a=1):

$$ \mathbf P=\mathbf a\mathbf a^H =\frac12 \begin{bmatrix} 1&1\\1&1 \end{bmatrix} $$

投影:

$$ \mathbf p=\mathbf P\mathbf b = \begin{bmatrix}1\\1\end{bmatrix} $$

残差:

$$ \mathbf e=\mathbf b-\mathbf p = \begin{bmatrix}1\\-1\end{bmatrix} $$

验证:

$$ \mathbf a^H\mathbf e=0 $$

7.9 必须纠正的资料错误

当前大纲写成:

$$ \mathbf P=\mathbf A^H\mathbf A $$

这是错误的。若 (\mathbf A) 的列是标准正交基,正确投影矩阵是:

$$ \boxed{\mathbf P=\mathbf A\mathbf A^H} $$

此外,第二章讲义第 17 页把:

$$ \mathbf A(\mathbf A^H\mathbf A)^{-1}\mathbf A^H $$

称为 (\mathbf A) 的伪逆,也不准确。列满秩时:

$$ \boxed{ \mathbf A^+ =(\mathbf A^H\mathbf A)^{-1}\mathbf A^H} $$

才是 Moore–Penrose 伪逆,而:

$$ \boxed{ \mathbf P_{\mathbf A} =\mathbf A\mathbf A^+} $$

是投影矩阵。


8. 特征值分解 EVD

8.1 学到什么程度

【必须掌握】

  • 会写特征值和特征向量关系。
  • 会写 Hermitian 矩阵的 EVD。
  • 会说出 Hermitian、正定和协方差矩阵的性质。
  • 会使用 MATLAB eig 并按特征值排序。

来源

  • 课程大纲 PDF 第 2 页,第(8)、(12)项。
  • 第二章讲义 PDF 第 21~24 页。
  • 第五章讲义 PDF 第 9~11 页将 EVD 用于信号/噪声子空间。
  • 2022 年试题 PDF 第 4~5 页二维 MUSIC 程序填空。

8.2 特征值和特征向量

若存在非零向量 (\mathbf v),满足:

$$ \boxed{\mathbf A\mathbf v =\lambda\mathbf v} $$

则 (\lambda) 是特征值,(\mathbf v) 是对应特征向量。

特征方程:

$$ \det(\mathbf A-\lambda\mathbf I)=0 $$

8.3 Hermitian 矩阵

$$ \boxed{\mathbf A=\mathbf A^H} $$

性质:

  1. 对角元素为实数;
  2. 特征值全为实数;
  3. 不同特征值对应的特征向量正交;
  4. 可选择一组标准正交特征向量;
  5. 可作酉对角化:

    $$ \boxed{ \mathbf A =\mathbf U\boldsymbol\Lambda \mathbf U^H} $$

8.4 正定与半正定

若对所有非零 (\mathbf x):

$$ \mathbf x^H\mathbf A\mathbf x>0 $$

则 (\mathbf A) 正定。

若:

$$ \mathbf x^H\mathbf A\mathbf x\ge0 $$

则半正定。

对 Hermitian 矩阵:

  • 正定 (\Longleftrightarrow) 所有特征值 (>0);
  • 半正定 (\Longleftrightarrow) 所有特征值 (\ge0)。

8.5 协方差矩阵

零均值随机向量:

$$ \mathbf R_x =E[\mathbf x\mathbf x^H] $$

总有:

$$ \mathbf R_x^H=\mathbf R_x $$

且:

$$ \mathbf z^H\mathbf R_x\mathbf z =E[|\mathbf z^H\mathbf x|^2]\ge0 $$

所以协方差矩阵是 Hermitian 半正定矩阵。

8.6 例题

$$ \mathbf A= \begin{bmatrix} 2&1\\1&2 \end{bmatrix} $$

特征值:

$$ \lambda_1=3,\qquad \lambda_2=1 $$

标准正交特征向量:

$$ \mathbf u_1 =\frac1{\sqrt2} \begin{bmatrix}1\\1\end{bmatrix}, \qquad \mathbf u_2 =\frac1{\sqrt2} \begin{bmatrix}1\\-1\end{bmatrix} $$

因此:

$$ \mathbf A = \begin{bmatrix} \mathbf u_1&\mathbf u_2 \end{bmatrix} \begin{bmatrix} 3&0\\0&1 \end{bmatrix} \begin{bmatrix} \mathbf u_1&\mathbf u_2 \end{bmatrix}^H $$

8.7 MATLAB

[V, D] = eig(A);
lambda = real(diag(D));

% 按特征值从大到小排列
[lambda, idx] = sort(lambda, 'descend');
V = V(:, idx);
D = diag(lambda);

% 检查分解
err = norm(A - V*D*V', 'fro');

MATLAB 中 V(:,i) 对应 D(i,i)


9. 奇异值分解 SVD 与 QR 分解

9.1 学到什么程度

【了解并会使用】

  • 能写 SVD、QR 表达式。
  • 知道奇异值、秩、值域和零空间之间的关系。
  • 会用 svdqr

来源

  • 课程大纲 PDF 第 2 页,第(9)项。
  • 第二章讲义 PDF 第 24~25 页。

9.2 SVD

任意:

$$ \mathbf A\in\mathbb C^{m\times n} $$

均可分解为:

$$ \boxed{ \mathbf A =\mathbf U\boldsymbol\Sigma\mathbf V^H} $$

其中:

  • (\mathbf U):左奇异向量;
  • (\mathbf V):右奇异向量;
  • (\boldsymbol\Sigma):非负奇异值对角阵;
  • 奇异值通常按:

    $$ \sigma_1\ge\sigma_2\ge\cdots\ge0 $$

    排列。

关系:

$$ \mathbf A^H\mathbf A\mathbf v_i =\sigma_i^2\mathbf v_i $$

$$ \mathbf A\mathbf A^H\mathbf u_i =\sigma_i^2\mathbf u_i $$

9.3 SVD 的空间含义

若:

$$ \operatorname{rank}(\mathbf A)=r $$

则:

$$ \mathcal R(\mathbf A) = \operatorname{span} \{\mathbf u_1,\ldots,\mathbf u_r\} $$

$$ \mathcal N(\mathbf A) = \operatorname{span} \{\mathbf v_{r+1},\ldots,\mathbf v_n\} $$

SVD 比 EVD 更一般:矩形矩阵也可直接分解。

9.4 QR 分解

列满秩矩阵:

$$ \boxed{ \mathbf A=\mathbf Q\mathbf R} $$

其中:

  • (\mathbf Q^H\mathbf Q=\mathbf I);
  • (\mathbf R) 为上三角矩阵;
  • (\mathbf Q) 的列给出 (\mathcal R(\mathbf A)) 的标准正交基。

QR 常用于:

  • 正交化;
  • 最小二乘;
  • 数值稳定地求解线性方程。

9.5 MATLAB

% 经济型 SVD
[U, S, V] = svd(A, 'econ');
singular_values = diag(S);

% 经济型 QR
[Q, R] = qr(A, 0);

% 检查
err_svd = norm(A - U*S*V', 'fro');
err_qr  = norm(A - Q*R, 'fro');

10. 实函数对复变量求导

10.1 学到什么程度

【必须掌握】

  • 会写 Wirtinger 导数。
  • 会对 (\mathbf w^H\mathbf R\mathbf w) 求导。
  • 会对最小二乘代价函数求导。
  • 知道实函数的最优条件通常令:

    $$ \frac{\partial f}{\partial\mathbf w^*}=0 $$

来源

  • 课程大纲 PDF 第 2 页,第(10)项。
  • 第二章讲义 PDF 第 26~29 页。
  • 第三章中的 MSE、LCMV、SMI 推导均依赖本节。

10.2 为什么要把 (\mathbf w) 和 (\mathbf w^*) 分开

令:

$$ \mathbf w=\mathbf x+j\mathbf y $$

实函数:

$$ f(\mathbf w,\mathbf w^*) =g(\mathbf x,\mathbf y) $$

通常不满足普通复解析函数条件,因此使用 Wirtinger 导数,把 (\mathbf w) 和 (\mathbf w^*) 暂时看成独立变量。

10.3 定义

$$ \boxed{ \frac{\partial}{\partial\mathbf w} =\frac12 \left( \frac{\partial}{\partial\mathbf x} -j\frac{\partial}{\partial\mathbf y} \right)} $$

$$ \boxed{ \frac{\partial}{\partial\mathbf w^*} =\frac12 \left( \frac{\partial}{\partial\mathbf x} +j\frac{\partial}{\partial\mathbf y} \right)} $$

10.4 必背导数表

在列梯度约定下:

$$ \frac{\partial(\mathbf a^H\mathbf w)} {\partial\mathbf w^*} =\mathbf0 $$

$$ \frac{\partial(\mathbf w^H\mathbf a)} {\partial\mathbf w^*} =\mathbf a $$

$$ \boxed{ \frac{\partial (\mathbf w^H\mathbf R\mathbf w)} {\partial\mathbf w^*} =\mathbf R\mathbf w} $$

若:

$$ f=\|\mathbf A\mathbf w-\mathbf b\|_2^2 $$

则:

$$ \boxed{ \frac{\partial f}{\partial\mathbf w^*} = \mathbf A^H (\mathbf A\mathbf w-\mathbf b)} $$

10.5 最小二乘推导

$$ f(\mathbf w) = \|\mathbf A\mathbf w-\mathbf b\|_2^2 $$

令:

$$ \frac{\partial f}{\partial\mathbf w^*} =\mathbf0 $$

得到:

$$ \mathbf A^H\mathbf A\mathbf w =\mathbf A^H\mathbf b $$

列满秩时:

$$ \boxed{ \mathbf w_{\text{LS}} =(\mathbf A^H\mathbf A)^{-1} \mathbf A^H\mathbf b} $$

10.6 (2\mathbf R\mathbf w) 与 (\mathbf R\mathbf w) 的区别

第二章讲义第 29 页给出实梯度形式:

$$ \nabla f=2\mathbf R\mathbf w $$

而使用 Wirtinger 导数时:

$$ \frac{\partial f}{\partial\mathbf w^*} =\mathbf R\mathbf w $$

二者并不矛盾,区别来自导数变量和梯度约定。考试若明确要求“对 (\mathbf w^*) 求导”,应写:

$$ \boxed{\mathbf R\mathbf w} $$


11. 高斯白噪声与色噪声

11.1 学到什么程度

【必须掌握】

  • 会写白噪声相关函数与功率谱密度。
  • 会写空间白噪声协方差矩阵。
  • 能区分“高斯”和“白”描述的是不同性质。

【了解】

  • 色噪声的相关函数、功率谱和协方差结构。

来源

  • 课程大纲 PDF 第 2 页,第(11)项。
  • 第三章讲义:PDF 第 18 页区分白噪声与色噪声下的最优处理。
  • 第五章讲义 PDF 第 11、22、26~29 页讨论白噪声和色噪声对子空间方法的影响。

11.2 “高斯”与“白”不是一回事

  • 高斯:描述概率分布。
  • :描述不同时间或不同阵元之间不相关,功率谱平坦。

因此可以存在:

  • 高斯白噪声;
  • 非高斯白噪声;
  • 高斯色噪声;
  • 非高斯色噪声。

11.3 离散时间白噪声

零均值白噪声 (n[k]):

$$ E[n[k]]=0 $$

自相关函数:

$$ \boxed{ R_n[\ell] =E[n[k]n^*[k-\ell]] =\sigma_n^2\delta[\ell]} $$

其功率谱是自相关函数的 DTFT:

$$ S_n(e^{j\omega}) =\sum_{\ell=-\infty}^{\infty} R_n[\ell]e^{-j\omega\ell} $$

所以:

$$ \boxed{S_n(e^{j\omega})=\sigma_n^2} $$

即所有频率上的功率谱密度相同。

11.4 空间白噪声

对阵列噪声向量:

$$ \mathbf n(t) = \begin{bmatrix} n_1(t)&\cdots&n_N(t) \end{bmatrix}^T $$

空间白噪声满足不同阵元噪声不相关且功率相同:

$$ \boxed{ \mathbf R_n =E[\mathbf n(t)\mathbf n^H(t)] =\sigma_n^2\mathbf I} $$

若同时满足复高斯分布,可简写为:

$$ \boxed{ \mathbf n(t) \sim\mathcal{CN} (\mathbf0,\sigma_n^2\mathbf I)} $$

其概率密度为:

$$ p(\mathbf n) = \frac{1} {\pi^N\det(\mathbf R_n)} \exp\left( -\mathbf n^H\mathbf R_n^{-1}\mathbf n \right) $$

高斯白噪声各分量不相关;由于它们联合高斯,因此也相互独立。

11.5 色噪声

色噪声至少有某些非零时延相关:

$$ R_n[\ell]\ne0,\qquad \ell\ne0 $$

因此功率谱不再是常数:

$$ S_n(e^{j\omega}) \text{ 随 }\omega\text{ 变化} $$

空间色噪声的协方差通常不是 (\sigma^2\mathbf I),阵元之间可能相关。

高斯色噪声可写成:

$$ \mathbf n(t) \sim\mathcal{CN} (\mathbf0,\mathbf R_n), \qquad \mathbf R_n\ne\sigma_n^2\mathbf I $$

若 (\mathbf R_n) 已知且正定,可以通过:

$$ \tilde{\mathbf x} =\mathbf R_n^{-1/2}\mathbf x $$

进行预白化。


12. 阵列常用矩阵及 MATLAB 速查

12.1 范德蒙矩阵

【必须掌握】

范德蒙向量:

$$ \mathbf v(z) = \begin{bmatrix} 1&z&z^2&\cdots&z^{N-1} \end{bmatrix}^T $$

ULA 导向矢量:

$$ \mathbf a(\theta) = \begin{bmatrix} 1&z(\theta)&z^2(\theta)&\cdots& z^{N-1}(\theta) \end{bmatrix}^T $$

其中,例如从法线起算:

$$ z(\theta) =e^{-j2\pi d\sin\theta/\lambda} $$

多个方向组成:

$$ \mathbf A = \begin{bmatrix} \mathbf v(z_1)&\cdots&\mathbf v(z_P) \end{bmatrix} $$

若 (z_1,\ldots,z_P) 互不相同且 (P\le N),则范德蒙矩阵列满秩。

来源

  • 课程大纲 PDF 第 2 页,第(12)项。
  • 第五章讲义:PDF 第 5 页。
  • 2021 年试题 PDF 第 2 页第 12 题。

12.2 Hermitian Toeplitz 协方差矩阵

Toeplitz 矩阵沿每条主对角线元素相同:

$$ \mathbf T= \begin{bmatrix} t_0&t_{-1}&\cdots&t_{-(N-1)}\\ t_1&t_0&\cdots&t_{-(N-2)}\\ \vdots&\vdots&\ddots&\vdots\\ t_{N-1}&t_{N-2}&\cdots&t_0 \end{bmatrix} $$

Hermitian Toeplitz 还满足:

$$ t_{-\ell}=t_\ell^* $$

在理想 ULA、远场窄带、空间平稳/独立信源并叠加空间白噪声等条件下,阵列协方差矩阵具有:

$$ \boxed{\text{Hermitian、Toeplitz}} $$

这正是 2021 年填空题第 12 题的预期答案。

不要把“任何情况下的 ULA 协方差矩阵都必然 Toeplitz”当成绝对结论。阵元位置/幅相误差、互耦、非平稳噪声等会破坏 Toeplitz 结构。

12.3 广义特征值分解

给定矩阵对 ((\mathbf A,\mathbf B)),广义特征值满足:

$$ \boxed{ \mathbf A\mathbf v =\lambda\mathbf B\mathbf v} $$

等价特征方程:

$$ \det(\mathbf A-\lambda\mathbf B)=0 $$

若 (\mathbf B) 可逆:

$$ \mathbf B^{-1}\mathbf A\mathbf v =\lambda\mathbf v $$

但数值计算时通常不显式求逆。

若 (\mathbf A) Hermitian、(\mathbf B) Hermitian 正定,则广义特征值为实数,并可选择 (\mathbf B)-正交的特征向量:

$$ \mathbf v_i^H\mathbf B\mathbf v_j =\delta_{ij} $$

MATLAB:

[V, D] = eig(A, B);
lambda = diag(D);

第三章最大信干噪比准则会使用:

$$ \mathbf R_s\mathbf w =\lambda\mathbf R_{i+n}\mathbf w $$

来源

  • 课程大纲 PDF 第 2 页,第(12)项。
  • 第三章讲义 PDF 第 24 页。

12.4 MATLAB 常用函数

% 秩、值域、零空间
r  = rank(A);
RA = orth(A);        % 列空间的一组标准正交基
NA = null(A);        % 零空间的一组标准正交基

% 投影矩阵:推荐先用 orth 获得标准正交基
Q = orth(A);
P = Q * Q';
P_perp = eye(size(P)) - P;

% EVD
[V, D] = eig(A);

% 广义 EVD
[Vg, Dg] = eig(A, B);

% SVD、QR
[U, S, V] = svd(A, 'econ');
[Q, R] = qr(A, 0);

% 伪逆
A_pinv = pinv(A);

13. Kronecker 积与 Khatri–Rao 积

13.1 学到什么程度

【了解但应会写公式】

  • 会判断结果维数。
  • 会写 Kronecker 块矩阵定义。
  • 会写 Khatri–Rao 的逐列 Kronecker 定义。
  • 知道二者不可交换。

来源

  • 课程大纲 PDF 第 2 页,第(13)项。
  • 第五章传统测向讲义:PDF 第 16 页将 Kronecker 积用于二维平面阵权值。
  • 当前本地讲义没有系统给出 Khatri–Rao 定义,本文按标准矩阵定义补全。

13.2 Kronecker 积

若:

$$ \mathbf A\in\mathbb C^{m\times n}, \qquad \mathbf B\in\mathbb C^{p\times q} $$

则:

$$ \boxed{ \mathbf A\otimes\mathbf B \in\mathbb C^{mp\times nq}} $$

定义:

$$ \mathbf A\otimes\mathbf B = \begin{bmatrix} a_{11}\mathbf B&\cdots&a_{1n}\mathbf B\\ \vdots&\ddots&\vdots\\ a_{m1}\mathbf B&\cdots&a_{mn}\mathbf B \end{bmatrix} $$

若题目说“左 Kronecker 积”,通常就是按上式以 (\mathbf A) 的元素在左侧缩放 (\mathbf B) 的标准排列。注意:

$$ \mathbf A\otimes\mathbf B \ne \mathbf B\otimes\mathbf A $$

一般不交换。

13.3 Kronecker 例题

$$ \mathbf A= \begin{bmatrix} 1&2\\3&4 \end{bmatrix}, \qquad \mathbf B= \begin{bmatrix} 0&5\\6&7 \end{bmatrix} $$

则:

$$ \mathbf A\otimes\mathbf B = \begin{bmatrix} \mathbf B&2\mathbf B\\ 3\mathbf B&4\mathbf B \end{bmatrix} $$

即:

$$ \begin{bmatrix} 0&5&0&10\\ 6&7&12&14\\ 0&15&0&20\\ 18&21&24&28 \end{bmatrix} $$

13.4 常用性质

维数允许时:

$$ (\mathbf A\otimes\mathbf B) (\mathbf C\otimes\mathbf D) = (\mathbf A\mathbf C) \otimes (\mathbf B\mathbf D) $$

$$ (\mathbf A\otimes\mathbf B)^H = \mathbf A^H\otimes\mathbf B^H $$

向量化公式:

$$ \boxed{ \operatorname{vec} (\mathbf A\mathbf X\mathbf B) = (\mathbf B^T\otimes\mathbf A) \operatorname{vec}(\mathbf X)} $$

二维可分离阵列的导向矢量常写成两个一维导向矢量的 Kronecker 积,例如:

$$ \mathbf a_{\text{plane}} =\mathbf a_y\otimes\mathbf a_x $$

具体次序取决于阵元编号和向量化顺序。

13.5 Khatri–Rao 积

若:

$$ \mathbf A= \begin{bmatrix} \mathbf a_1&\cdots&\mathbf a_K \end{bmatrix} \in\mathbb C^{m\times K} $$

$$ \mathbf B= \begin{bmatrix} \mathbf b_1&\cdots&\mathbf b_K \end{bmatrix} \in\mathbb C^{n\times K} $$

两矩阵必须有相同列数 (K)。定义:

$$ \boxed{ \mathbf A\odot\mathbf B = \begin{bmatrix} \mathbf a_1\otimes\mathbf b_1& \cdots& \mathbf a_K\otimes\mathbf b_K \end{bmatrix}} $$

结果维数:

$$ \boxed{ \mathbf A\odot\mathbf B \in\mathbb C^{mn\times K}} $$

它可以理解为“逐列 Kronecker 积”。

13.6 Khatri–Rao 例题

$$ \mathbf A= \begin{bmatrix} 1&2\\3&4 \end{bmatrix}, \qquad \mathbf B= \begin{bmatrix} 5&6\\7&8 \end{bmatrix} $$

则:

$$ \mathbf A\odot\mathbf B = \begin{bmatrix} \begin{bmatrix}1\\3\end{bmatrix} \otimes \begin{bmatrix}5\\7\end{bmatrix} & \begin{bmatrix}2\\4\end{bmatrix} \otimes \begin{bmatrix}6\\8\end{bmatrix} \end{bmatrix} $$

$$ = \begin{bmatrix} 5&12\\ 7&16\\ 15&24\\ 21&32 \end{bmatrix} $$

13.7 MATLAB

Kron = kron(A, B);

% Khatri-Rao,若没有相关工具箱可逐列实现
K = size(A, 2);
KR = zeros(size(A,1)*size(B,1), K);
for k = 1:K
    KR(:,k) = kron(A(:,k), B(:,k));
end

14. 历年题型专项训练

14.1 填空题

题 1

线性空间是满足 封闭性的向量集合。

答案:加法;数乘。

题 2

设:

$$ \mathbf A\in\mathbb C^{m\times n} $$

其值域为:

$$ \mathcal R(\mathbf A) = \{\mathbf y\in\mathbb C^m\mid \underline{\qquad}, \mathbf x\in\mathbb C^n\} $$

答案

$$ \mathbf y=\mathbf A\mathbf x $$

题 3

ULA 在无系统误差时,导向矢量具有 形式;在理想空间平稳条件下,其协方差矩阵具有 __ 性质。

答案:范德蒙;Hermitian;Toeplitz。

题 4

零均值随机变量 (X,Y) 不相关的数学表达式为 ______。

答案

$$ E[XY^*]=0 $$

14.2 选择题

题 5

若:

$$ \mathbf A\in\mathbb C^{m\times n}, \quad m>n,\quad \operatorname{rank}(\mathbf A)=n $$

则以下说法错误的是:

A. (\mathbf A) 列满秩。
B. (\dim\mathcal R(\mathbf A)=n)。
C. (\mathbf A\mathbf x) 可以取遍整个 (\mathbb C^m)。
D. (\mathbf A^H\mathbf A) 可逆。

答案:C。

题 6

下列哪个矩阵一定是正交投影矩阵?

A. (\mathbf A^H\mathbf A)
B. (\mathbf A\mathbf A^H),其中 (\mathbf A^H\mathbf A=\mathbf I)
C. 任意 Hermitian 矩阵
D. 任意 Toeplitz 矩阵

答案:B。

14.3 计算题

题 7:投影

$$ \mathbf A= \begin{bmatrix} 1\\1\\0 \end{bmatrix}, \qquad \mathbf b= \begin{bmatrix} 2\\0\\1 \end{bmatrix} $$

求 (\mathbf b) 到 (\mathcal R(\mathbf A)) 的投影。

$$ \mathbf A^H\mathbf A=2 $$

$$ \mathbf P =\mathbf A(\mathbf A^H\mathbf A)^{-1}\mathbf A^H =\frac12 \begin{bmatrix} 1&1&0\\ 1&1&0\\ 0&0&0 \end{bmatrix} $$

$$ \mathbf p=\mathbf P\mathbf b = \begin{bmatrix}1\\1\\0\end{bmatrix} $$

残差:

$$ \mathbf e= \begin{bmatrix}1\\-1\\1\end{bmatrix} $$

并且:

$$ \mathbf A^H\mathbf e=0 $$

题 8:白噪声

若离散白噪声方差为 (4),写出相关函数和功率谱。

答案

$$ R_n[k]=4\delta[k] $$

$$ S_n(e^{j\omega})=4 $$

题 9:Kronecker 维数

若:

$$ \mathbf A\in\mathbb C^{2\times3}, \qquad \mathbf B\in\mathbb C^{4\times5} $$

则:

$$ \mathbf A\otimes\mathbf B \in\mathbb C^{8\times15} $$

若二者列数相同为 3,且:

$$ \mathbf A\in\mathbb C^{2\times3}, \quad \mathbf C\in\mathbb C^{4\times3} $$

则:

$$ \mathbf A\odot\mathbf C \in\mathbb C^{8\times3} $$


15. 第二章自测卷

建议限时 40 分钟,总分 100 分。

一、填空题(每题 5 分,共 30 分)

  1. 线性空间的核心封闭条件是 __ 和 ______。
  2. 复向量标准内积为 ______,两向量正交的条件为 ______。
  3. 秩-零度定理为 ______。
  4. 列满秩非正交基 (\mathbf A) 的投影矩阵为 ______。
  5. 白噪声相关函数为 ______,功率谱为 ______。
  6. Khatri–Rao 积是两个矩阵对应列的 __ 积。

二、判断并改错(每题 5 分,共 20 分)

  1. 两个随机变量不相关,因此一定独立。
  2. 对任意矩阵 (\mathbf A),(\mathbf A^H\mathbf A) 都是 (\mathcal R(\mathbf A)) 的投影矩阵。
  3. 协方差矩阵一定是 Hermitian 半正定矩阵。
  4. Hermitian 正定矩阵的所有特征值均为正实数。

三、简答题(每题 10 分,共 20 分)

  1. 比较 EVD 与 SVD 的适用对象和基本形式。
  2. 解释为什么空间白噪声协方差矩阵是 (\sigma_n^2\mathbf I)。

四、计算与推导(每题 15 分,共 30 分)

  1. 已知:

    $$ \mathbf A= \begin{bmatrix} 1&0\\ 1&1\\ 0&1 \end{bmatrix}, \qquad \mathbf b= \begin{bmatrix} 1\\2\\0 \end{bmatrix} $$

    写出投影矩阵公式,并求 (\mathbf b) 到 (\mathcal R(\mathbf A)) 的投影。

  2. 对:

    $$ f(\mathbf w) = \mathbf w^H\mathbf R\mathbf w -\mathbf w^H\mathbf p -\mathbf p^H\mathbf w $$

    假设 (\mathbf R) Hermitian 正定,求使 (f) 最小的 (\mathbf w)。

自测答案

一、填空

  1. 加法;数乘。
  2. (\mathbf x^H\mathbf y);(\mathbf x^H\mathbf y=0)。
  3. (\operatorname{rank}(\mathbf A)+\dim\mathcal N(\mathbf A)=n)。
  4. (\mathbf A(\mathbf A^H\mathbf A)^{-1}\mathbf A^H)。
  5. (\sigma_n^2\delta[k]);(\sigma_n^2)。
  6. Kronecker。

二、判断

  1. 错。独立可推出不相关,反之一般不成立;联合高斯是特例。
  2. 错。标准正交列基时投影是 (\mathbf A\mathbf A^H),一般列满秩基时是 (\mathbf A(\mathbf A^H\mathbf A)^{-1}\mathbf A^H)。
  3. 对。
  4. 对。

三、简答

  1. EVD 主要用于方阵,Hermitian 矩阵有 (\mathbf A=\mathbf U\boldsymbol\Lambda\mathbf U^H);SVD 适用于任意矩形矩阵,有 (\mathbf A=\mathbf U\boldsymbol\Sigma\mathbf V^H)。SVD 的奇异值非负,可直接给出秩、值域和零空间。
  2. 空间白表示不同阵元噪声不相关,所以非对角元素为零;各阵元噪声功率相等为 (\sigma_n^2),所以主对角元素全为 (\sigma_n^2),得到 (\sigma_n^2\mathbf I)。

四、计算

  1. 投影矩阵:

    $$ \mathbf P_{\mathbf A} = \mathbf A(\mathbf A^H\mathbf A)^{-1} \mathbf A^H $$

    先算:

    $$ \mathbf A^H\mathbf A = \begin{bmatrix} 2&1\\1&2 \end{bmatrix} $$

    $$ (\mathbf A^H\mathbf A)^{-1} = \frac13 \begin{bmatrix} 2&-1\\-1&2 \end{bmatrix} $$

    $$ \mathbf A^H\mathbf b = \begin{bmatrix}3\\2\end{bmatrix} $$

    系数:

    $$ \hat{\mathbf c} = \frac13 \begin{bmatrix} 2&-1\\-1&2 \end{bmatrix} \begin{bmatrix}3\\2\end{bmatrix} = \begin{bmatrix} 4/3\\1/3 \end{bmatrix} $$

    投影:

    $$ \boxed{ \mathbf p = \mathbf A\hat{\mathbf c} = \begin{bmatrix} 4/3\\5/3\\1/3 \end{bmatrix}} $$

  2. 对 (\mathbf w^*) 求导:

    $$ \frac{\partial f}{\partial\mathbf w^*} = \mathbf R\mathbf w-\mathbf p $$

    令其为零:

    $$ \boxed{ \mathbf w_{\text{opt}} = \mathbf R^{-1}\mathbf p} $$

    因 (\mathbf R) 正定,驻点是唯一全局最小值。


16. 高频易错点

  1. 复内积必须使用共轭转置:

    $$ \mathbf x^H\mathbf y $$

    不能直接写 (\mathbf x^T\mathbf y)。

  2. 线性空间核心是对加法和数乘封闭,不是“元素之间呈线性关系”。
  3. 子空间必须包含零向量。
  4. 列满秩只表示列向量独立,不一定能占满整个输出空间。
  5. 独立推出不相关,反向一般错误。
  6. 联合高斯时,不相关等价于独立。
  7. 正交基投影是:

    $$ \mathbf A\mathbf A^H $$

    不是 (\mathbf A^H\mathbf A)。

  8. 投影矩阵与伪逆不是同一个矩阵。
  9. 正交投影矩阵必须同时满足 Hermitian 和幂等。
  10. 复数域应称“酉矩阵”,条件是 (\mathbf U^H\mathbf U=\mathbf I)。
  11. Hermitian 不是“所有元素都为实数”,而是 (\mathbf A=\mathbf A^H)。
  12. 协方差矩阵一般是半正定;只有满足额外满秩条件时才正定。
  13. EVD 不适用于任意矩形矩阵,SVD 可以。
  14. 对 (\mathbf w^*) 求:

    $$ \mathbf w^H\mathbf R\mathbf w $$

    的导数是 (\mathbf R\mathbf w),不是 (2\mathbf R\mathbf w)。

  15. “高斯”表示分布,“白”表示相关/频谱性质。
  16. 白噪声功率谱为常数;色噪声功率谱随频率变化。
  17. 理想 ULA 协方差的 Toeplitz 性需要空间平稳等条件,不是无条件成立。
  18. Kronecker 积通常不交换。
  19. Khatri–Rao 要求两个矩阵列数相同。
  20. eig(A) 输出的特征值默认不保证按大小排列。

17. 考前十分钟背诵版

  1. 线性空间:加法和数乘封闭。
  2. 内积:(\langle x,y\rangle=x^Hy)。
  3. 正交:(x^Hy=0)。
  4. 基:线性无关且张成整个空间。
  5. 值域:(\mathcal R(A)={Ax})。
  6. 零空间:(\mathcal N(A)={x:Ax=0})。
  7. 秩-零度:(\operatorname{rank}(A)+\dim\mathcal N(A)=n)。
  8. 独立 (\Rightarrow) 不相关;反之一般不成立;联合高斯时等价。
  9. 线性变换:(T(ax+by)=aT(x)+bT(y))。
  10. 一般投影:(P=A(A^HA)^{-1}A^H)。
  11. 正交基投影:(P=AA^H)。
  12. 正交补:(P^\perp=I-P)。
  13. 投影性质:(P=P^H=P^2)。
  14. Hermitian EVD:(A=U\Lambda U^H)。
  15. SVD:(A=U\Sigma V^H)。
  16. QR:(A=QR)。
  17. (\partial(w^HRw)/\partial w^*=Rw)。
  18. 白噪声:(R_n[k]=\sigma^2\delta[k]),(S_n=\sigma^2)。
  19. 空间白噪声:(R_n=\sigma^2I)。
  20. ULA 导向矢量是范德蒙形式。
  21. 理想 ULA 协方差:Hermitian、Toeplitz。
  22. 广义特征值:(Av=\lambda Bv)。
  23. Kronecker 是块矩阵积;Khatri–Rao 是逐列 Kronecker。

18. 资料索引与可靠性说明

资料第二章用途注意事项
20260605.pdf当前第二章 13 项考试要求投影公式处把 (AA^H) 误写成 (A^HA),本文已纠正
第二章 数学基础.pdf线性空间、子空间、投影、正交变换、EVD/SVD/QR、复变量求导第 17 页把投影矩阵误称为伪逆;第 29 页采用实梯度约定
2021 年试题.pdf>)线性空间、值域、范德蒙、协方差结构填空题直接反映基础概念考法
2022 年试题(1).pdf>)内积、子空间、线性代数选择、EVD 程序图片式 PDF,本文按页面核读
第三章 空域滤波讲义白/色噪声、广义特征值、复梯度的后续应用仅提取第二章大纲所需数学基础
第五章高分辨处理讲义范德蒙、协方差 EVD、信号/噪声子空间用于说明数学概念在 MUSIC 中的用途
第五章传统测向讲义二维阵列中的 Kronecker 积Khatri–Rao 定义由标准矩阵定义补全
阵列信号总汇编旧卷、手写答案、复习笔记纯扫描且重复较多,仅用于核对题型,不作为公式最高依据

19. 本章最终达标标准

  • [ ] 能写线性空间、子空间、基和值域/零空间的定义。
  • [ ] 能判断向量组线性无关并求维数。
  • [ ] 能解释独立与不相关的关系。
  • [ ] 能推导并计算正交投影矩阵。
  • [ ] 能写信号子空间、噪声子空间及正交补投影。
  • [ ] 能写 EVD、SVD、QR,并会使用 MATLAB 函数。
  • [ ] 能用 (\partial/\partial\mathbf w^*) 对二次型求导。
  • [ ] 能写白噪声相关函数、功率谱和空间协方差。
  • [ ] 能说出 Hermitian、正定、Toeplitz、范德蒙矩阵的关键性质。
  • [ ] 能写广义特征值方程。
  • [ ] 能区分 Kronecker 和 Khatri–Rao 并判断结果维数。
  • [ ] 第 15 节自测达到 80 分以上。