《机器学习数学基础》补充资料：过渡矩阵和坐标变换推导

尽管《机器学习数学基础》这本书，耗费了比较长的时间和精力，怎奈学识有限，错误难免。因此，除了在专门的网页（ 勘误和修订 ）中发布勘误和修订内容之外，对于重大错误，我还会以专题的形式发布，并做出更多的相关解释。

更欢迎有识之士、广大读者朋友，指出其中的错误。非常感谢大家的帮助。

在《机器学习数学基础》第29页到第30页，推导过渡矩阵和坐标变换的时候，原文有一些错误。下面将推导过程重新编写如下，并且增加一些更详细的说明。此说明没有写入原文，是为了协助理解这段推导而作。

针对性的修改，请参阅：勘误与修订

---

设 { α 1 , ⋯ , α n } \{\pmb{\alpha}_1, \cdots, \pmb{\alpha}_n\} {α1​,⋯,αn​}（ ${\alpha }_i$ 表示列向量） 是某个向量空间的一个基，则该空间中一个向量 $\overrightarrow{OA}$ 可以描述为：

$$\overrightarrow{OA}=x_1{\alpha }_1+\cdots +x_n{\alpha }_n\text{\hspace{1em}(1.3.4)}$$
其中的 $(x_1,\cdots ,x_n)$ 即为向量 $\overrightarrow{OA}$ 在基 { α 1 , ⋯ , α n } \{\pmb{\alpha}_1, \cdots, \pmb{\alpha}_n\} {α1​,⋯,αn​} 的坐标。

如果有另外一个基 { β 1 , ⋯ , β n } \{\pmb{\beta}_1, \cdots, \pmb{\beta}_n\} {β1​,⋯,βn​}（ ${\beta }_i$ 表示列向量），向量 $\overrightarrow{OA}$ 又描述为：

$$\overrightarrow{OA}=x_1^{\prime }{\beta }_1+\cdots +x_n^{\prime }{\beta }_n\text{\hspace{1em}(1.3.5)}$$
那么，同一个向量空间的这两个基有没有关系呢？有。不要忘记，基是一个向量组，例如基 { β 1 , ⋯ , β n } \{\pmb{\beta}_1, \cdots, \pmb{\beta}_n\} {β1​,⋯,βn​} 中的每个向量也在此向量空间，所以可以用基 { α 1 , ⋯ , α n } \{\pmb{\alpha}_1, \cdots, \pmb{\alpha}_n\} {α1​,⋯,αn​} 线性表出，即：

$$\{\begin{array}{l}\begin{array}{rl}{\beta }_1& =b_{11}{\alpha }_1+\cdots +b_{n1}{\alpha }_n\\ ⋮& \\ {\beta }_n& =b_{1n}{\alpha }_1+\cdots +b_{nn}{\alpha }_n\end{array}\end{array}$$
以矩阵（这里提前使用了矩阵的概念，是因为本书已经在前言中声明，不假定读者完全没有学过高等数学。关于矩阵的更详细内容，请参阅第2章）的方式，可以表示为：

$$\begin{array}{c}\begin{array}{r}\left[\begin{array}{ccc}{\beta }_1& \cdots & {\beta }_n\end{array}\right]=\left[\begin{array}{ccc}{\alpha }_1& \cdots & {\alpha }_n\end{array}\right]\left[\begin{array}{ccc}{b}_{11}& \cdots & b_{1n}\\ ⋮& & \\ b_{n1}& \cdots & b_{nn}\end{array}\right]\end{array}\end{array}\text{\hspace{1em}(1.3.6)}$$
其中：

$$P=\left[\begin{array}{ccc}{b}_{11}& \cdots & b_{1n}\\ ⋮& & \\ b_{n1}& \cdots & b_{nn}\end{array}\right]$$
称为基 { α 1 , ⋯ , α n } \{\pmb{\alpha}_1, \cdots, \pmb{\alpha}_n\} {α1​,⋯,αn​} 向基 { β 1 , ⋯ , β n } \{\pmb{\beta}_1, \cdots, \pmb{\beta}_n\} {β1​,⋯,βn​} 的过渡矩阵。显然，过渡矩阵实现了一个基向另一个基的变换。

定义 在同一个向量空间，由基 { α 1 ⋯ α n } \{\pmb{\alpha}_1\quad\cdots\quad\pmb{\alpha}_n\} {α1​⋯αn​} 向基 { β 1 ⋯ β n } \{\pmb{\beta}_1\quad\cdots\quad\pmb{\beta}_n\} {β1​⋯βn​} 的过渡矩阵是 $P$ ，则：
$$[{\beta }_1\cdots {\beta }_n]=[{\alpha }_1\cdots {\alpha }_n]P$$

根据（1.3.5）式，可得：

$$\begin{array}{rl}{x}_1^{\prime }{\beta }_1+\cdots +x_n^{\prime }{\beta }_n& =x_1^{\prime }{b}_{11}{\alpha }_1+\cdots +x_1^{\prime }{b}_{n1}{\alpha }_n\\ & +\cdots \\ & +x_n^{\prime }{b}_{1n}{\alpha }_1+\cdots +x_n^{\prime }{b}_{nn}{\alpha }_n\\ & =(x_1^{\prime }{b}_{11}+\cdots +x_n^{\prime }{b}_{1n}){\alpha }_1\\ & +\cdots \\ & +(x_1^{\prime }{b}_{n1}+\cdots +x_n^{\prime }{b}_{nn}){\alpha }_n\end{array}$$
（1.3.4）式 和（1.3.5）式描述的是同一个向量，所以：

$$\{\begin{array}{l}\begin{array}{rl}{x}_1& =x_1^{\prime }{b}_{11}+\cdots +x_n^{\prime }{b}_{1n}\\ & ⋮\\ x_n& =x_1^{\prime }{b}_{n1}+\cdots +x_n^{\prime }{b}_{nn}\end{array}\end{array}$$
如果写成矩阵形式，即：

$$\left[\begin{array}{c}{x}_1\\ ⋮\\ x_n\end{array}\right]=\left[\begin{array}{ccc}{b}_{11}& \cdots & b_{1n}\\ ⋮& & \\ b_{n1}& \cdots & b_{nn}\end{array}\right]\left[\begin{array}{c}{x}_1^{\prime }\\ ⋮\\ x_n^{\prime }\end{array}\right]\text{\hspace{1em}(1.3.7)}$$
表示了在同一个向量空间中，向量在不同基下的坐标之间的变换关系，我们称为坐标变换公式。

定义 在某个向量空间中，由基 { α 1 ⋯ α n } \{\pmb{\alpha}_1\quad\cdots\quad\pmb{\alpha}_n\} {α1​⋯αn​} 向基 { β 1 ⋯ β n } \{\pmb{\beta}_1\quad\cdots\quad\pmb{\beta}_n\} {β1​⋯βn​} 的过渡矩阵是 $P$ 。某向量在基 { α 1 ⋯ α n } \{\pmb{\alpha}_1\quad\cdots\quad\pmb{\alpha}_n\} {α1​⋯αn​} 的坐标是 $x=\left[\begin{array}{c}{x}_1\\ ⋮\\ x_n\end{array}\right]$，在基 { β 1 ⋯ β n } \{\pmb{\beta}_1\quad\cdots\quad\pmb{\beta}_n\} {β1​⋯βn​} 的坐标是 $x^{\prime }=\left[\begin{array}{c}{x}_1^{\prime }\\ ⋮\\ x_n^{\prime }\end{array}\right]$，这两组坐标之间的关系是：
$$x=P{x}^{\prime }$$

---

《机器学习数学基础》第29页到第30页的错误，是我讲授《机器学习数学基础》的课程时发现的。现在深刻体会到：教，然后知不足。教学相长，认真地研究教学，也是自我提升。