矩阵运算法则这四个字课堂上一听觉得没什么一到自己动手做题或者跑数据就开始出错。这次干脆把从加减、数乘到乘法、转置、逆矩阵、行列式这些基本法则整理成一篇笔记重点讲清楚每条法则是什么、为什么这样定义、实际用的时候有哪些坑。适合正在学线性代数的同学也适合做数据分析、图像处理、机器学习时想补一补矩阵基础的朋友。1. 先搞懂矩阵是什么从数字表格到线性变换1.1 矩阵的另一个身份线性变换第一次接触矩阵绝大多数人都会觉得这就是一张数字表格横竖整齐排好仅此而已。这个视角不能说错但它会严重限制你对后续所有运算法则的理解。矩阵更本质的身份是线性变换。所谓变换就是输入一个向量、输出另一个向量。比如下面这个 2×2 矩阵[ 0 -1 ] [ 1 0 ]把它乘到任意向量[x, y]上[ 0 -1 ] × [ x ] [ -y ] [ 1 0 ] [ y ] [ x ]结果向量恰好是原向量逆时针旋转 90 度。所以这一个矩阵本身就代表旋转 90 度这个操作。我自己学矩阵最大的转折点就是不再把它当表格而是当成滤镜。一张照片经过不同滤镜会得到不同效果多个滤镜叠加时顺序不同最终效果完全不同。矩阵乘法之所以规则那么别扭本质上就是在描述这种操作的复合。带着这个视角往下学很多法则的为什么就都能讲通了。1.2 维度匹配动手前必须先做的事矩阵的形状用行数 × 列数表示。一个 2 行 3 列的矩阵记作 2×3。向量可以看成特殊的矩阵比如列向量就是 n×1 矩阵行向量就是 1×n 矩阵。形状匹配是所有矩阵运算的第一道门槛。相加、相减两个矩阵必须形状完全一致2×3 只能和 2×3 加减。矩阵乘法 A×B要求 A 的列数等于 B 的行数否则没有定义。可以把维度匹配理解成 USB 接口形状对不上物理上就插不进去后面所有运算都免谈。我见过太多人拿到题目不标维度直接开算算到一半发现结果矩阵的行列数都对不上只好从头再来。实操习惯拿到任何矩阵运算题目先在草稿纸上把每个矩阵的维度标出来。这个习惯笨但极其有效后面所有章节都默认你已经做好了这一步。2. 加减法和数乘怎么算基础运算里的细节坑2.1 矩阵加法形状不一致一切免谈矩阵加法的规则一句话就能说完对应位置元素相加。[ 1 2 ] [ 5 6 ] [ 6 8 ] [ 3 4 ] [ 7 8 ] [ 10 12 ]第 1 行第 1 列加第 1 行第 1 列第 1 行第 2 列加第 1 行第 2 列依此类推。因为是逐元素做加法所以矩阵加法天然满足交换律和结合律A B B A(A B) C A (B C)这两个性质跟普通数字加法没有本质区别不用死记。但这里有个容易踩的坑某些数值计算工具支持广播机制比如形状不匹配时自动把小的矩阵扩展成大的形状再做运算。这是工程便利不是数学法则。做题时绝不能默认两个不同形状的矩阵可以相加2×3 和 1×3 在严格数学定义下就是不能加。2.2 数乘把整张矩阵一起缩放数乘就是用一个数字 k 去乘矩阵规则是矩阵里的每一个元素都乘上 k。[ 1 2 ] [ 2 4 ] [ 3 4 ] × 2 [ 6 8 ]从线性变换的角度看数乘就是把整个空间沿所有方向同时缩放。k 大于 1 是拉伸k 在 0 到 1 之间是压缩k 为负数还会翻到相反方向。数乘满足这些法则k(A B) kA kB(m n)A mA nA(mn)A m(nA)最需要注意的是区分数乘和矩阵乘法。数乘是每个元素缩放而矩阵乘法是行和列的内积运算。在代码里尤其危险有些语言里A * 2没问题2 * A通常也没问题但一旦你把 2 写成一个 1×1 的矩阵再去和 A 做真正的矩阵乘法维度可能就不匹配直接报错。3. 矩阵乘法怎么算行乘列规则与三条反直觉性质3.1 行乘列的正确姿势与一个简单例子矩阵乘法是整个矩阵运算的核心规则可以用一句话概括结果矩阵第 i 行第 j 列的元素等于左边矩阵第 i 行与右边矩阵第 j 列逐项相乘再求和。用公式写就是C[i][j] Σ A[i][k] × B[k][j]拿两个 2×2 矩阵举例A [ 1 2 ] B [ 5 6 ] [ 3 4 ] [ 7 8 ] A × B [ 1×5 2×7 1×6 2×8 ] [ 19 22 ] [ 3×5 4×7 3×6 4×8 ] [ 43 50 ]维度规律是A 是 m×nB 是 n×p那么 AB 是 m×p。中间的 n 必须相等这也是为什么说内维度必须匹配。这里还藏着一个性能直觉一次矩阵乘法需要做 m×n×p 次乘加。如果 m、n、p 都很大运算量是惊人的。后面很多优化技巧比如分块、缓存复用、先合并矩阵减少乘法次数本质上都是在想办法降低这个数字。3.2 为什么矩阵乘法偏偏要这样定义这是初学者问得最多的一个问题为什么矩阵乘法不是逐元素相乘而是要搞出行乘列这么麻烦的规则答案很简单因为矩阵代表的是变换矩阵乘法代表的是变换的复合。假设你先做变换 B再做变换 A那么把两步合并成一步得到的矩阵应该是多少数学推导的结果就是行乘列规则。每一列的操作逻辑很清晰最终结果矩阵的第 j 列等于左边矩阵乘以右边矩阵的第 j 列。也就是说复合变换对第 j 个基向量做了什么完全取决于右边矩阵的第 j 列被左边矩阵映射到哪里。你可以用生活中的例子理解先切菜再炒菜和先炒菜再切菜完全不同。矩阵乘法的定义必须保证合并后的矩阵等价于按顺序依次应用两个变换。如果改成逐元素乘法两个变换的复合关系就完全对不上了。这也是为什么矩阵乘法满足结合律(AB)C A(BC)。因为变换复合本身就是按顺序进行的括号只是决定你先把哪两个变换合并成一步不会改变最终的整体变换效果。3.3 交换律、消去律、零因子三条反直觉法则矩阵乘法有两个地方跟普通数的乘法非常不一样初学者特别容易翻车。第一矩阵乘法不满足交换律。AB 大概率不等于 BA。A [ 1 1 ] B [ 1 0 ] [ 0 1 ] [ 1 1 ] AB [ 2 1 ] BA [ 1 1 ] [ 1 1 ] [ 1 2 ]两者完全不同。在图像处理里旋转和缩放矩阵的顺序写反输出的图片就直接歪掉。我自己的项目里就犯过这种错后来学乖了凡是复合变换一律先在纸上把顺序写清楚。第二矩阵乘法不满足消去律。AB AC 不能直接推出 B C除非 A 是可逆矩阵。原因在于 A 可能把不同的向量映射到同一个结果上信息丢了就补不回来。同样地AB 0 也不能推出 A 0 或 B 0。比如A [ 1 0 ] B [ 0 0 ] [ 0 0 ] [ 0 1 ]AB 等于零矩阵但 A 和 B 都不是零矩阵。这是矩阵世界跟实数世界差异最大的地方第一次见到的人基本上都会愣一下。结合律反而是有用的。比如计算 ABC如果 A 是 1×10000B 是 10000×10C 是 10×100先算 AB 再乘 C需要约 101000 次乘加先算 BC 再乘 A需要约 11000000 次乘加差了上百倍。这就是为什么工程代码里优化矩阵乘法时很讲究运算顺序。4. 转置和对称矩阵为什么(AB)ᵀ要反序4.1 转置的三条核心法则转置就是把矩阵的行和列互换。一个 m×n 矩阵转置后变成 n×m。转置的运算法则并不多但其中有一条特别重要(A B)ᵀ Aᵀ Bᵀ(kA)ᵀ kAᵀ(AB)ᵀ BᵀAᵀ← 注意顺序反了前两条很直观转置不改变加法和数乘的结构。第三条是重灾区几乎每次考试都会有人写成 (AB)ᵀ AᵀBᵀ。为什么转置要反序可以这样理解AB 表示先做 B 再做 A。转置相当于把这个复合变换倒过来看那么自然应该是先对 A 做转置、再对 B 做转置顺序反转。拿穿衣服类比先穿衬衫再穿外套脱的时候一定是先脱外套再脱衬衫。运算顺序和撤销顺序永远是反着的。验证方式很简单取 2×2 矩阵手算一遍就能看到 (AB)ᵀ 的第 i 行第 j 列元素确实等于 BᵀAᵀ 的对应元素。4.2 对称矩阵与AᵀA转置的真实用途如果一个方阵满足 Aᵀ A就称它为对称矩阵。对称矩阵有非常好的性质比如特征值一定是实数这在很多工程计算里直接决定了算法能不能稳定运行。有一个结论在最小二乘、回归分析里出现频率极高AᵀA 一定是一个对称矩阵而且通常是半正定的。因为 (AᵀA)ᵀ Aᵀ(Aᵀ)ᵀ AᵀA。这个性质是正规方程 AᵀAx Aᵀb 的基础。除此之外任意一个方阵都可以拆成一个对称矩阵和一个反对称矩阵之和A (A Aᵀ)/2 (A - Aᵀ)/2这个公式看着简单但在多元微积分里判断二次型、在力学里分解应变张量时都会反复出现。实际写代码时转置的反序问题最容易出 bug。如果你在推导公式时写漏了一个转置或者把转置顺序写反最终结果很可能方向完全正确、数值完全错误非常隐蔽。5. 逆矩阵和行列式矩阵的除法与体积密码5.1 逆矩阵怎么求、怎么用逆矩阵可以理解为矩阵世界里的除法。如果方阵 A 存在一个矩阵 B使得 AB BA II 是单位矩阵相当于数字 1那么 B 就是 A 的逆矩阵记作 A⁻¹。2×2 矩阵的逆有现成公式A [ a b ] [ c d ] A⁻¹ 1/(ad - bc) × [ d -b ] [ -c a ]注意分母 ad - bc这个数就是 A 的行列式。行列式为 0 时公式直接失效矩阵不可逆。几何意义也很直白如果这个矩阵代表的变换把整个平面压成一条线甚至一个点那这个操作是不可逆的没有哪个矩阵能撤销它。逆矩阵有几条运算法则同样需要盯住反序问题(A⁻¹)⁻¹ A(AB)⁻¹ B⁻¹A⁻¹(Aᵀ)⁻¹ (A⁻¹)ᵀ第二条和转置的反序是同一个道理先做的事要后撤销。先穿袜子再穿鞋脱的时候必然先脱鞋再脱袜子。逆矩阵最直观的应用是解线性方程组Ax b 两边左乘 A⁻¹得到 x A⁻¹b。不过我自己写代码解大规模方程组时几乎不会真的去求逆矩阵而是用消元法或矩阵分解。原因很实际求逆的计算量大数值稳定性也不如分解算法。但小规模问题、以及公式推导场景下逆矩阵依然是最好用的记号。5.2 行列式它才是判断可逆的关键行列式是方阵的一个标量2×2 的时候就是 ad - bc3×3 的时候按展开公式可以算出来但不要只把它当计算题。行列式的几何意义是线性变换对空间的体积缩放倍数。一个 2×2 矩阵把平面上的图形映射到新位置面积变化了多少答案就是行列式的绝对值。三维时则是体积的缩放。行列式法则有下面几条需要记住det(AB) det(A) × det(B)det(Aᵀ) det(A)det(A⁻¹) 1 / det(A)交换矩阵的两行或两列行列式变号某一行乘以 k行列式变为原来的 k 倍第一条 det(AB) det(A)det(B) 尤其重要。它可以解释为什么行列式为 0 就不可逆如果某个变换把空间压扁体积缩放倍数是 0那这个变换就谈不上有逆操作。判断一个矩阵是否可逆最稳定的方式就是算行列式。矩阵 A 可逆的充要条件是 det(A) ≠ 0。这个结论贯穿整个线性代数从解方程组到特征值计算到处都用得上。6. 常见错误与排查技巧做题写代码前先看这份速查6.1 六个高频翻车现场错误操作典型后果正确做法维度不匹配直接相乘程序报错或结果无意义先标维度确认 A 的列数等于 B 的行数默认 AB BA数值全错且难排查每次写乘法都检查顺序从 AB AC 推出 B C得到错误结论先判 A 是否可逆可逆才能消去把 (AB)ᵀ 写成 AᵀBᵀ公式推导全部跑偏转置要反序写成 BᵀAᵀ数乘和矩阵乘法混用维度报错或语义错误分清 kA 和 A×B 的本质差异矩阵奇异还强行求逆报错或算出垃圾结果先算行列式为 0 就放弃求逆这六个问题里前五个都是看着像常识实际动手就忘的典型。我自己每个都踩过其中转置反序那个坑让我排查了整整一个下午最后发现问题不在代码逻辑而在公式推导时漏了一个转置。6.2 写代码前必做的矩阵运算检查清单如果你用数值计算库写矩阵运算我有一个固定的检查流程分享出来先打印形状拿到矩阵先看 shape别急着算。用单位矩阵做冒烟测试任何矩阵乘单位矩阵结果必须等于原矩阵。如果这一步不对说明乘法实现本身有问题。用小规模随机矩阵验证法则比如随机生成两个 2×2 矩阵分别算 (AB)ᵀ 和 BᵀAᵀ对比结果是否一致。这个方法几乎能覆盖所有法则类 bug。代码示意一下import numpy as np A np.array([[1.0, 2.0], [3.0, 4.0]]) B np.array([[5.0, 6.0], [7.0, 8.0]]) # 矩阵乘法 print(A B) # 转置法则验证(AB)ᵀ 应该等于 BᵀAᵀ print((A B).T) print(B.T A.T) # 两者应该完全一致注意在 Python 里才是矩阵乘法*通常做逐元素乘法。很多初学者拿*做矩阵乘法得到的结果和预期完全不是一回事。6.3 避坑经验小结最后分享一个我个人用过最笨但最有效的方法每学一条新的矩阵运算法则就手动算一个 2×2 的例子验证一下。比如学 (AB)ᵀ BᵀAᵀ就真的找两个 2×2 矩阵算一遍。花不了三分钟但你的直觉会变得非常牢靠考试和实际项目里都能少踩很多坑。矩阵运算最容易出问题的从来不是计算量而是顺序和条件判断。先把维度看清再把顺序写对最后用单位矩阵做一次验证这三个习惯能覆盖绝大多数低级错误。后面学特征值、最小二乘、图像变换时你会发现前期这些基本功打得越扎实走弯路的时间越少。