矩阵的伪逆
这里所介绍的伪逆是Moore-Penrose 逆矩阵，其定义为：给定矩阵A∈Rm∗n，如果矩阵A†∈Rn∗m满足AA†A=A，且存在两个矩阵U∈Rn∗n,V∈Rm∗m使得
A†=UAT,A†=ATV
那么则称A†是矩阵A的伪逆，可以通过证明得到，矩阵的伪逆是唯一的。
对于矩阵A∈Rm∗n,m≥n且rank(A)=n，可以根据以上定义验证得到A的伪逆为
A†=(ATA)−1AT
对于矩阵A∈Rm∗n,m≤n且rank(A)=m，同样根据以上定义验证得到A的伪逆为
A†=AT(AAT)−1
以上两种情况是当矩阵为列满秩或者行满秩情况下的伪逆，而对于一般矩阵A∈Rm∗n,rank(A)=r,r≤min(m,n)，我们可以采用满秩分解的方法来求得其伪逆。
对于任意矩阵A∈Rm∗n,rank(A)=r,r≤min(m,n)，都可以将其分解为一个行满秩矩阵和列满秩矩阵的乘积：
即A=BC,B∈Rm∗r,c∈Rr∗n,rank(A)=rank(B)=rank(C)=r
可以通过证明得到：
A†=C†B†，而其中B†=(BTB)−1BT,C†=CT(CCT)−1，即为一般矩阵的伪逆求法。
一般情况下线性方程组的解法
某线性方程组为Ax=b,A∈Rm∗n,rank(A)=r，向量x∗=A†b可在空间Rn中最小化∣∣Ax−b∣∣2;而且在Rn中所有能够最小化∣∣Ax−b∣∣2的向量中，向量x∗=A†b的范数最小，并且是唯一的。
当r=m时，A是行满秩矩阵，此时x∗=A†b=AT(AAT)−1b，即为方程组Ax=b的最小范数解。
当r=n时，A是列满秩矩阵，此时x∗=A†b=(ATA)−1ATb，即为方程组Ax=b的最小二乘解。