首先,Ax=0并不一定得到x=0,因为A的所有列向量不一定都是线性无关的.只要A的某一个列向量可以由其他列向量线性表出,那么A的nullspace就含有非零解,即存在非零的x,使得Ax=0成立.
所以,ATAx=0与Ax=0同解只是证明了它们有相同的解集,但并不能证明它们的解集只含有唯一的元素x=0.如果加个条件,比如A是满秩的方阵,那么ATAx=0与Ax=0都只有唯一解,是x=0.
我知道你的意思了。
你推出的AT(AX)=0只有零解是基于这个零解必须是Ax的形式,即如果ATX=0的解是Ax的形式,那么它一定是零解。换句话说,如果ATX=0的某个解在A的列向量空间中,那么它必为零。所以ATX=0可能有不为零的解,只是这种非零解一定不能写成Ax的形式,即这个非零解不在A的列向量空间中。