λE-A=
λ-200
0λ-1
0-1λ
|λE-A|=λ^2(λ-2)-(λ-2)=(λ+1)(λ-1)(λ-2)
所以矩阵A的特征值为λ1=-1,λ2=1,λ3=2
当λ1=-1时,方程组(λE-A)X=0的基础解系为X1*=(0,-1,1)^T
所以特征值λ1=-1对应的特征向量为X1*=(0,-1,1)^T,单位化得X1=(0,-√2/2,√2/2)^T
当λ2=1时,方程组(λE-A)X=0的基础解系为X2*=(0,1,1)^T
所以特征值λ2=1对应的特征向量为X2*=(0,1,1)^T,单位化得X2=(0,√2/2,√2/2)^T
当λ3=2时,方程组(λE-A)X=0的基础解系为X3*=(1,0,0)^T
所以特征值λ3=2对应的特征向量为X3*=(1,0,0)^T,单位化得X3=(1,0,0)^T
设矩阵P=(X1X2X3)=
001
-√2/2√2/20
√2/2√2/20
所以矩阵P即为所求,使得P^(-1)AP=(-100;010;002)为对角阵