(I)α≠0且α不是A的特征向量,于是Aα≠λα, 故α与Aα线性无关,
则r(α,Aα)=2,
则P可逆.
(II)解法一
由已知有A
2α=-Aα+6α,
于是AP=A(α,Aα)=(Aα,A
2α)=(Aα,-Aα+6α)
因为P可逆,

,
所以可得A的特征值也为-3,2.于是A可相似对角化.
解法二:
P
-1AP同解法一.
由A
2α+Aα-6α=0,
得(A
2+A-6E)α=0,
即(A+3E)(A-2E)α=0,
由α≠0得(A
2+A-6E)x=0有非零解,
故|(A+3E)(A-2E)|=0,
得|A+3E|=0或|A-2E|=0,
若|A+3E|≠0,则有(A-2E)α=0,故Aα=2α与题意矛盾,
故|A+3E|=0,同理可得|A-2E|=0.
于是A的特征值为λ
1=-3,λ
2=2,
A有2个不同特征值,故A可相似对角化.