特性方程式\(\det(A-\lambda I)=0\)を解く． \[ \det(A-\lambda I)=\det\begin{pmatrix}-1-\lambda&2\\[1mm]1&-\lambda\end{pmatrix}=(-1-\lambda)(-\lambda)-2\cdot1=0 \] \[ \lambda(1+\lambda)-2=\lambda^2+\lambda-2=0. \] 因数分解して， \[ (\lambda+2)(\lambda-1)=0 \] となるので，固有値は， \[ \boxed{\lambda_1=-2,\quad \lambda_2=1.} \]
\[ A-(-2)I=A+2I=\begin{pmatrix}-1+2&2\\[1mm]1&0+2\end{pmatrix}=\begin{pmatrix}1&2\\[1mm]1&2\end{pmatrix}. \] 連立方程式 \[ \begin{cases} x+2y=0,\\[1mm] x+2y=0, \end{cases} \] より，\(x=-2y\)，よって，固有ベクトルは任意の非零定数倍で \[ \boxed{\mathbf{v}_1=\begin{pmatrix}-2\\1\end{pmatrix}.} \]
\[ A-I=\begin{pmatrix}-1-1&2\\[1mm]1&0-1\end{pmatrix}=\begin{pmatrix}-2&2\\[1mm]1&-1\end{pmatrix}. \] 連立方程式 \[ \begin{cases} -2x+2y=0,\\[1mm] x-y=0, \end{cases} \] より，\(y=x\)，よって，固有ベクトルは任意の非零定数倍で \[ \boxed{\mathbf{v}_2=\begin{pmatrix}1\\1\end{pmatrix}.} \]
固有値と固有ベクトルが分かれば，変換行列\(P\)は固有ベクトルを列に並べたものとなり，対角化された行列は固有値を対角成分に持つ対角行列\(D=\operatorname{diag}(\lambda_1,\lambda_2,\dots)\)となる．つまり， \[ P = \begin{pmatrix}\mathbf{v}_1&\mathbf{v}_2\end{pmatrix}, \quad P^{-1}AP = D = \begin{pmatrix}\lambda_1&0\\0&\lambda_2\end{pmatrix}, \] と書けるので， \[ P = \begin{pmatrix}-2&1\\1&1\end{pmatrix}, \quad P^{-1}AP = D = \begin{pmatrix}-2&0\\0&1\end{pmatrix}, \] よって， \[ \boxed{P = \begin{pmatrix}-2&1\\1&1\end{pmatrix}, \quad \left\lbrace \begin{aligned} r &= -2\\[5pt] s &= 1 \end{aligned} \right.} \]
\[ P^{-1} = \frac{1}{3}\begin{pmatrix}-1&1\\1&2\end{pmatrix}, \quad D^{n} = \begin{pmatrix}(-2)^{n}&0\\0&(1)^{n}\end{pmatrix} = \begin{pmatrix}(-2)^{n}&0\\0&1\end{pmatrix}, \] より， \[ A^{n} = PD^{n}P^{-1} = \frac{1}{3}\begin{pmatrix} 2 \cdot (-2)^{n} + 1 & -2 \cdot (-2)^{n} + 2 \\ -(-2)^{n} + 1 & (-2)^{n} + 2 \end{pmatrix}, \] \[ \boxed{A^{n} = \frac{1}{3}\begin{pmatrix} 2 \cdot (-2)^{n} + 1 & -2 \cdot (-2)^{n} + 2 \\ -(-2)^{n} + 1 & (-2)^{n} + 2 \end{pmatrix}.} \]
\[ \boxed{ B^{T}= \begin{pmatrix} 2 & 1 & 1 & 2 \\ 3 & 2 & 1 & 2 \\ 1 & 1 & 1 & 2 \\ 5 & 3 & 5 & 3 \end{pmatrix} } \]
掃き出し法でやるのがいいと思います． \[ \boxed{ B^{-1}= \begin{pmatrix} 1 & -2 & -1 & 1 \\ 0 & 1 & -3 & 1 \\ -1 & 1 & 1 & 0 \\ 0 & 0 & 2 & -1 \end{pmatrix} } \]
行列として書き直すと， \[ \begin{pmatrix} 2 & 1 & 1 & 2 \\ 3 & 2 & 1 & 2 \\ 1 & 1 & 1 & 2 \\ 5 & 3 & 5 & 3 \end{pmatrix} \begin{pmatrix} x_1 \\ x_2 \\ x_3 \\ x_4 \end{pmatrix} = \begin{pmatrix} 5 \\ 9 \\ 6 \\ 3 \end{pmatrix} \] \[ \begin{pmatrix} x_1 \\ x_2 \\ x_3 \\ x_4 \end{pmatrix} = \begin{pmatrix} 2 & 1 & 1 & 2 \\ 3 & 2 & 1 & 2 \\ 1 & 1 & 1 & 2 \\ 5 & 3 & 5 & 3 \end{pmatrix}^{-1} \begin{pmatrix} 5 \\ 9 \\ 6 \\ 3 \end{pmatrix} = \begin{pmatrix} 1 & -2 & -1 & 1 \\ 0 & 1 & -3 & 1 \\ -1 & 1 & 1 & 0 \\ 0 & 0 & 2 & -1 \end{pmatrix} \begin{pmatrix} 5 \\ 9 \\ 6 \\ 3 \end{pmatrix} \] \[ \boxed{ \begin{pmatrix} x_1 \\ x_2 \\ x_3 \\ x_4 \end{pmatrix} = \begin{pmatrix} -16 \\ -3 \\ 10 \\ 9 \end{pmatrix} } \]