今回は対称性のある連立漸化式に関する問題を紹介します。
$p$、$q$を自然数とし，数列$\{a_n\}$，$\{b_n\}$を $\begin{cases}a_1=p \\ b_1=q \end{cases}$，$\begin{cases} a_{n+1}=pa_n+qb_n \\ b_{n+1}=qa_n+pb_n\end{cases}$ によって定める．このとき，次の問いに答えよ．
（１）$a_2$，$b_2$，$a_3$，$b_3$を$p$，$q$を用いて表せ．
（２）数列$\{a_n+b_n\}$，$\{a_n-b_n\}$の一般項を求めよ．
（３）数列$\{a_n\}$，$\{b_n\}$の一般項を求めよ．
（４）すべての自然数$m$に対して$a_{2m-1}$は$p$の倍数であることを数学的帰納法を用いて示せ．
（2021年 島根大学 総合理工 数学第2問）
$$\begin{cases} a_{n+1}=pa_n+qb_n \\ b_{n+1}=qa_n+pb_n\end{cases}$$という「ナナメの係数」が等しい連立漸化式を題材とする数列の問題です。このような形の連立漸化式を、ここでは「タスキ型の連立漸化式」と呼ぶことにします。
親切なことに、丁寧な誘導が付いているので、解答の方針に困ることはないと思います。（２）では数列$\{a_n+b_n\}$，$\{a_n-b_n\}$をそれぞれ$\{c_n\}$，$\{d_n\}$などと置いて計算すると多少スッキリします。（４）は漸化式を使えば簡単に解決します。
（１）
$$\begin{aligned} a_2 & =p a_1+q b_1 \\ & =\color{red}{p^2+q^2} \\ b_2 & =q a_1+p b_1 \\ & =\color{red}{2 p q} \\ a_3 & =p a_2+q b_2 \\ & =p\left(p^2+q^2\right)+q(2 p q) \\ & =\color{red}{p^3+3 p q^2} \\ b_3 & =q a_2+p b_2 \\ & =q\left(p^2+q^2\right)+p(2 p q) \\ & =\color{red}{q^3+3 p^2 q}\end{aligned}$$
（２）
$$\begin{cases} a_{n+1}=pa_n+qb_n & \cdots ① \\ b_{n+1}=qa_n+pb_n & \cdots ②\end{cases}$$と置く。
$①+②$ より、$$a_{n+1}+b_{n+1}=(p+q)(a_n+b_n)$$を得る。ここで数列$\{a_n+b_n\}$を$\{c_n\}$とすると、$$c_{n+1}=(p+q)c_n$$となる。よって数列$\{c_n\}$は公比 $p+q$、初項 $a_1+b_1=p+q$ の等比数列であるから、$$c_n=a_n+b_n=\color{red}{(p+q)^n}$$と求められる。
また、$①-②$ より、$$a_{n+1}-b_{n+1}=(p-q)(a_n-b_n)$$を得る。ここで数列$\{a_n-b_n\}$を$\{d_n\}$とすると、$$d_{n+1}=(p-q)d_n$$となる。よって数列$\{d_n\}$は公比 $p-q$、初項 $a_1-b_1=p-q$ の等比数列であるから、$$d_n=a_n-b_n=\color{red}{(p-q)^n}$$と求められる。
（３）
（２）より$$\begin{cases} a_n+b_n=(p+q)^n & \cdots ③ \\ a_n-b_n=(p-q)^n & \cdots ④\end{cases}$$である。$③+④$ より、$$2 a_n=(p+q)^n+(p-q)^n$$ $$\therefore a_n=\color{red}{\dfrac{(p+q)^n+(p-q)^n}{2}}$$ $③-④$ より、$$2 b_n=(p+q)^n-(p-q)^n$$ $$\therefore b_n=\color{red}{\dfrac{(p+q)^n-(p-q)^n}{2}}$$を得る。
（４）
すべての自然数$m$に対して$a_{2m-1}$が$p$の倍数であることを数学的帰納法を用いて示す。
（ア）$m=1$ のとき、$a_{1}=p$ より成り立つ。
（イ）$m=k$（$k$は正の整数）のとき、$a_{2m-1}$が$p$の倍数であると仮定する。ここで、$$\begin{aligned} a_{2k+1} &= p a_{2k}+q b_{2k} \\ &= p (p a_{2k-1}+q b_{2k-1})+q (q a_{2k-1}+p b_{2k-1}) \\ &= p(p a_{2k-1}+2q b_{2k-1})+q^2 a_{2k-1} \end{aligned}$$となるが、$p(p a_{2k-1}+2q b_{2k-1})$ は$p$の倍数であり、仮定より$a_{2k-1}$は$p$の倍数であるから、$a_{2k+1}$は$p$の倍数となる。よって $m=k+1$ のときも成り立つ。
以上、（ア）、（イ）より、すべての自然数$m$に対して$a_{2m-1}$が$p$の倍数であることが示された。
「数学的帰納法を用いて」という指定が無ければ、二項定理から示すのが普通でしょうか。$b_n$が$q$の倍数となることは漸化式からすぐに分かりますね。
さて、本問は「タスキ型」の連立漸化式でしたが、係数を一般化して$$\left\{\begin{array}{l}a_{n+1}=p a_n+q b_n \\ b_{n+1}=r a_n+s b_n\end{array}\right.$$というタイプの連立漸化式を考えてみましょう。これは$a_n$もしくは$b_n$の一方を消去することで3項間漸化式に変形できます。ここでは$b_n$を消去することにします。
第1式から$$b_{n}=\dfrac{1}{q}a_{n+1}-\dfrac{p}{q}a_{n}$$となるので、第2式に代入して整理すると$$a_{n+2}-p a_{n+1}=qr a_{n}+s a_{n+1}-ps a_{n}$$ $$\therefore a_{n+2}-(p+s) a_{n+1}+(ps-qr) a_{n}=0$$という3項間漸化式が得られます。よって、$$\left\{\begin{array}{l} \alpha+\beta=p+s \\ \alpha\beta=ps-qr \end{array}\right.$$となるような数$\alpha$、$\beta$によって$$\left\{\begin{array}{l}a_{n+2}-\alpha a_{n+1}=\beta\left(a_{n+1}-\alpha a_n\right) \\ a_{n+2}-\beta a_{n+1}=\alpha\left(a_{n+1}-\beta a_n\right)\end{array}\right.$$と表せるので、$$a_n=\dfrac{\alpha^{n-1}(a_2-\beta a_1)-\beta^{n-1}(a_2-\alpha a_1)}{\alpha-\beta}$$で与えられます（導出過程はよくある項数下げの手順に従うだけなので省略）。
$b_n$に関しては対称性を考えると$$b_{n+2}-(q+r) b_{n+1}+(qr-ps) b_{n}=0$$という3項間漸化式になるので、$$\left\{\begin{array}{l} \gamma+\delta=q+r \\ \gamma\delta=qr-ps \end{array}\right.$$となるような数$\gamma$、$\delta$によって$$b_n=\dfrac{\gamma^{n-1}(b_2-\delta b_1)-\delta^{n-1}(b_2-\gamma b_1)}{\gamma-\delta}$$で与えられることが分かります。
ここで、タスキ型の連立漸化式の場合を考えてみましょう。いま、簡単のために $s=p$、$r=q$ でいずれも正と仮定します。このとき、$$\left\{\begin{array}{l} \alpha+\beta=2p \\ \alpha\beta=p^2-q^2 \end{array}\right. , \quad \left\{\begin{array}{l} \gamma+\delta=2q \\ \gamma\delta=q^2-p^2 \end{array}\right.$$となります。さらに $\alpha>\beta$、$\gamma>\delta$ とすると、恒等式 $(\alpha-\beta)^2=(\alpha+\beta)^2-4\alpha\beta$ から$$\alpha-\beta=2q$$が導かれます（同様に $\gamma-\delta=2p$ となる）。このとき、$$\left\{\begin{array}{l} \alpha=p+q \\ \beta=p-q \\ \gamma=p+q \\ \delta=-p+q \end{array}\right.$$となるので、$a_2=p a_1+q b_1$、$b_2=q a_1+p b_1$ より、$$a_n=\dfrac{(p+q)^{n-1}q(a_1+b_1)-(p-q)^{n-1}q(b_1-a_1)}{2q}$$ $$\therefore \color{red}{a_n=\dfrac{(p+q)^{n-1}(a_1+b_1)+(p-q)^{n-1}(a_1-b_1)}{2}}$$と求められ、$b_n$の場合は$$\color{red}{b_n=\dfrac{(p+q)^{n-1}(a_1+b_1)-(p-q)^{n-1}(a_1-b_1)}{2}}$$となります。これより、$A=\dfrac{a_1+b_1}{2}$、$B=\dfrac{a_1-b_1}{2}$ と置くと、数列$\{a_n\}$、$\{b_n\}$の一般項はそれぞれ$$\color{red}{\left\{\begin{array}{l} a_n=A(p+q)^{n-1}+B(p-q)^{n-1} \\ b_n=A(p+q)^{n-1}-B(p-q)^{n-1} \end{array}\right.}$$という式で与えられることが分かります。
以上の事実を踏まえて今回の問題を見てみると、一般項が最もシンプルになる場合に相当していることが分かりますね。因みに、上で考えたような連立漸化式で定まる数列の一般項は常に$$A \alpha^n + B\beta^n$$という形をしています。このとき、$\alpha$と$\beta$は特性方程式の解です。
したがってこれを既知とすれば、第2項まで値を求めて連立方程式を解くことで一般項の式が得られてしまいます。例えば $a_1=2$、$b_1=1$、$\left\{\begin{array}{l}a_{n+1}=3 a_n+b_n \\ b_{n+1}=a_n+3 b_n\end{array}\right.$ で定まる数列の場合、$$a_{n+2}-6 a_{n+1}+8 a_n=0$$より、特性方程式は $t^2-6 t+8=0$ となるので $t=4,\,2$ を得ます。よって$$\left\{\begin{array}{l} 4A + 2B =2 \\ 16A + 4B =7 \end{array}\right.$$を解くと $(A,\,B)=\left(\dfrac{3}{2},\,\dfrac{1}{2}\right)$ となるので、一般項の式は$$a_n=\dfrac{3 \cdot 4^{n-1}+2^{n-1}}{2}$$と直ちに求められます。同様にして$$b_n=\dfrac{3 \cdot 4^{n-1}-2^{n-1}}{2}$$が得られます。
興味のある方は色々と遊んでみてください。