2019年の一橋大の整数問題、数学第１問に登場する漸化式を題材とした隣接3項間漸化式とその一般項に関する研究です。
問題自体の解説は「一橋大学2019年数学第１問」にて公開しています。今回は問題文中で与えられている隣接3項間漸化式に注目します。
問題は以下のようなものでした。
《問題》
$p$を自然数とする。数列$\{a_n\}$を
$a_1=1$、$a_2=p^2$、$a_{n+2}=a_{n+1}-a_{n}+13$（$n=1,\,2,\,3,\cdots$）
により定める。数列$\{a_n\}$に平方数でない項が存在することを示せ。
（一橋大学2019年 第１問）
このような$$a_{n+2}=p a_{n+1}+q a_{n}+f(n)$$という形の漸化式は、階差数列を取ることでよくあるタイプの隣接3項間漸化式に変形できます。本問のように$f(n)$が定数であれば（煩雑ですが）解けないこともありません。$f(n)$が1次式以上だと2回階差をとる必要があり、手計算で解くのは現実的ではありません（一般項の形をある程度知っている上で解く方法はありますが）。
● ● ●
初項と第2項の値を色々変えたときの$a_n$の一般項は以下のようになっています。
$a_1=1$、$a_2=1$ のとき$$a_n=-8\sqrt{3}\sin \dfrac{n\pi}{3}+13$$
$a_1=1$、$a_2=2$ のとき$$a_n=-\dfrac{23}{\sqrt{3}}\sin \dfrac{n\pi}{3}-\cos \dfrac{n\pi}{3}+13$$
$a_1=1$、$a_2=3$ のとき$$a_n=-\dfrac{22}{\sqrt{3}}\sin \dfrac{n\pi}{3}-2\cos \dfrac{n\pi}{3}+13$$
$a_1=1$、$a_2=4$ のとき$$a(n)=-7 \sqrt{3} \sin \dfrac{n\pi}{3} -3 \cos \dfrac{n\pi}{3}+13$$
$a_1=1$、$a_2=5$ のとき$$a_n=-\dfrac{20}{\sqrt{3}}\sin \dfrac{n\pi}{3}-4\cos \dfrac{n\pi}{3}+13$$
ここから、何となく一般項$a_n$は三角関数の和として表せそうだということが推測できます。実際これは正しく、以下のように正当化されます。
隣接3項間漸化式$$a_{n+2}+p a_{n+1}+q a_{n}=0$$の特性方程式 $x^{2}+p x+q=0$ の２解を $\alpha$、$\beta$ とすると、一般解は
$\alpha \neq \beta$ のとき $ a_{n}=A \alpha^{n}+B \beta^{n}$
$\alpha=\beta$ のとき ${a}_{n}=(A+B n) \cdot \alpha^{n}$
となる。これより、特性方程式 $x^{2}+p x+q=0$ が共役な虚数解 $\alpha$、$\beta$ をもつとき、$\alpha=r(\cos \theta+i \sin \theta)\ \ (r>0)$ とすると$$a_{n}=r^{n}(A \cos n \theta+B \sin n \theta)$$と表せることが分かる。
この事実に基づけば、$$a_n=A\sin \dfrac{n\pi}{3}+B\cos \dfrac{n\pi}{3}+13$$と置いて初項と第2項の値を代入して係数を決定すれば良さそうです（漸化式の係数を考えれば、定数項は$13$で良いことが分かります）。
● ● ●
実際に一般項を求めてみましょう。
連立方程式$$\begin{cases} a_1=A\sin \dfrac{\pi}{3}+B\cos \dfrac{\pi}{3}+13 \\ a_2=A\sin \dfrac{2\pi}{3}+B\cos \dfrac{2\pi}{3}+13 \end{cases}$$を$A$、$B$について解くと、$$A=\dfrac{a_1+a_2-26}{\sqrt{3}}, \quad B=a_1-a_2$$を得るので、一般項は$$a_n=\dfrac{a_1+a_2-26}{\sqrt{3}}\,\sin \dfrac{n\pi}{3}+(a_1-a_2)\cos \dfrac{n\pi}{3}+13$$と求められます。これは上記の結果に一致しています。
問題文の通り $a_1=1$、$a_2=p^2$ とすると一般項は$$a_n=\dfrac{p^2-25}{\sqrt{3}}\,\sin \dfrac{n\pi}{3}+(1-p^2)\cos \dfrac{n\pi}{3}+13$$となります。$\sin \dfrac{n\pi}{3}$ および $\cos \dfrac{n\pi}{3}$ は$n$について周期６で繰り返し同じ値をとるので、数列$a_n$には高々6種類の項しか存在しないことが分かります。特性方程式の解が複素平面上の単位円周上に存在するとき、このように数列には有限個の値しか現れません。
● ● ●
余談ですが、階差数列を取って無理やり解くこともできます。ここでは結果だけ示します。
漸化式$$a_{n+2}=a_{n+1}-a_{n}+13$$で定まる数列$a_n$の一般項は、$\omega = -\dfrac{1}{2}+\dfrac{\sqrt{3}}{2}i$、$\omega^2 = -\dfrac{1}{2}-\dfrac{\sqrt{3}}{2}i$ とするとき、$$\begin{align} a_n=\,\,& \dfrac{1}{3(\sqrt{3}+i)} \left[ 2\sqrt{3}(-\omega^2)\left\{\left(-\omega\right)^{n}a_{1}-\left(-\omega^2\right)^{n}a_{2}\right\} \right. \\
& \ \ \ \ -2 \sqrt{3}\left\{\left(-\omega\right)^{n}a_{2}-\left(-\omega^2\right)^{n}a_{1}\right\} \\
& \ \ \ \ \ \ \ \ +26 \sqrt{3}(-\omega)\left\{\left(-\omega\right)^{n}-\left(-\omega^2\right)^{n}\right\} \\
& \left. \ \ \ \ \ \ \ \ \ \ \ \ +39 \sqrt{3}+39 i \right] \end{align}$$と表されます。ここで$\omega$は1の3乗根です。$a_{1}$と$a_{2}$がともに整数のとき、この右辺は任意の整数（負でも可）について整数値をとります。
この式を得るには、階差数列を取ってから隣接3項間漸化式を解く作業が必要で骨が折れます。
（コメント）
一般の隣接3項間漸化式は本稿で述べたように、一般項を三角関数の和、即ち極形式で表示することが可能です。一般項を無理やり推定して数学的帰納法で解く、という力技もできない訳ではありませんので、ひょっとすると本稿で紹介した知識が役に立つ機会があるかもしれません…。
本問の目標は一般項を求めることではないので問題解決にはあまり役立ちませんが、なかなか面白い結果だと思います。$a_n$が周期数列であることは一般項の形から従いますし、ある程度熟練すれば漸化式の係数を見るだけで周期数列だと気が付けるようになるかも？
蛇足ながら，この漸化式の一般項を求める方法としては，
「a[n+2]-13=(a[n+1]-13)-(a[n]-13)」を用いてa[n]-13=b[n]とおく」
方法もあり，そちらが普通かと思います．
(記事中の，「f(n)が定数であれば」の場合の解法としては，
p+q≠1の場合は，これに準じる方法の方が幾分楽だと思います．
ただ，p+q=1の場合には違う手法を用いる必要があるのは弱点です．
「違う手法」自体は簡単で，a[n+2]-a[n+1]=-q(a[n+1]-a[n])+f(n)を用います．)
この方法からは，b[n+2]=b[n+1]-b[n]から，b[n+3]=-b[n]を得て，
数列{b[n]}および数列{a[n]}は，周期6の周期数列とわかりますね．
たけちゃん さん
コメントありがとうございます。
本稿では一般項が三角関数の和として表せるという事実に注目して一般項を求めています。高校の授業ではあまり教わることのない内容かと思い、今回の記事で取り上げました。
仰る通り、本問のようなケースでは$$a_{n+2}-13=(a_{n+1}-13)-(a_n-13)$$と置いて一般項を求める場合がほとんどだと思います。勿論、数列の周期性は漸化式を解かずとも簡単に示されますね！
フォローして頂き、ありがとうございました！