最適化手法のテストに利用される有名なベンチマーク関数を一覧にしました。
【最適化問題の基礎】準ニュートン法とセカント条件
前回解説した「ニュートン法」の弱点と、その改良版である「準ニュートン法」について解説します。準ニュートン法の実装例と結果についても掲載しています。
【最適化問題の基礎】ニュートン法で停留点を探す（鞍点と固有値の関係）
前回解説した「ニュートン法」を用いて曲面上における停留点を探索してみます。今回はその一つである「鞍点」について詳しく考察してみます。化学寄りの話題も含みます。
【最適化問題の基礎】ニュートン法とヘッセ行列
前回は最も単純な連続最適化の手法の一つである「最急降下法」について解説しました。続いて、本稿では目的関数の勾配の勾配（2次微分）「ヘッセ行列」の情報を使って最適化する「ニュートン法」について解説します。
【最適化問題の基礎】最急降下法とは何か
前回は最適化問題の基礎知識についてお話しました。今回は、最適化問題のうち、「連続最適化」の問題を解くために用いられる手法の一つである「最急降下法」について解説していきます。
【最適化問題の基礎】数理最適化とは何か
ここ数年～十数年のデータ科学の飛躍的な発展により、AIや機械学習が社会で広く認知され、利用されるようになりました。それに伴い、数理最適化の知識とそれを使いこなせる人材がこれまでになく求められる時代となっています。そこで管理人自身の知識整理も兼ねて【最適化問題の基礎】というシリーズで最適化手法についてまとめてみます。
今回は、最適化問題を解くために用いられる数理最適化とはそもそも一体何なのかについて解説していきます。