【最適化問題の基礎】ニュートン法で停留点を探す(鞍点と固有値の関係)

前回解説したニュートン法」を用いて曲面上における停留点を探索してみます。今回はその一つである「鞍点」について詳しく考察してみます。化学寄りの話題も含みます。

“【最適化問題の基礎】ニュートン法で停留点を探す(鞍点と固有値の関係)” の続きを読む

【最適化問題の基礎】ニュートン法とヘッセ行列

前回は最も単純な連続最適化の手法の一つである「最急降下法」について解説しました。続いて、本稿では目的関数の勾配の勾配(2次微分)「ヘッセ行列」の情報を使って最適化する「ニュートン法」について解説します。

“【最適化問題の基礎】ニュートン法とヘッセ行列” の続きを読む

【最適化問題の基礎】数理最適化とは何か

ここ数年~十数年のデータ科学の飛躍的な発展により、AIや機械学習が社会で広く利用されるようになりました。それに伴い、数理最適化の知識とそれを使いこなせる人材がこれまでになく求められる時代となっています。そこで管理人自身の知識整理も兼ねて【最適化問題の基礎】というシリーズで最適化手法についてまとめてみます。シリーズとは言っても、多分時々サボると思います…。

今回は、最適化問題を解くために用いられる数理最適化とはそもそも一体何なのかについて解説していきます。

“【最適化問題の基礎】数理最適化とは何か” の続きを読む