指数関数でフィッティングしても残差平方和が最小にならない(後編)

汎用的な表計算ソフトで2つの量(あるいは数)の関係を指数関数でフィッティングしても、それが残差平方和を最小にするものにならない、というケースを前編の記事で見ました。
後編では、どうしてそういうことが起こるのか、そしてその現象についてどう考えるべきなのか、という話をしていきます。
続きを読む →

指数関数でフィッティングしても残差平方和が最小にならない(前編)

2つの量(あるいは数)の関係を2次元平面にプロットしてそれを何らかの関数でフィッティングする、ということはある種の学問や現場ではよく行われます。そして与えられた関数の形に対して最もよくフィットするパラメータを求める方法として、最小二乗法(Least Squares Method)が非常によく使われます(他の方法を使おうものなら「それには何か意図があるのですか?」と問い詰められるレベルで標準的な方法だと思います)。最小二乗法とは、文字通りに残差の二乗の和(残差平方和)が最小になるようなパラメータを求める、というものです。

与えられたデータを簡単な形の関数でフィッティングする機能は、汎用の表計算ソフトにも当然に備わっています。深く考えずに「このソフトの出力結果は最小二乗法で求めたものでしょ」と思い込んでしまいがちですが、例えば指数関数でフィッティングすると、ソフトの出力結果は一般に残差平方和を最小にするものにはなりません。

続きを読む →