EMA フィルタのカットオフの正確な計算を読む (github.com)
ふと思いついて Gemini 3 Pro に exponential moving average (EMA) フィルタのカットオフ周波数からフィルタ係数を正確に計算する方法を聞いてみたところ、使える回答が出てきました。 Gemini はバージョンが上がって 3.1 Preview や 3.5 Flash などが出ていますが、基本的な式変形は 3 Pro から得たものです。浮動小数点数の計算誤差に関する知識がなかったので検証に時間をかけました。
上の画像は素朴な計算方法の誤差、下の画像は正確な計算方法の誤差です。赤と青の線であらわされた誤差が対応するマシンイプシロンを示す黒い横線を下回っていれば完全に正確です。ところどころマシンイプシロンを上回っているので完全に正確ではなく、ほぼ正確といった性能です。