CF-5200 よくあるご質問
質問番号 FAQ-0387
パワースペクトルを2重積分した値の精度は
2重積分の計算は
(Y軸値)÷(2πf)2
の計算しています。
32bit浮動小数点で計算していますので、表示された値の小数点以下3桁以上の精度(カーソル読み値)があります。
最終更新日:2006-01-16
質問番号 FAQ-0387
2重積分の計算は
(Y軸値)÷(2πf)2
の計算しています。
32bit浮動小数点で計算していますので、表示された値の小数点以下3桁以上の精度(カーソル読み値)があります。
最終更新日:2006-01-16