読者です 読者をやめる 読者になる 読者になる

INFINITY -数学とかプログラミングとか-

統計とプログラムを使って役に立たせたい

TeX用コマンド入力を支援するための辞書をご利用ください。
sanctuary's blogは,適当なことが書いてあります。

エントロピー近似

seminer ICA

 \int \varphi (\xi) \log (\xi) (\frac{k_3 H_3}{3!}+\frac{k_4 H_4}{4!})d\xi
が、0になる。
不等式評価とかしなくてよくて、単純にぶち込んで計算する。

\varphiは、ガウス分布。Hなんちゃらとかは、エルミート多項式
\varepsilon=\frac{k_3 H_3}{3!}+\frac{k_4 H_4}{4!}とする。

-\int_{}^{}\varphi \varepsilon\log(\varphi) d\xi=E\{(\frac{H_3(\xi)}{3!}+\frac{H_4(\xi)}{4!})(-\frac{1}{2}\log(2\pi)-\frac{x^2}{2})\}
=\frac{k_3}{3!}(-\frac{1}{2} \log(2\pi))(3-6+3)+\frac{k_4}{4!}(-\frac{1}{2})(15-6\cdot 3+3)=0

少々、面倒な計算を経て,
\int_{}^{}\varphi(\frac{k_3}{3!}(x^3-3x)+\frac{k_4}{4!}(x^4-6x^2+3))^3dx<br />
=k_4(\frac{648}{864}k_3^2+\frac{1728}{13824}k_4^2)

を得ることができる。