INFINITY -数学とかプログラミングとか-

統計とプログラムを使って役に立たせたい

TeX用コマンド入力を支援するための辞書をご利用ください。
sanctuary's blogは,適当なことが書いてあります。

2012-06-14から1日間の記事一覧

勾配降下法1(最急降下法)

勾配降下法をやっています。 問題設定:損失関数J(w)を最小にするようなwを求めることが目的です。 今、としておきます。Jのグラフは、のようになります。のとき最小値は0です。勾配はです。グラフは、 です。 func2=function(t){ return(t^4) } dffunc2=fun…

メモ(勾配降下法(最急降下法))

func2=function(t){ return(t^4) } dffunc2=function(t){ return(4*t^3) } grad2=function(x,rho,its){ cnt=1 for(i in 1:its){ xbefore=x x=x-rho*dffunc2(x) if(0==cnt%%1000000){ printf("cnt:%d;x=%f,abs(x-xbefore)=%.13f\n",cnt,x,abs(x-xbefore)) } i…

勾配降下法3(最急降下法)

2つ解がある場合。 x=seq(-10,10,,10000) func4=function(t){ return((t+3)^2*(t-3)^2) } plot(x,func4(x),xlim=c(-10,10),ylim=c(0,100),type="l") x=seq(-10,10,,10000) dffunc4=function(t){ return(2*(t+3)*(t-3)^2+(t+3)^2*(t-3)) } plot(x,dffunc4(x),…

勾配降下法2(最急降下法)

記事が長くなったので、新しい記事に書きます。とします。 func1=function(t){ return(t^2) } dffunc1=function(t){ return(2*t) } xlist=c() cntlist=c() errorlist=c() grad1=function(x,alpha,times){ cnt=1 for(i in 1:times){ xbefore=x x=x-alpha*dffu…